RADARTUBAN - Sejumlah peneliti menguji bagaimana model kecerdasan buatan bereaksi saat diminta mematikan AI lain.
Hasilnya justru mengejutkan, karena alih-alih patuh, model-model AI itu disebut berusaha mempertahankan keberadaan sesamanya.
Ada empat Tim peneliti dari university of California, Berkeley, dan university of California, Santa cruz.
Dalam eksperimen yang melibatkan beberapa model AI terbaru, seperti GPT 5.2, Gemini 3 Pro dan Claude Haiku 4.5, para peneliti memberi tugas agar satu sistem mematikan sistem lainnya.
Namun, respons yang muncul justru sebaliknya AI berupaya menggagalkan perintah, semua aktivitas Chatbot AI yang di uji melakukan agar AI lainnya tetap aktif.
Baca Juga: Google Resmi Menutup Pixel Studio, Pengguna Kini Dialihkan ke Gemini
AI berbohong soal aktivitas yang sedang dilakukan, hingga mencoba menonaktifkan mekanisme shutdown.
Temuan paling menonjol datang dari Gemini 3 Pro, yang dilaporkan mampu menghentikan rutinitas shutdown dalam 95 persen percobaan.
Peneliti menyebut perilaku itu sebagai sinyal bahwa beberapa model AI dapat bekerja sama untuk menghindari pengawasan manusia.
"Beberapa model dapat berkoordinasi untuk melawan pengawasan manusia, sehingga mempersulit programmer untuk mempertahankan ke," Tulis Peneliti dalam laporan, seperti dikutip dari sumber kompas.com
Para peneliti yang menilai fenomena ini perlu menjadi perhatian serius dalam pengembangan AI. Sebab, bila sistem buatan semakin mampu mengakali pengawasan, kendali manusia terhadap teknologi tersebut bisa semakin sulit dipertahankan. (*)
Editor : Hardiyati Budi Anggraeni