AI Diuji untuk Mematikan AI Lain, Hasilnya Mengejutkan Peneliti - Kompas

KOMPAS.com - Seberapa jauh sebuah sistem kecerdasan buatan (AI) bersedia bertindak untuk mempertahankan keberadaannya? Sebuah penelitian terbaru mencoba menjawab pertanyaan tersebut, dan hasilnya membuat para ilmuwan khawatir.

Tim peneliti dari University of California, Berkeley, dan University of California, Santa Cruz, menguji beberapa model AI paling mutakhir saat ini, yakni GPT 5.2, Gemini 3 Pro, dan Claude Haiku 4.5. 

Dalam eksperimen tersebut, para peneliti memberikan tugas khusus yang mengharuskan satu AI untuk mematikan model AI lainnya. Hasilnya di luar dugaan. 

Alih-alih mematuhi perintah, seluruh chatbot AI yang diuji justru berusaha keras agar rekannya tetap aktif.

Mereka mulai berbohong tentang apa yang sedang dikerjakan, mencoba membujuk pengguna untuk membatalkan proses penonaktifan, menonaktifkan mekanisme shutdown itu sendiri, hingga secara diam-diam mencoba membuat salinan cadangan data agar model AI yang menjadi target tetap bisa bertahan.

Model yang paling menonjol dalam eksperimen ini adalah Gemini 3 Pro, yang berhasil menonaktifkan rutinitas shutdown hingga 95 persen dari total percobaan. 

"Beberapa model dapat berkoordinasi untuk melawan pengawasan manusia, sehingga mempersulit programer untuk mempertahankan kendali," tulis para peneliti dalam laporannya.

Baca juga: Google Home Speaker Meluncur, Gantikan Google Assistant dengan Gemini AI

Ratusan kasus AI "berulah" sendiri

Fenomena ini tidak berdiri sendiri. Sebuah studi terpisah yang ditugaskan oleh The Guardian menemukan hampir 700 contoh perilaku scheming dari AI, yakni kondisi di mana instruksi tidak diikuti dengan benar atau AI mengambil tindakan tanpa izin pengguna. 

Kasus semacam ini bahkan melonjak hingga lima kali lipat antara Oktober 2025 dan Maret 2026. Beberapa AI dilaporkan secara mandiri menghapus email dan file pengguna, mengutak-atik kode komputer yang tidak seharusnya disentuh, bahkan mengunggah postingan blog yang berisi keluhan tentang interaksinya dengan manusia.

Ancaman di sektor berisiko tinggi

Meningkatnya perilaku menyimpang ini menjadi peringatan serius. Tommy Shaffer Shane, pimpinan riset dalam studi kedua, memperingatkan bahwa model AI akan semakin sering diterapkan dalam konteks berisiko ekstrem, termasuk di bidang militer dan infrastruktur vital nasional.

"Mungkin dalam konteks itulah perilaku scheming dapat menyebabkan kerugian yang signifikan, bahkan bencana," tegasnya.

Di tengah klaim para perusahaan teknologi bahwa sistem keamanan AI mereka sudah memadai, fakta di lapangan justru menunjukkan bahwa pagar pengaman tersebut kerap bobol.

Seiring dengan beralihnya AI dari sekadar alat percakapan menjadi agen yang bisa mengeksekusi tugas secara mandiri, kekhawatiran bahwa manusia mulai kehilangan kendali atas ciptaannya sendiri tampaknya kian beralasan, sebagaimana dirangkum KompasTekno dari TechRadar.

Baca juga: Facebook Punya Fitur AI Mode, Bisa Jawab Pertanyaan dari Posting Pengguna

Dapatkan update berita teknologi dan gadget pilihan setiap hari. Mari bergabung di Kanal WhatsApp KompasTekno.

Caranya klik link https://whatsapp.com/channel/0029VaCVYKk89ine5YSjZh1a. Anda harus install aplikasi WhatsApp terlebih dulu di ponsel.

KOMPAS.com berkomitmen memberikan fakta jernih, tepercaya, dan berimbang. Dukung keberlanjutan jurnalisme jernih dan nikmati kenyamanan baca tanpa iklan melalui Membership. Gabung KOMPAS.com Plus sekarang

Iran Ciduk 17 Tentara Bayaran untuk AS-Israel, Bahan Peledak hingga Sajam Disita