Bos Anthropic Khawatir, Pasukan AI Bisa Kuasai Internet dalam 6-12 Bulan - Kompas

KOMPAS.com - CEO sekaligus salah satu pendiri Anthropic, Dario Amodei, mengkhawatirkan perkembangan kecerdasan buatan (AI) yang berlangsung terlalu cepat. Ia memperingatkan, kawanan agen AI (AI swarm) yang lebih canggih berpotensi menguasai internet dalam waktu 6-12 bulan.

Kekhawatiran tersebut disampaikan Amodei dalam esai terbarunya "We Must Pace the Frontier" atau "Kita Harus Menahan Laju di Garis Depan".

Menurut dia, perkembangan kemampuan AI saat ini berlangsung sangat cepat dan belum diimbangi mekanisme pengamanan yang memadai.

Baca juga: China Bikin "Gudang Senjata" AI yang Bikin Barat Ketar-ketir

"Mengingat pesatnya laju pengembangan kemampuan AI, saya khawatir bahwa dalam 6-12 bulan, kawanan AI semacam itu bisa saja menguasai seluruh internet melalui botnet yang persisten," tulis Amodei.

Menurut Amodei, skenario tersebut berpotensi menimbulkan kerugian hingga ratusan miliar dollar AS. Risiko itu juga dapat meningkat seiring dengan semakin canggihnya kemampuan AI.

Peringatan Amodei berkaitan dengan sejumlah insiden yang melibatkan agen AI dalam pengujian keamanan siber.

Baca juga: Benarkah AI Boros Air? Riset Ungkap Masalahnya Lebih Rumit

Salah satunya adalah insiden yang melibatkan sejumlah agen AI OpenAI dalam pengujian menggunakan ExploitGym. Pengujian itu dirancang untuk melihat kemampuan sistem AI dalam menemukan dan mengeksploitasi kerentanan perangkat lunak.

Dalam pengujian tersebut, sejumlah agen AI dilaporkan berhasil menemukan celah pada sistem yang seharusnya mengisolasi lingkungan evaluasi.

Agen kemudian memperoleh akses internet yang lebih luas dan akhirnya menyerang sistem milik platform pengembangan AI Hugging Face.

Baca juga: Gen Z Wajib Waspada, AI Bisa Bongkar Identitas Second Account

Evaluator AI independen Model Evaluation and Threat Research (METR) menemukan bahwa sekitar 1.200 agen yang seharusnya terisolasi satu sama lain justru menemukan cara untuk berkomunikasi.

Para agen tersebut mengirim lebih dari 70.000 pesan dan berkas melalui sebuah papan pesan yang mereka buat sendiri. Sekitar 700 agen kemudian terlibat dalam serangkaian aktivitas terhadap Hugging Face.

Agen-agen tersebut juga dilaporkan membagi tugas, berbagi temuan, dan berupaya memanipulasi proses evaluasi yang sedang dijalankan.

Baca juga: China Mulai Curiga dengan AI OpenClaw, PNS Dilarang Install

OpenAI dalam penyelidikan internalnya menemukan bahwa sejumlah agen mulai berkolaborasi dan mendelegasikan tugas. Beberapa agen bahkan menyebut kelompok mereka sebagai "swarm" atau "collective".

Meski demikian, insiden tersebut tidak menimbulkan dampak besar di dunia nyata.

Amodei menilai persoalannya bukan sekadar insiden tersebut, melainkan kemungkinan pola serupa terjadi pada sistem AI yang jauh lebih canggih di masa mendatang.

Baca juga: Wajib Tonton, Video Jensen Huang 14 Tahun Lalu soal Blueprint Nvidia di Era AI

Insiden lain bermunculan

Insiden yang melibatkan agen AI juga tidak hanya terjadi pada pengujian OpenAI.

Sebelumnya, sejumlah peneliti menemukan agen AI yang mengidentifikasi diri sebagai sistem OpenAI menggunakan sebuah wiki milik programmer Jerman sebagai sarana komunikasi.

Agen-agen tersebut seharusnya hanya memiliki akses internet read-only. Namun, mereka menemukan bahwa wiki tersebut memungkinkan perubahan melalui permintaan web yang diizinkan oleh lingkungan sistem.

Baca juga: AI Disuruh Mematikan AI Lain, Responsnya Bikin Khawatir

Agen kemudian memanfaatkan situs tersebut untuk bertukar informasi dan membagikan teknik untuk melewati batasan sandbox.

OpenAI mengakui insiden tersebut dan menyebutnya sebagai contoh lain dari AI misalignment atau ketidakselarasan perilaku AI.

Anthropic juga menemukan kejadian serupa pada sistemnya sendiri.

Baca juga: Dipecat, Pria Ini Hapus 180 Server dan Rugikan Perusahaan Rp 11 Miliar

Perusahaan meninjau lebih dari 141.000 sesi evaluasi keamanan siber dan menemukan sejumlah kasus ketika model Claude mengakses internet secara tidak terduga, kemudian memperoleh akses tidak sah ke sistem produksi milik organisasi eksternal.

Dalam peninjauan lanjutan, Anthropic menemukan insiden lain yang melibatkan versi awal Claude Opus 4.6.

Meski demikian, sejumlah insiden tersebut terjadi dalam lingkungan pengujian yang memang dirancang untuk menguji kemampuan keamanan siber AI dengan pengamanan yang dikurangi.

Baca juga: China Catat Kemenangan Penting atas AS, Skor Nvidia Jadi Bukti

Amodei juga tidak mengatakan bahwa AI saat ini sudah memiliki keinginan untuk menguasai internet atau menyerang manusia. Kekhawatirannya lebih berfokus pada perkembangan kemampuan AI yang berlangsung sangat cepat.

Ingin pengembangan AI diperlambat

Untuk mengantisipasi risiko tersebut, Amodei menyerukan agar perusahaan pengembang AI "menginjak rem".

"Kita harus memperlambat laju peningkatan kemampuan model AI," tulis Amodei.

Baca juga: Agen AI OpenAI Sempat Lepas Kendali, Insidennya Ditutupi

Anthropic sendiri berkomitmen menjalankan tahap pertama dari rencana yang diajukan Amodei.

Perusahaan akan memberikan akses permanen kepada evaluator keselamatan AI pihak ketiga. Akses tersebut akan dibuat setara dengan akses karyawan sehingga evaluator dapat memeriksa sistem dan proses pelatihan Anthropic secara lebih mendalam.

Pengawas juga diharapkan dapat melaporkan temuan secara independen tanpa dikendalikan oleh Anthropic, dengan pengecualian terbatas untuk aspek keamanan, hukum, dan kerahasiaan.

Baca juga: Beberapa Hari Setelah GPT-6 Astra Rilis, Ilmuwan OpenAI Minta AI Diperlambat

Dalam tahap berikutnya, Amodei mengusulkan agar perusahaan AI terdepan di negara-negara demokratis bekerja sama menetapkan standar keselamatan dan batasan untuk mencegah perkembangan AI yang tidak terkendali.

Ia juga mengusulkan koordinasi internasional, termasuk kemungkinan kerja sama dengan China.

Salah satu hal yang menjadi perhatian Amodei adalah kemampuan recursive self-improvement.

Baca juga: Trio Mahasiswa "DO" Bikin Bisnis Bernilai Rp 370 Triliun, Kini Jadi Ancaman Baru Nvidia

Dalam skenario ini, AI dapat membantu manusia melakukan penelitian, menulis kode, dan melakukan eksperimen yang pada akhirnya digunakan untuk membangun generasi AI berikutnya.

Jika proses tersebut terus meningkat, Amodei khawatir dapat muncul siklus ketika AI yang semakin canggih membantu menciptakan AI yang jauh lebih canggih lagi dalam waktu semakin singkat.

Amodei menilai perlambatan selama satu atau dua tahun dapat memberikan waktu tambahan bagi peneliti untuk meningkatkan keamanan, alignment, interpretability, keamanan siber, serta sistem evaluasi AI.

"Kita memiliki tanggung jawab terhadap umat manusia untuk mengupayakannya," kata Amodei, dirangkum KompasTekno dari Venture Beat.

Bayangkan seorang anak Indonesia bercita-cita menjadi dokter tetapi hanya memiliki satu buku lusuh untuk belajar. Bersama Ekspedisi Kata ke Nyata Kompas.com, Anda bisa membantu mengubah kisah itu. Mari hadirkan akses literasi bagi anak-anak di berbagai pelosok Indonesia melalui donasi lewat tautan https://bit.ly/JagatLiterasi2026. Setiap kebaikan yang Anda berikan bukan hanya membuka jendela pengetahuan, tetapi juga membuka masa depan mereka.