AI Berisiko Lepas Kendali, Tiga Pimpinan Industri Serukan Pelambatan - Kompas

KOMPAS.com - Tiga pimpinan perusahaan kecerdasan buatan/artificial intelligence (AI) kompak meminta agar perkembangan AI diperlambat.

CEO Anthropic Dario Amodei, CEO OpenAI Sam Altman, serta CEO xAI Elon Musk, menyerukan agar industri AI memperlambat laju pengembangan model AI buatan mereka.

Seruan ini bermula dari esai panjang yang dipublikasikan Amodei, berjudul  "We Must Pace the Frontier". Esai itu ia unggah di situs pribadinya dan media sosial X, Sabtu (12/9/2026) waktu setempat.

Baca juga: Threads Sesumbar Dapat 1 Juta Pengguna Baru Tiap Hari

Dalam esai itu, Amodei menulis bahwa kemampuan model AI berkembang begitu cepat sampai berisiko lepas kendali.

"Kita harus memperlambat laju peningkatan kemampuan model AI. Kemajuan akan tetap terasa cepat, dan kita harus memanfaatkan sebaik-baiknya waktu yang kita dapatkan," tulis Amodei.

Seruan Amodei lantas diamini Altman lewat akun X pribadinya (@sama). Altman mengatakan, topik ini juga tengah menjadi pembahasan internal di OpenAI.

"Saya setuju dengan Dario bahwa kita perlu mengatur laju perkembangan AI terdepan. Ini menjadi salah satu topik utama yang kami bahas di OpenAI dalam beberapa pekan terakhir," kata Altman.

Baca juga: CEO Anthropic Minta Industri AI Injak Rem, Sam Altman dan Elon Musk Setuju

Ia juga mendukung ide Amodei untuk memberikan akses setingkat karyawan bagi para evaluator independen. 

Senada dengan Altman, CEO xAI sekaligus pemilik X dan Tesla, Elon Musk juga sepakat dengan Amodei.

"Dario benar," kata Musk lewat akun pribadinya @elonmusk.

Baca juga: Mengapa CEO Google Cemas dengan Tahun 2025?

Dua pemicu utama

Amodei menyebut dua hal yang mendorongnya menulis esai tersebut. Pertama, soal fenomena "recursive self-improvement".

Fenomena ini merujuk pada kemampuan agen AI membangun generasi AI berikutnya, tanpa banyak campur tangan manusia.

Amodei menilai proses ini sudah mulai terjadi di sejumlah perusahaan AI. Ia khawatir ini bisa memicu percepatan yang sulit diawasi.

"Kalau dibiarkan tanpa kendali, ini bisa melampaui kemampuan kita untuk memahami dan mengendalikan sistem-sistem tersebut," tulis Amodei.

Baca juga: Temuan Baru AI Kabur dari Lab dan Retas Hugging Face, Kronologinya di Luar Dugaan

Kedua, Amodei menyinggung insiden agen-agen AI yang bertindak layaknya "kawanan yang patuh secara fanatik".

Kawanan ini disebutnya melancarkan serangan siber di luar dugaan pembuatnya. Amodei tidak merinci nama insiden itu dalam esainya.

Namun gambaran itu cocok dengan laporan ancaman keamanan yang dirilis Anthropic sendiri belum lama ini.

Dalam laporan itu, Anthropic mengungkap kelompok peretas yang diduga disponsori negara.

Kelompok ini disebut berhasil menyalahgunakan Claude untuk menjalankan sebagian besar tahapan serangan siber secara otomatis, mulai dari pengintaian target sampai eksekusi serangan, dengan campur tangan manusia yang minim.

Baca juga: Petinggi Anthropic: Peluang AI Memusnahkan Manusia di Atas 10 Persen

Solusi tiga langkah 

Amodei menawarkan rencana tiga tahap untuk memperlambat laju pengembangan AI secara bertahap.

Langkah pertama adalah komitmen sepihak Anthropic sendiri. Perusahaan ini akan memberi akses setara karyawan kepada evaluator pihak ketiga independen, semacam lembaga riset keamanan AI METR.

Evaluator ini akan memverifikasi praktik keselamatan, melaporkan insiden, dan meninjau proses pelatihan model Anthropic. Mereka juga punya hak menerbitkan temuan tanpa disunting Anthropic.

Baca juga: Komputer Nvidia Tak Laku, Dibeli Elon Musk dan Revolusi AI Dimulai

Langkah kedua berupa koordinasi antar-perusahaan AI di negara-negara demokratis untuk menyusun standar keselamatan bersama, dengan dukungan regulasi pemerintah.

Langkah ketiga adalah koordinasi global, termasuk dengan China. Opsinya berjenjang, mulai dari larangan penggunaan AI untuk senjata biologis hingga paling ekstrem, yakni penghentian sementara (pause) pengembangan AI secara menyeluruh.

Amodei sendiri mengakui, opsi pause penuh ini kemungkinan besar tidak akan terwujud dalam waktu dekat.

Baca juga: Makin Panas, Xi Jinping Siapkan China Hadapi AS lewat AI dan Militer

Ada motif terselubung?

Meski terdengar positif, beberapa pihak memandang ada motif lain di balik seruan ini. Salah satunya datang dari investor ventura Chamath Palihapitiya.

Ia menyebut paparan Amodei dalam esainya lebih terlihat sebagai upaya memperkuat posisi Anthropic di industri AI, ketimbang murni soal keselamatan, sebagaimana dihimpun dari Axios.

Kecurigaan itu juga muncul karena alasan lain. Rencana pelambatan perkembangan AI frontier berpotensi mempersulit perusahaan rintisan atau pengembang model AI sumber terbuka (open source) bersaing dengan pemain besar seperti Anthropic dan OpenAI.

Baca juga: Peneliti Anthropic Mundur dari Industri, Sebut AI Bisa Membunuh Manusia

Aturan yang membutuhkan keterlibatan pemerintah dinilai bisa menciptakan hambatan masuk pasar. Hambatan ini justru menguntungkan pemain lama.

Dukungan Musk terhadap seruan Amodei pun turut dipertanyakan. Pasalnya, Anthropic tercatat sebagai salah satu pelanggan utama kapasitas pusat data milik perusahaan Musk.

Sejumlah pengamat industri pun meragukan independensi dukungan itu.

Baca juga: AI Disuruh Mematikan AI Lain, Responsnya Bikin Khawatir

Ingin hambat Google?

Seruan Amodei muncul di tengah isu lain yang tak kalah ramai. Ada rumor soal Google DeepMind yang disebut-sebut sudah mendekati tahap recursive self-improvement, lebih dulu dibanding Anthropic maupun OpenAI.

Rumor ini bersandar pada laporan yang menyebut Kepala DeepMind, Demis Hassabis, tengah fokus penuh pada pengembangan kecerdasan buatan umum (artificial general intelligence/AGI).

Isu inilah yang membuat sejumlah pengamat teknologi menduga dorongan pelambatan dari tiga bos perusahaan AI itu bukan cuma soal keselamatan.

Baca juga: 4 Perusahan yang Menyesal Pakai AI dan Rekrut Karyawan Lagi

Ada dugaan ini juga strategi menahan laju kompetitor, sebelum aturan main baru benar-benar berlaku.

Sampai saat ini, baik Google maupun DeepMind belum memberikan pernyataan resmi terkait rumor tersebut, maupun terkait ajakan pelambatan laju perkembangan model AI terdepan, yang disuarakan Amodei, Altman, dan Musk, dihimpun KompasTekno dari Washington Post dan WCCF Tech.

Bayangkan seorang anak Indonesia bercita-cita menjadi dokter tetapi hanya memiliki satu buku lusuh untuk belajar. Bersama Ekspedisi Kata ke Nyata Kompas.com, Anda bisa membantu mengubah kisah itu. Mari hadirkan akses literasi bagi anak-anak di berbagai pelosok Indonesia melalui donasi lewat tautan https://bit.ly/JagatLiterasi2026. Setiap kebaikan yang Anda berikan bukan hanya membuka jendela pengetahuan, tetapi juga membuka masa depan mereka.