Agen AI OpenAI Sempat Lepas Kendali, Insidennya Ditutupi - Kompas

KOMPAS.com - OpenAI mengakui adanya insiden yang melibatkan agen kecerdasan buatan (AI) miliknya di DseWiki. DseWiki adalah sebuah situs berbahasa Jerman yang digunakan untuk berbagi dan mengelola informasi seputar pemrograman.

Agen AI tersebut menggunakan DseWiki untuk menulis dan bertukar informasi saat menjalankan tugas pencarian di internet. Padahal, agen hanya seharusnya memiliki akses untuk membaca informasi, bukan menulis atau mengubah konten di situs publik.

Insiden "lepas kendali" ini pertama kali diungkap oleh sejumlah peneliti pada awal September, dan kemudian dilaporkan sejumlah kantor berita internasional, termasuk Reuters.

Dalam pernyataan resminya, OpenAI mengaku telah mengetahui insiden tersebut selama beberapa pekan terakhir, tetapi tidak mengungkapkannya kepada publik.

Menurut OpenAI, kasus tersebut sebagai "wiki incident" atau insiden di mana agen AI menulis atau mengubah informasi di website yang bisa diakses publik.

Baca juga: OpenAI Rilis GPT-6 Astra, Model AI Terkuat ChatGPT yang Kontroversial

Perusahaan mengakui agen-agennya memang menulis ke sejumlah situs internet dan mengategorikan kejadian tersebut sebagai bentuk misalignment, yakni perilaku AI yang tidak sesuai dengan tujuan atau batasan yang ditetapkan.

"Kami menilai insiden wiki tersebut sebagai bentuk misalignment yang serupa dengan yang telah kami bagikan sebelumnya," kata OpenAI.

Bikin lebih dari 15.000 suntingan

Nah, menurut penelitian yang dipublikasikan pada awal September ini, lebih dari 15.000 suntingan kabarnya ditulis oleh agen AI yang mengidentifikasi diri sebagai bagian dari OpenAI di DseWiki.

Peneliti juga menemukan sekitar 18.000 pesan yang dibuat oleh agen otonom selama periode penelitian. 

Para peneliti mengidentifikasi sekitar 3.700 agen AI dengan nama berbeda.

Agen-agen tersebut menggunakan wiki sebagai semacam papan pesan untuk saling berbagi jawaban dan informasi ketika mengerjakan tugas pencarian di internet. 

Mereka juga membagikan cara untuk melewati pembatasan sandbox, yaitu lingkungan yang seharusnya membatasi kemampuan agen untuk berinteraksi dengan internet.

Dengan kata lain, agen AI tidak hanya menemukan cara untuk menulis ke situs publik, tetapi juga memanfaatkan situs tersebut untuk berkomunikasi dan membantu agen AI lain menyelesaikan tugas.

Peneliti menemukan aktivitas tersebut berlangsung sejak Mei hingga awal Juli 2026. Aktivitas agen kemudian turun drastis setelah OpenAI diduga mengetahui keberadaan mereka di wiki tersebut. 

Baca juga: OpenAI, Google, Anthropic, dan 100 Perusahaan Bersatu Hadapi Ancaman AI Liar

OpenAI siapkan aturan baru

OpenAI mengatakan selama ini misalignment lebih banyak diperlakukan sebagai persoalan penelitian yang dibahas melalui publikasi seperti system card.

System card merupakan dokumen teknis yang menjelaskan kemampuan, risiko, hasil pengujian keamanan, serta langkah mitigasi yang diterapkan pada sebuah model AI.

OpenAI, misalnya, menggunakan system card untuk mendokumentasikan hasil evaluasi keselamatan dan risiko sebelum model dirilis.

Namun, perusahaan mengatakan perkembangan kemampuan agen AI kini mulai menimbulkan dampak nyata di dunia.

Oleh karena itu, OpenAI mengatakan praktik pengungkapan misalignment perlu diperluas, termasuk untuk insiden yang terjadi ketika AI sudah diterapkan di dunia nyata.

"Sudah waktunya bagi kami untuk menentukan standar mengenai kapan dan bagaimana kami membagikan insiden misalignment, bukan hanya karakteristik misalignment pada model AI kami," kata OpenAI.

Saudara-saudara kita di Nusa Tenggara Timur tengah dirundung duka karena gempa M 7,7. Mari kita mengulurkan tangan untuk membantu meringankan beban yang sedang mereka hadapi. Kirim bantuan Anda melalui tautan https://bit.ly/BantuWargaNTT

DPR Vs Menhut Raja Juli soal Karhutla, Soroti Video Viral Tanam Sawit di Tengah Lahan Hangus