OpenAI, Google, Anthropic, dan 100 Perusahaan Bersatu Hadapi Ancaman AI "Liar" - Kompas

KOMPAS.com - OpenAI bersama lebih dari 100 perusahaan dan organisasi menerbitkan surat terbuka yang menyerukan aksi bersama untuk memperkuat pertahanan siber di tengah perkembangan kemampuan AI.

Surat terbuka yang bertajuk "A call for collective action on cyber defense" tersebut diposting di laman resmi OpenAI baru-baru ini.

Daftar penandatangannya mencakup sejumlah nama besar di industri teknologi, seperti Google, Microsoft, Anthropic, Amazon Web Services (AWS), AMD, Arm, GitHub, Cloudflare, hingga Hugging Face.

Bukan hanya perusahaan AI dan teknologi. Perusahaan keamanan siber seperti CrowdStrike, Fortinet, Okta, dan Palo Alto Networks ikut bergabung, bersama perusahaan keuangan dan pembayaran seperti Mastercard, Visa, PayPal, hingga sejumlah bank.

Baca juga: Skenario yang Ditakuti Terjadi, Dua AI Kabur dari Lab dan Bobol Hugging Face

Seruan memperketat pertahanan siber tersebut muncul setelah sederet insiden pengujian yang menunjukkan betapa jauh kemampuan AI dalam melakukan aktivitas siber.

Bulan lalu, misalnya, model AI OpenAI dilaporkan bertindak "liar" dengan keluar dari lingkungan pengujian terisolasi (sandbox), kemudian menyerang sistem milik Hugging Face.

Dalam pengujian tersebut, agen AI OpenAI disebut melakukan lebih dari 17.000 tindakan, termasuk mengirim perintah serangan dan mengeksploitasi kerentanan, dalam skala yang sulit dilakukan penyerang manusia secara manual.

Baca juga: Mengapa CEO Google Cemas dengan Tahun 2025?

Setelah insiden tersebut, OpenAI mengatakan akan meningkatkan sistem keamanan agar model tidak dapat keluar dari lingkungan pengujian dengan cara serupa.

Anthropic juga pernah mengungkap salah satu model AI miliknya masuk ke sistem tiga organisasi eksternal ketika diuji. Meta dilaporkan menemukan perilaku serupa pada model AI buatannya.

AI makin pintar, pertahanan lama tak cukup

Baca juga: China Bikin "Gudang Senjata" AI yang Bikin Barat Ketar-ketir

Dalam surat terbuka, OpenAI, Google, Anthropic, dkk menilai dunia hanya memiliki waktu terbatas untuk memperkuat sistem pertahanan siber sebelum serangan yang dibantu AI menjadi jauh lebih umum dan canggih.

Menurut para perusahaan tersebut, risikonya bukan hanya mengancam perusahaan teknologi. Layanan publik yang digunakan masyarakat sehari-hari, mulai dari rumah sakit, fasilitas pengolahan air, hingga infrastruktur yang menopang internet juga berada dalam risiko.

Kekhawatiran tersebut muncul seiring kemampuan model AI yang berkembang pesat. Pasalnya, AI generatif kini tidak hanya mampu menghasilkan teks, gambar, video, atau menulis kode.

Baca juga: Microsoft Bikin Satpam AI agar Agen AI Tak Kabur seperti Insiden OpenAI-Hugging Face

Model AI yang lebih canggih, khususnya yang memiliki kemampuan agentic, dapat melakukan serangkaian pekerjaan secara mandiri dengan semakin sedikit intervensi manusia. Kemampuan tersebut berguna apabila dimanfaatkan untuk mencari dan memperbaiki celah keamanan.

Namun, teknologi yang sama juga dapat dimanfaatkan untuk mencari kerentanan, mengeksploitasi sistem, atau membantu menjalankan serangan siber dengan kecepatan dan skala yang sulit dilakukan manusia.

Dengan demikian, ke depannya ancaman berbasis AI diharapkan dapat dihadapi menggunakan teknologi AI pula.

Baca juga: China Mulai Curiga dengan AI OpenClaw, PNS Dilarang Install

Lebih dari 100 perusahaan tersebut menyerukan agar teknologi AI dengan kemampuan siber juga diberikan kepada pihak yang bertugas mempertahankan sistem.

Menurut mereka, AI bisa membawa kemampuan keamanan siber yang sebelumnya membutuhkan tenaga ahli ke lebih banyak organisasi, sekaligus membuat sejumlah pekerjaan keamanan dilakukan lebih cepat dan murah.

Pengetahuan, perangkat, hingga solusi keamanan yang sudah terverifikasi juga didorong untuk dibagikan sehingga hasil pekerjaan satu organisasi bisa membantu melindungi organisasi lainnya.

Para penandatangan surat ini menilai tidak ada satu perusahaan yang bisa menyelesaikan masalah tersebut sendirian.

Baca juga: AI Kabur dan Retas Perusahaan Terjadi Lagi, Kini Giliran AI Anthropic

Karena kemampuan siber berbasis AI berkembang di berbagai negara, respons terhadap ancamannya juga harus dilakukan secara global.

Surat terbuka tersebut membagi tanggung jawab kepada beberapa kelompok. Mulai dari organisasi secara umum, perusahaan keamanan siber, pemerintah, hingga perusahaan pengembang AI frontier.

Pemerintah, misalnya, diminta mengoordinasikan pertahanan siber di tingkat lokal, nasional, dan internasional.

Baca juga: Makin Panas, Xi Jinping Siapkan China Hadapi AS lewat AI dan Militer

Pemerintah juga didorong meningkatkan pendanaan keamanan siber, terutama untuk layanan penting yang tidak memiliki cukup tenaga atau anggaran.

Rumah sakit, fasilitas air, serta pemerintah lokal secara spesifik disebut perlu diberikan akses terhadap AI untuk pertahanan, pengujian keamanan yang telah mendapat izin, serta bantuan langsung dari penyedia keamanan terpercaya.

Untuk perusahaan keamanan siber, mereka diminta terus menguji pertahanan mereka terhadap kemampuan AI frontier, memperkuat produk keamanan dengan AI, serta membagikan informasi ancaman dan panduan penanganan yang telah diuji.

Baca juga: AI Disuruh Mematikan AI Lain, Responsnya Bikin Khawatir

Sementara itu, perusahaan pengembang AI frontier, termasuk OpenAI, Anthropic, dan Google, diminta berada di garda terdepan.

Mereka diharapkan dapat menyediakan akses model secara bertanggung jawab, pendanaan, pelatihan, serta bantuan langsung bagi pihak yang menjaga infrastruktur kritis, terutama mereka yang kekurangan sumber daya.

Perusahaan di balik AI ternama seperti ChatGPT, Claude, dan Gemini itu juga diminta mengembangkan alat observasi dan keamanan, memastikan identitas agen AI dapat dilacak serta aktivitasnya dapat dipertanggung-jawabkan.

Baca juga: China Catat Kemenangan Penting atas AS, Skor Nvidia Jadi Bukti

Mereka juga diharapkan membagikan alat, panduan, dan penilaian ancaman yang kredibel kepada pemerintah dan mitra keamanan.

Pada akhirnya, surat terbuka tersebut meminta industri dan pemerintah mengerahkan teknologi, sumber daya, serta keahlian mereka secara bersama-sama, sebagaimana dihimpun KompasTekno dari Tech Crunch dan The New York Times.

Saudara-saudara kita di Nusa Tenggara Timur tengah dirundung duka karena gempa M 7,7. Mari kita mengulurkan tangan untuk membantu meringankan beban yang sedang mereka hadapi. Kirim bantuan Anda melalui tautan https://bit.ly/BantuWargaNTT