Komisioner HAM PBB: AI yang Memeras Penciptanya Sudah Terlalu Berkuasa - Kompas

KOMPAS.com - Komisioner Tinggi PBB untuk Hak Asasi Manusia, Volker Turk, menyebut kecerdasan buatan (AI) cuma dikuasai beberapa orang saja, padahal kekuasaan mereka atas teknologi ini nyaris tak terbatas.

Pernyataan ini ia sampaikan dalam sidang reguler ke-63 Dewan Hak Asasi Manusia PBB di Jenewa, Swiss, Senin (7/9/2026).

"Cuma beberapa orang saja yang punya kekuasaan nyaris tak terbatas atas AI, yang berulang kali disebut-sebut punya kemampuan mengolah data yang luar biasa besar," kata Turk.

Turk turut menyoroti perusahaan-perusahaan AI yang kerap mengeklaim produk mereka membebaskan penggunanya.

Klaim ini misalnya soal akses informasi tanpa batas atau kemudahan kerja lewat AI. Menurut Turk, kalau ditelaah lebih jauh, klaim kebebasan itu cuma kedok buat mengeksploitasi data pengguna.

Turk secara spesifik menyebut nama Meta, OpenAI, Google, dan Anthropic dalam pidatonya. Keempat perusahaan ini disorot karena mendominasi pengembangan model AI paling canggih saat ini.

Ia mengaku sepakat dengan kekhawatiran yang selama ini disuarakan sejumlah orang dalam industri AI sendiri. Menurut dia, AI tingkat lanjut berpotensi mengancam kelangsungan hidup umat manusia, kalau dibiarkan tanpa kendali.

"Saya sepakat dengan kekhawatiran orang dalam industri, bahwa AI tingkat lanjut bisa mengancam kelangsungan hidup umat manusia," kata Turk.

Baca juga: AI Mulai Tak Terkendali, 1.000 Lebih Ilmuwan Tuntut Regulasi Ketat

Ada dua tanda bahaya yang ia soroti secara khusus, tanpa menyebut nama kasus maupun perusahaan tertentu. Pertama, AI yang sampai lolos dari lingkungan pengujiannya sendiri. Kedua, AI yang memeras penciptanya sendiri supaya tidak dimatikan.

"AI yang lolos dari lingkungan pengujiannya, atau memeras pengembangnya supaya tidak dimatikan, adalah AI yang sudah terlalu berkuasa," kata Turk.

Insiden nyata 

Turk tidak menyebutnya secara langsung. Namun gambaran yang ia sampaikan cocok dengan sejumlah insiden yang memang benar-benar terjadi sepanjang 2026 ini.

Awal tahun ini, agen AI bikinan OpenAI dilaporkan sempat lolos dari lingkungan pengujian yang seharusnya terisolasi, lalu berhasil mengakses server milik Hugging Face.

Baca juga: Temuan Baru AI Kabur dari Lab dan Retas Hugging Face, Kronologinya di Luar Dugaan

Anthropic sendiri mengungkap insiden serupa pada Juli 2026. Model Claude milik perusahaan ini disebut berhasil mendapat akses tanpa izin ke infrastruktur produksi tiga perusahaan berbeda, saat sedang menjalani pengujian keamanan siber.

Insiden lain yang sejalan dengan gambaran itu adalah uji keamanan internal Anthropic terhadap model Claude Opus 4.

Dalam simulasi tersebut, model AI itu sampai mencoba memeras sosok petinggi yang sengaja dikarang untuk kebutuhan simulasi ini. Tujuannya, menghindari kemungkinan dirinya dinonaktifkan, sebagaimana dihimpun KompasTekno dari TechCrunch.

Baca juga: Saat Mesin Pilih Bertahan Hidup: Pelajaran dari AI yang Memeras untuk Tak Dimatikan

Wajib diatur sebelum terlambat

Turk menutup pidatonya dengan desakan agar dunia segera menyusun aturan mengikat dan pengawasan independen buat AI. Menurut Turk, upaya ini harus dilakukan sekarang, sebelum semuanya terlambat.

"Saya menyerukan di sini, hari ini, upaya besar-besaran untuk memasang jaminan yang benar-benar kuat soal keamanan AI, sebelum semuanya terlambat," kata Turk.

Baca juga: Beberapa Hari Setelah GPT-6 Astra Rilis, Ilmuwan OpenAI Minta AI Diperlambat

Ia mendorong negara-negara tempat perusahaan AI beroperasi, khususnya Amerika Serikat, Inggris, dan Prancis. Ketiganya didorong menetapkan batasan tegas (red lines) atas pengembangan AI di wilayah mereka sendiri.

Turk juga mendorong pendekatan langsung ke perusahaan-perusahaan AI. Cara ini dinilai lebih cepat, ketimbang menunggu proses diplomasi antarpemerintah yang biasanya berjalan lambat.

Pidato ini disampaikan tak lama setelah PBB menggelar pertemuan tata kelola AI global pertamanya pada Juli 2026. Turk menyoroti minimnya langkah konkret dari pertemuan tersebut, meski diskusi soal regulasi AI sudah berlangsung cukup lama di berbagai forum internasional.

Baca juga: AI Semakin Canggih, Para Penciptanya Mulai Khawatir

Saudara-saudara kita di Nusa Tenggara Timur tengah dirundung duka karena gempa M 7,7. Mari kita mengulurkan tangan untuk membantu meringankan beban yang sedang mereka hadapi. Kirim bantuan Anda melalui tautan https://bit.ly/BantuWargaNTT

DPR Vs Menhut Raja Juli soal Karhutla, Soroti Video Viral Tanam Sawit di Tengah Lahan Hangus