OpenAI Bikin AI GPT-Red untuk Melawan AI-nya Sendiri - Kompas,

KOMPAS.com - OpenAI memperkenalkan sistem kecerdasan buatan (artificial intelligence/AI) internal bernama GPT-Red.

Model ini dirancang untuk "menyerang" AI buatan OpenAI sendiri, guna menemukan celah keamanan sebelum disalahgunakan pihak lain.

GPT-Red dikembangkan sebagai alat red teaming, yakni proses pengujian yang selama ini umumnya dilakukan tim keamanan siber untuk mencari kelemahan pada suatu sistem.

Bedanya, GPT-Red menjalankan tugas tersebut secara otomatis menggunakan AI, sehingga mampu melancarkan serangan dalam jumlah jauh lebih banyak dibandingkan penguji manusia.

Dalam pengujiannya, GPT-Red mengirim berbagai prompt ke model AI target, lalu menganalisis respons yang diberikan. Jika upaya tersebut gagal menemukan celah, GPT-Red akan mengubah strategi dan mencoba lagi hingga memperoleh hasil yang diinginkan.

Baca juga: OpenAI Rilis GPT-5.6, Kini ChatGPT Bisa Pakai 4 AI Sekaligus

OpenAI menjelaskan, GPT-Red dilatih menggunakan metode reinforcement learning self-play, yaitu teknik yang mempertemukan AI penyerang dengan AI bertahan dalam berbagai skenario.

Model penyerang memperoleh "hadiah" ketika mengeksploitasi sistem, sedangkan model bertahan mendapat imbalan jika mampu menggagalkan serangan.

Proses tersebut diulang terus-menerus sehingga kemampuan kedua model meningkat secara bertahap.

Baca juga: Perusahaan Bimbel Online Bangkrut gara-gara ChatGPT

Disebut lebih efektif dari manusia

OpenAI mengklaim, GPT-Red mampu menemukan celah keamanan dengan tingkat keberhasilan yang jauh lebih tinggi dibandingkan tim keamanan manusia.

Dalam pengujian internal, GPT-Red mengeksploitasi 84 persen skenario yang diuji, sementara manusia hanya mencatat tingkat keberhasilan 13 persen.

OpenAI juga menyebut, penggunaan GPT-Red dapat memangkas tingkat keberhasilan serangan prompt injection dibanding model produksi OpenAI empat bulan sebelumnya.

Baca juga: AWS Luncurkan Server Virtual Baru, "Pelatih" AI yang Lebih Tangguh

Selain itu, jenis serangan fake chain-of-thought yang sebelumnya mampu menembus model GPT-5.1 dengan tingkat keberhasilan lebih dari 95 persen kini hanya kurang dari 10 persen terhadap GPT-5.6.

GPT-Red juga diuji untuk sejumlah agen AI. Dalam salah satu pengujian, sistem tersebut dapat mengambil alih agen mesin penjual otomatis virtual bernama Vendy, mengubah harga produk, hingga membatalkan pesanan.

GPT-Red juga mampu memanipulasi agen AI berbasis command line yang digunakan untuk membantu proses pemrograman.

Baca juga: Ironis, Sanksi AS ke China Justru Lahirkan AI DeepSeek "Pembunuh" ChatGPT

"Dibandingkan dengan tim red teaming manusia, model ini sangat, sangat bagus dalam menemukan apa yang benar-benar berhasil," kata peneliti OpenAI Dylan Hunn.

Peneliti OpenAI lainnya, Nikhil Kandpal, mengatakan bahwa risiko keamanan akan terus meningkat seiring AI menjadi semakin otonom.

"Permukaan risikonya bertambah dan radius dampaknya juga semakin besar," ujarnya.

Baca juga: Grok Jadi Aplikasi Terpisah, Bisa Diunduh di HP dan Desktop

Tidak akan dirilis ke publik

Meski demikian, OpenAI menegaskan, GPT-Red bukan produk komersial dan tidak akan tersedia untuk publik.

OpenAI memilih menyimpan model tersebut secara internal agar kemampuan yang dimilikinya tidak disalahgunakan oleh pihak lain.

Sebaliknya, temuan GPT-Red digunakan untuk memperkuat model AI OpenAI melalui proses pelatihan lanjutan. 

Baca juga: OpenAI Luncurkan GPT-Live, ChatGPT Voice Kini Lebih Pintar dan Natural

OpenAI juga mengakui GPT-Red masih memiliki sejumlah keterbatasan.

Model tersebut dinilai belum optimal menghadapi serangan multi-turn conversation yang berlangsung dalam beberapa tahap. Selain itu, kemampuannya dalam mendeteksi serangan prompt injection berbasis gambar juga masih terbatas.

Karena itu, OpenAI mengatakan pengujian keamanan oleh manusia tetap dibutuhkan untuk melengkapi kemampuan GPT-Red.

Baca juga: 6 Teknologi AI China yang Tantang Dominasi AS

Pengumuman GPT-Red hadir beberapa pekan setelah OpenAI merilis GPT-5.6, yang diposisikan untuk bersaing dengan model AI terbaru Anthropic.

Langkah ini juga menunjukkan bahwa prompt injection masih menjadi salah satu tantangan terbesar dalam keamanan AI, di tengah semakin luasnya penggunaan agen AI yang mampu menjalankan tugas secara mandiri.

Jessica Ji, analis riset senior di Center for Security and Emerging Technology, Georgetown University, menilai hasil yang dicapai GPT-Red cukup menjanjikan.

Meski demikian, ia menegaskan keahlian manusia tetap memiliki peran penting dalam proses pengujian keamanan AI, sebagaimana dirangkum KompasTekno dari SiliconANGLE dan MIT Technology Review.

KOMPAS.com berkomitmen memberikan fakta jernih, tepercaya, dan berimbang. Dukung keberlanjutan jurnalisme jernih dan nikmati kenyamanan baca tanpa iklan melalui Membership. Gabung KOMPAS.com Plus sekarang