Discord Salah Blokir 8.000 Akun gara-gara Moderasi AI - Kompas

KOMPAS.com - Platform komunikasi Discord mengakui adanya bug pada sistem moderasi yang menyebabkan sekitar 8.000 akun diblokir tanpa sengaja selama beberapa bulan terakhir.

Masalah ini mencuat setelah seorang pengguna X dengan akun tallcowyt mengungkap dugaan celah pada sistem moderasi berbasis kecerdasan buatan (AI) milik Discord.

Menurut posting tersebut, sistem AI Discord salah mengidentifikasi gambar berpola kotak-kotak sebagai konten berbahaya.

Akibatnya, sejumlah pengguna dilaporkan menerima pemblokiran akun permanen meski hanya mengunggah gambar dari game Minecraft, papan catur, atau gambar sejenis.

Menanggapi laporan tersebut, Discord menjelaskan bahwa sistem moderasinya bekerja dengan mencocokkan konten yang diunggah pengguna dengan basis data materi berbahaya yang telah diketahui.

Baca juga: Pengguna Discord Kini Wajib Tunjukan KTP atau Video Selfie

"Sistem kami menandai konten dengan mencocokkannya dengan materi berbahaya yang diketahui, pencocokan kesamaan dapat menghasilkan positif palsu, anggota tim kami selalu meninjau konten yang ditandai sebelum tindakan apa pun diambil," tulis Discord melalui akun resminya di X Twitter.

Namun, pihak Discord juga mengakui adanya bug yang membuat mekanisme pengamanan tersebut tidak berjalan sebagaimana mestinya.

Discord menjelaskan bahwa seharusnya sistem hanya menghentikan sementara unggahan selama proses peninjauan dilakukan, bukan langsung memblokir akun pengguna.

Baca juga: Bahaya Tersembunyi saat Login Akun via Google atau Facebook

"Kami memiliki bug yang malah mengeluarkan pemblokiran. Bug yang sama mencegah pemblokiran dicabut secara otomatis," kata pihak Discord.

Lebih dari 8.000 akun terdampak

Discord mengungkapkan, sekitar 8.200 akun terdampak bug tersebut sejak Mei 2026 hingga pekan lalu. Selain itu, sekitar 200 akun lainnya ikut terdampak pada akhir pekan lalu.

Perusahaan mengeklaim seluruh akun yang terdampak kini telah dipulihkan.

Baca juga: Riset Microsoft Ungkap 40 Pekerjaan yang Paling Rentan Digantikan AI

"Kami telah mencabut pemblokiran semua orang yang terpengaruh oleh bug ini."

Discord juga mengakui pihaknya terlambat mendeteksi masalah tersebut.

"Seharusnya kami bisa mendeteksi ini lebih cepat. Kami sedang berupaya meningkatkan pengamanan dan memastikan sistem keamanan kami tidak menghukum orang yang tidak melakukan kesalahan apa pun," lanjut Discord.

Baca juga: Bisa Dapat Uang Virtual dari Discord, Begini Caranya

Meski demikian, sejumlah pengguna di X masih melaporkan bahwa akun mereka belum dipulihkan.

Bahkan, catatan komunitas (Community Notes) pada salah satu unggahan Discord menyebut bahwa klaim seluruh akun telah dipulihkan belum sepenuhnya sesuai dengan kondisi di lapangan.

Insiden ini kembali memunculkan sorotan terhadap penggunaan sistem moderasi otomatis berbasis AI di platform digital.

KOMPAS.com berkomitmen memberikan fakta jernih, tepercaya, dan berimbang. Dukung keberlanjutan jurnalisme jernih dan nikmati kenyamanan baca tanpa iklan melalui Membership. Gabung KOMPAS.com Plus sekarang

Mobil McLaren Andra ST Terbelah Usai Tabrak Tiang Listrik di Sukoharjo