GadgetDIVA - Setelah mendapat cacian dari seluruh penggunanya di dunia, chatbot AI Grok milik Elon Musk kini tidak dapat lagi digunakan untuk membuat konten bermuatan asusila. Informasi ini disampaikan langsung oleh perusahaan pada Rabu (14/1).

“Kami telah menerapkan langkah-langkah teknologi untuk mencegah akun Grok mengizinan pengeditan gambar orang sungguhan yang mengenakan pakaian terbuka seperti bikini. Pembatasan ini berlaku untuk semua pengguna, termasuk pelanggan berbayar,” tulis xAI melalui akun X Safety di platform X yang dikutip dari CNN pada Selasa (20/1). 

X mengaskan bahwa mereka akan menindak konten ilegal di X, termasuk Materi Pelechan Seksual Anak (CSAM) dengan cara menghapus konten dan menangguhkan akun secara permanen. Pihaknya juga akan bekerja sama dengan pemerintah daerah dan penegak hukun jika diperlukan. 

“Siapapun yang menggunaan atau memanfaatkan Grok untuk membuat konten ilegal menanggung konsekuensi yang sama seperti jika mereka mengunggah konten ilegal,” tulis platform. 

Sementara itu, Elon Musk selaku pemilik platform media sosial X, menyatakan bahwa dirinya tidak mengetahui adanya konten pencabulan anak di bawah umur yang dihasilkan oleh Grok. Ia juga menegaskan kalau Grok akan menolak untuk memproduksi konten bermuatan ilegal, sebab prinsip operasionalnya untuk mematuhi hukum negara dan wilayah mana pun. 

Dalam beberapa minggu terakhir, Gri dikritik karena memunginkan pengguna X untuk dengan mudah membuat gambar seksual dan kekerasan berdasarkan foto asli orang-orang di media sosial melalui perintah berbasis teks sederhana. Akibatnya, platform ini ditindak oleh berbagai negara di dunia.

Indonesia sendiri mengumumkan untuk memblokir aksess Grok AI secara sementara pada Sabtu (10/1). Menteri Komunikasi dan Digital Meutya Hafid menyatakan pemblokiran ini dilakukan untuk melindungi perempuan, anak dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunan teknologi chatbot AI tersebut. 

“Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Meutya Hafid.

Pemutusan akses terhadap Grok ini, dilakukan berdasarkan kewenangan Kementerian Komunikasi dan Digital sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, khususnya Pasal 9. 

Aturan ini mewajibkan setiap Penyelenggara Sistem Elektronik (PSE) memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang.