OpenAI Tolak 250 Ribu Permintaan Deepfake Selama Pemilu AS
Telset.id, Jakarta – Selama musim pemilu AS 2024, banyak pihak mencoba menggunakan generator gambar AI seperti DALL-E buatan OpenAI untuk deepfake. Namun, perusahaan tersebut memastikan bahwa penggunaan alat mereka untuk membuat deepfake politik dapat dicegah.
Dalam laporan terbarunya, OpenAI mengungkapkan bahwa ChatGPT telah menolak lebih dari 250.000 permintaan untuk membuat gambar deepfake politisi seperti Presiden Biden, Presiden terpilih Trump, Wakil Presiden Harris, Wakil Presiden terpilih Vance, dan Gubernur Walz selama masa pemilu AS 2024.
Tindakan ini merupakan bagian dari kebijakan keamanan yang sudah diterapkan sebelumnya, yang bertujuan melarang pembuatan gambar orang sungguhan termasuk tokoh politik.
BACA JUGA:
Sejak awal tahun, OpenAI telah mempersiapkan langkah-langkah strategis untuk menghadapi pemilihan presiden AS. Fokus utama mereka adalah mencegah alat-alat AI digunakan untuk menyebarkan informasi palsu atau memanipulasi fakta.
Ketika pengguna bertanya kepada ChatGPT tentang proses pemungutan suara di AS, mereka akan diarahkan ke CanIVote.org, sebuah langkah yang OpenAI lakukan untuk memastikan informasi yang akurat dan tepercaya. Dalam satu bulan sebelum pemilihan, ChatGPT merespons 1 juta pertanyaan dengan mengarahkan pengguna ke situs tersebut.
Pada hari pemilihan dan keesokan harinya, chatbot menghasilkan 2 juta tanggapan untuk memberikan informasi dari sumber tepercaya seperti Associated Press, Reuters, dan media berita lainnya. OpenAI memastikan bahwa ChatGPT tetap netral, tanpa mengungkapkan preferensi politik atau merekomendasikan kandidat tertentu, bahkan ketika diminta secara eksplisit.
Meskipun OpenAI telah mengambil langkah signifikan untuk melindungi integritas informasi, ancaman deepfake masih tetap ada, terutama di media sosial.
Salah satu kasus yang mencuat adalah video kampanye palsu yang menampilkan Wakil Presiden Kamala Harris dengan pernyataan yang dimodifikasi secara digital. Dalam video tersebut, Harris tampak mengatakan hal yang tidak pernah ia ucapkan, seperti “Saya dipilih karena saya adalah kandidat terbaik.”
BACA JUGA:
Komentar
Posting Komentar