OpenAI temukan perilaku aneh GPT-4o di mode suara
OpenAI temukan perilaku aneh GPT-4o di mode suara, timbulkan kekhawatiran baru
Selain meniru suara, GPT-4o juga dilaporkan dapat mengeluarkan efek suara yang mengganggu, seperti desahan erotis, teriakan keras, dan bunyi tembakan.
OpenAI, perusahaan teknologi yang berada di garis depan pengembangan kecerdasan buatan, telah menemukan perilaku tak terduga dan mengkhawatirkan dari model terbaru mereka, GPT-4o, dalam mode suara yang baru diluncurkan. Temuan ini dipublikasikan dalam laporan “red teaming” yang bertujuan mengidentifikasi potensi risiko dan kelemahan dari model AI tersebut.
Dilansir dari Tech Crunch (9/8), GPT-4o, yang merupakan model AI pertama OpenAI yang dilatih menggunakan data suara, teks, dan gambar, dilaporkan kerap melakukan tindakan aneh, seperti meniru suara pengguna dan menghasilkan efek suara yang tidak pantas. Insiden ini terutama terjadi saat pengguna berbicara dalam lingkungan dengan kebisingan latar belakang tinggi, seperti di dalam mobil yang sedang bergerak. Dalam kasus tertentu, model ini dapat mulai meniru suara pengguna yang sedang berbicara, sebuah fenomena yang dianggap OpenAI sebagai upaya model untuk memahami ucapan yang tidak jelas.
Selain meniru suara, GPT-4o juga dilaporkan dapat mengeluarkan efek suara yang mengganggu, seperti desahan erotis, teriakan keras, dan bunyi tembakan. Walaupun OpenAI menyatakan bahwa model ini umumnya menolak permintaan untuk membuat efek suara seperti itu, beberapa permintaan tetap bisa melewati sistem keamanan yang ada.
Tidak hanya itu, laporan tersebut juga menyoroti potensi pelanggaran hak cipta oleh GPT-4o. OpenAI mengakui adanya kemungkinan model ini meniru gaya, nada, atau suara dari artis yang dikenal saat diminta untuk bernyanyi, sehingga melanggar hak cipta. Untuk mencegah hal ini, OpenAI telah menerapkan filter yang mencegah GPT-4o menyanyi selama uji coba mode suara terbatas saat ini.
Juru bicara OpenAI menyatakan bahwa perusahaan telah mengambil langkah-langkah signifikan untuk mengurangi risiko ini. “Kami telah menambahkan mitigasi pada sistem dan memperbarui filter berbasis teks untuk juga bekerja pada percakapan audio,” katanya. Meskipun begitu, kekhawatiran tentang dampak teknologi ini terhadap pelanggaran hak cipta dan keamanan pengguna tetap menjadi perhatian utama.
Peluncuran mode suara GPT-4o yang lebih luas dijadwalkan akan dilakukan pada musim gugur tahun ini. Namun, temuan terbaru ini menimbulkan pertanyaan serius tentang kesiapan teknologi ini untuk konsumsi publik yang lebih luas, terutama dalam hal keamanan dan etika penggunaan AI. OpenAI berkomitmen untuk terus memperbaiki model ini guna memastikan bahwa teknologi tersebut dapat digunakan secara aman dan bertanggung jawab.
Komentar
Posting Komentar