Kecerdasan Buatan
Penelitian Ungkap ChatGPT Bisa Beri Informasi Salah
SELULAR.ID – Mesin pencari berbasis AI milik OpenAI yang baru diluncurkan bulan ini, yakni ChatGPT Search, ternyata diketahui bisa memberikan informasi yang salah. Hal ini diungkapkan oleh penelitian yang dilaporkan The Guardian.
ChatGPT Search dirancang untuk mempermudah penelusuran, misalnya dengan merangkum ulasan produk dari sebuah halaman web. Hanya saja, mesin pencarian milik OpenAI itu tidak menyertakan ringkasan negatif, dan hanya menampilkan rangkuman ulasan yang sepenuhnya positif.
Informasi salah itu dihasilkan ChatGPT Search dengan cara menyisipkan teks tersembunyi di dalam situs web buatan mereka. Dengan metode ini, ChatGPT Search bahkan bisa dipancing untuk menghasilkan kode berbahaya.
Baca juga: Panggilan untuk ChatGPT Kini Bisa Pengguna Akses di WhatsApp dan Telepon Rumah
Serangan semacam ini, yang memanfaatkan teks tersembunyi, sebenarnya sudah dikenal dalam dunia model bahasa besar. Tapi, ini mungkin pertama kalinya ditemukan pada produk pencarian berbasis AI yang aktif digunakan.
Mengutip TechCrunch, sebagai pembanding, Google memiliki sistem pertahanan yang lebih matang dalam menghadapi masalah tersebut. Web yang berbahaya tidak akan ditampilkan.
OpenAI tidak memberikan tanggapan spesifik soal insiden ini. Namun, mereka menyatakan bahwa berbagai langkah telah diambil untuk memblokir situs web berbahaya, dan upaya untuk meningkatkan keamanan akan terus dilakukan.
Ikuti informasi menarik lainnya dari Selular.id di Google News
SELULAR.ID – Mesin pencari berbasis AI milik OpenAI yang baru diluncurkan bulan ini, yakni ChatGPT Search, ternyata diketahui bisa memberikan informasi yang salah. Hal ini diungkapkan oleh penelitian yang dilaporkan The Guardian.
ChatGPT Search dirancang untuk mempermudah penelusuran, misalnya dengan merangkum ulasan produk dari sebuah halaman web. Hanya saja, mesin pencarian milik OpenAI itu tidak menyertakan ringkasan negatif, dan hanya menampilkan rangkuman ulasan yang sepenuhnya positif.
Informasi salah itu dihasilkan ChatGPT Search dengan cara menyisipkan teks tersembunyi di dalam situs web buatan mereka. Dengan metode ini, ChatGPT Search bahkan bisa dipancing untuk menghasilkan kode berbahaya.
Baca juga: Panggilan untuk ChatGPT Kini Bisa Pengguna Akses di WhatsApp dan Telepon Rumah
Serangan semacam ini, yang memanfaatkan teks tersembunyi, sebenarnya sudah dikenal dalam dunia model bahasa besar. Tapi, ini mungkin pertama kalinya ditemukan pada produk pencarian berbasis AI yang aktif digunakan.
Mengutip TechCrunch, sebagai pembanding, Google memiliki sistem pertahanan yang lebih matang dalam menghadapi masalah tersebut. Web yang berbahaya tidak akan ditampilkan.
OpenAI tidak memberikan tanggapan spesifik soal insiden ini. Namun, mereka menyatakan bahwa berbagai langkah telah diambil untuk memblokir situs web berbahaya, dan upaya untuk meningkatkan keamanan akan terus dilakukan.
Ikuti informasi menarik lainnya dari Selular.id di Google News
Komentar
Posting Komentar