Ikuti Saran AI untuk Racik Obat Gulma, Petani China Gagal Panen 10 Hektar dalam Semalam - Kompas

KOMPAS.com - Seorang petani berusia 67 tahun di Chuzhou, China, harus menelan pil pahit setelah mengikuti saran chatbot AI yang berujung pada kegagalan panen total.

Dalam semalam, seluruh bibit wijen di lahan seluas 10 hektare miliknya mati setelah ia menyemprotkan pestisida sesuai rekomendasi sang asisten digital.

Petani bernama Wu tersebut sebenarnya bukan pengguna baru teknologi AI. Ia sudah mengandalkan aplikasi AI untuk kegiatan bertaninya selama kurang lebih satu tahun.

Awalnya skeptis, kepercayaannya terhadap chatbot itu perlahan tumbuh seiring pengalaman positif yang ia rasakan.

Berbulan-bulan mendapati saran AI terbukti akurat dan mampu meningkatkan efisiensi lahannya, Wu akhirnya yakin bahwa teknologi tersebut memiliki pengetahuan yang tak terbantahkan dan tidak mungkin keliru.

Baca juga: Pria Ini Pilih Resign dan Bikin Video AI Full-time, Malah Lebih Cuan

Saran AI yang berujung petaka

Masalah bermula ketika lahan Wu diserang gulma dan hama. Seperti biasanya, ia membuka smartphone dan meminta rekomendasi pestisida kepada chatbot AI andalannya.

Mesin itu merespons dengan cepat dan percaya diri, layaknya seorang pakar agronomi berpengalaman. Chatbot merekomendasikan campuran bahan kimia "flupyrimethalin efisiensi tinggi" dan "flusulfasulfaether" untuk membasmi gulma, ditambah "thiamethoxazine" dan "methyl salt" untuk mengendalikan hama, lengkap dengan takaran dosis yang spesifik.

Tanpa melakukan verifikasi kepada penyuluh pertanian, Wu langsung meracik dan menyemprotkan campuran kimia tersebut ke seluruh lahannya.

Keesokan harinya, bencana pun terjadi. Bukan hanya gulma yang mati, seluruh bibit wijen di lahan 10 hektare itu ikut musnah dalam semalam.

Bahan kimia yang salah sasaran

Ketika Wu mempertanyakan penyebabnya kepada AI, chatbot menuding bahan kimia "flusulfasulfaether" sebagai penyebab utamanya.

Para ahli pertanian yang dimintai komentar menjelaskan bahwa bahan kimia tersebut memang dirancang khusus untuk membasmi gulma berdaun lebar di ladang kedelai.

Sementara itu, Badan Pertanian AS mengklasifikasikan wijen sebagai tanaman berdaun lebar, sehingga otomatis ikut terdampak herbisida tersebut.

Lebih parahnya lagi, bahan kimia ini seharusnya hanya disemprotkan secara tertarget di area tertentu, bukan ke seluruh lahan sekaligus.

Wu mengaku AI sama sekali tidak memberikan peringatan atas risiko dari saran yang diberikannya.

Meski begitu, halaman chatbot yang ia gunakan sebenarnya telah mencantumkan pernyataan umum: "Hasil AI mungkin keliru, mohon verifikasi."

Sejumlah pihak bahkan menduga bahan kimia "flusulfasulfaether" yang disebutkan AI kemungkinan tidak benar-benar ada, melainkan merupakan hasil halusinasi chatbot itu sendiri.

Baca juga: AI Mulai Geser Pekerjaan Repetitif, Skill Baru Ini Makin Dicari Perusahaan

Bukan kasus pertama

Kasus Wu bukan satu-satunya catatan kelam akibat kesalahan AI. Belum lama ini, seorang programer kehilangan seluruh direktori profilnya setelah model AI Claude Opus 5 menghapusnya secara tidak sengaja saat proses backup rutin.

Direktur Alignment AI di Meta bahkan pernah harus menghentikan paksa agen AI miliknya sendiri untuk mencegah penghapusan seluruh inbox e-mail secara tidak sengaja.

Ada pula kasus di mana sebuah perusahaan tanpa sadar menghabiskan dana hingga 1,8 juta dollar AS akibat penggunaan AI untuk tugas coding sederhana yang jauh melampaui anggaran.

Kasus Wu disebut sebagai salah satu contoh pertama di mana kesalahan AI berdampak langsung secara fisik di dunia nyata, bukan sekadar kerugian data atau finansial semata, dilansir KompasTekno dari TomsHardware.

Dapatkan update berita teknologi dan gadget pilihan setiap hari. Mari bergabung di Kanal WhatsApp KompasTekno.

Caranya klik link https://whatsapp.com/channel/0029VaCVYKk89ine5YSjZh1a. Anda harus install aplikasi WhatsApp terlebih dulu di ponsel.

Saudara-saudara kita di Nusa Tenggara Timur tengah dirundung duka karena gempa M 7,7. Mari kita mengulurkan tangan untuk membantu meringankan beban yang sedang mereka hadapi. Kirim bantuan Anda melalui tautan https://bit.ly/BantuWargaNTT

China Diduga Curi Ilmu AI Amerika Serikat untuk Latih Drone hingga Kapal Perang