BEIJING - Serangan rudal terhadap sebuah sekolah di Iran, yang menewaskan 175 warga sipil, telah mendorong dunia untuk mempertanyakan risiko penggunaan AI untuk tujuan militer.

Pada tanggal 28 Februari, sebuah rudal Tomahawk yang dipandu AI menghancurkan sekolah dasar Shajareh Tayyebeh di Minab, Iran selatan. Setidaknya 175 orang tewas, lebih dari 100 di antaranya anak-anak di bawah usia 12 tahun, menurut data dari PBB dan Iran.

Investigasi awal oleh Pentagon telah menetapkan bahwa ini adalah kesalahan penargetan AS. Sekolah tersebut sebelumnya terletak di lahan pangkalan angkatan laut Korps Garda Revolusi Iran (IRGC), tetapi tembok pemisah didirikan antara tahun 2013 dan 2016, memisahkan sekolah dari pangkalan tersebut.

Citra satelit dari Amnesty International mengkonfirmasi hal ini. Sekolah tersebut telah beroperasi selama bertahun-tahun, memiliki situs web dan akun media sosial sendiri.

Kisah tragis ini mengungkap sisi gelap AI dalam penggunaan data. Sistem Cerdas Maven, platform penargetan yang dibangun oleh Palantir berdasarkan kontrak senilai $1,3 miliar dengan Pentagon, digunakan dalam operasi tersebut.

Maven mengintegrasikan citra satelit, data radar, dan sinyal intelijen, menggunakan model AI Claude dari Anthropic untuk mengklasifikasikan target dan menghasilkan paket serangan udara secara real-time. Dalam 24 jam pertama kampanye Iran, sistem ini menghasilkan ratusan koordinat serangan.

Namun, beberapa mantan pejabat militer AS mengatakan kepada Semafor bahwa kesalahan manusia bertanggung jawab atas serangan sekolah tersebut. Alasannya adalah data yang dikelola manusia sudah usang dan tidak diperbarui tepat waktu ketika sebuah sekolah menggantikan pangkalan militer di lokasi yang sama.

Dmytro Matviyuk, seorang ahli drone yang telah bekerja dengan sistem otomatis serupa, percaya bahwa masalahnya bukanlah pada AI itu sendiri.

"Sistem AI hanya dapat diandalkan karena adanya orang-orang yang membangunnya, menyediakan data, dan memantaunya. Ketika hubungan manusia gagal, baik karena data yang salah atau proses yang dipersingkat, mesin akan terus mengeksekusi kesalahan tersebut dengan benar," kata Matviyuk.

Insiden ini juga menimbulkan pertanyaan serius tentang keterbatasan sistem AI dalam peperangan. Menurut data Pentagon, Maven memiliki akurasi identifikasi target sekitar 60%, jauh lebih rendah daripada 84% yang dilaporkan oleh para analis.

Lebih dari 120 anggota Partai Demokrat di Dewan Perwakilan Rakyat AS telah mengirimkan surat kepada Menteri Pertahanan Pete Hegseth untuk meminta klarifikasi tentang peran AI dalam serangan tersebut.

Insiden tersebut juga terkait dengan perselisihan antara Pentagon dan Anthropic. Pemerintahan Trump telah mencantumkan Anthropic sebagai "risiko rantai pasokan" setelah perusahaan tersebut menolak untuk mencabut pembatasan yang mencegah Claude berpartisipasi dalam operasi militer.

Meskipun demikian, Pentagon terus menggunakan Claude selama periode transisi enam bulan.

(wbs)