Inovasi baru: Detektor deepfake AI pertama di dunia - Tek id

 

 Inovasi baru: Detektor deepfake AI pertama di dunia

Startup cybersecurity dari Inggris bernama Surf Security mengumumkan peluncuran versi beta dari peramban yang diklaim sebagai pertama di dunia dengan fitur bawaan untuk mendeteksi deepfake yang dihasilkan oleh AI. Alat ini tersedia baik melalui peramban Surf maupun sebagai ekstensi, dan dapat mendeteksi deepfake dengan akurasi hingga 98%.

Dilansir dari The Next Web (26/11), perusahaan ini menggunakan teknologi neural network military-grade untuk mendeteksi deepfake, dengan metode State Space Models yang menganalisis frame audio untuk ketidaksesuaian. Menurut Ziv Yankowitz, CTO dari Surf Security, neural network mereka dilatih menggunakan deepfake yang dibuat oleh platform-platform AI cloning vokal terbaik. Yankowitz menambahkan bahwa sistem ini dapat mendeteksi deepfake audio dalam waktu kurang dari 2 detik.

Fitur ini tersedia untuk berbagai file audio, termasuk video online atau perangkat lunak komunikasi seperti WhatsApp, Slack, Zoom, atau Google Meet. Pengguna hanya perlu menekan tombol, dan sistem akan memverifikasi apakah audio, baik yang direkam maupun langsung, adalah asli atau buatan AI. Surf Security juga berencana untuk menambahkan deteksi gambar AI ke dalam toolkit perambannya di masa depan.

Deepfake, yang menggunakan AI untuk menciptakan audio atau video palsu yang meyakinkan, adalah ancaman yang semakin meningkat. Deepfake telah digunakan untuk melakukan penipuan besar-besaran, memicu ketidakstabilan politik melalui berita palsu, dan merusak reputasi dengan konten yang salah atau merugikan.

Surf Security mengklaim bahwa mereka meluncurkan detektor deepfake ini untuk membantu melindungi perusahaan, organisasi media, kepolisian, dan militer di seluruh dunia dari ancaman kloning AI yang semakin meningkat.

Meskipun tantangan dari teknologi AI yang semakin canggih, Yankowitz menyadari bahwa mereka berkomitmen untuk memenangkan "perang yang terus berkembang" ini. Surf Security berharap untuk meluncurkan versi lengkap dari detektor deepfake mereka pada awal tahun depan.

Baca Juga