Perangi Deepfake yang Mulai Marak Karena AI, Google Siapkan Senjata Baru | Garuda News 24
– Seiring dengan kemajuan teknologi kecerdasan buatan atau Artificial Intelligence (AI), saat ini muncul masalah baru berupa gambar palsu yang dibuat oleh AI. Gambar yang dihasilkan oleh AI juga menjadi semakin sulit dibedakan dari gambar asli seiring dengan perlombaan perusahaan teknologi untuk meningkatkan produk AI mereka.
Bagaikan dua sisi mata pisau, teknologi ini membawa pro dan kontra. Kemudian ada juga dampak negatif diantara banyaknya dampak positif yang bisa dirasakan dari teknologi ini. Salah satu dampak negatif yang ditakuti adalah membuat gambar deepfake, gambar palsu untuk menyebarkan informasi palsu atau hoaks.
Untuk mengatasi masalah tersebut, saat ini banyak perusahaan teknologi juga berupaya membuat tools menangani deepfake. Pekan lalu, Google mengumumkan alat baru yang disebut SynthID yang dikatakan dapat menjadi bagian dari solusi.
Alat ini menyematkan “watermark” digital langsung ke dalam gambar yang tidak dapat dilihat oleh mata manusia namun dapat ditangkap oleh komputer yang telah dilatih untuk membacanya. Google mengatakan teknologi watermarking barunya tahan terhadap gangguan, menjadikannya langkah penting dalam mengawasi penyebaran gambar palsu dan memperlambat penyebaran disinformasi.
Baca Juga: Pakai Teknologi Deepfake, Rusia Bikin Hoaks Presiden Ukraina Menyerah
Seperti sudah disinggung di atas, generator gambar AI telah tersedia selama beberapa tahun dan semakin banyak digunakan untuk membuat “deepfake” gambar palsu yang mengaku asli. Pada bulan Maret lalu, dilansir dari Washington Post, gambar AI palsu yang menampilkan mantan presiden Donald Trump yang melarikan diri dari polisi menjadi viral secara online.
Selain itu, pada bulan Mei, gambar palsu yang menunjukkan ledakan di Pentagon menyebabkan kehancuran sesaat di pasar saham. Perusahaan telah menempatkan logo yang terlihat pada gambar AI, serta melampirkan teks “metadata” yang mencatat asal gambar, namun kedua teknik tersebut dapat dipotong atau diedit dengan relatif mudah.
Sementara untuk tools dari Google, untuk saat ini, alat Google SynthID hanya tersedia bagi beberapa pelanggan berbayar dari bisnis komputasi awannya. Dan alat ini hanya berfungsi dengan gambar yang dibuat dengan alat pembuat gambar Google, Imagen.
Perusahaan mengatakan tidak mengharuskan pelanggan untuk menggunakannya karena masih dalam tahap percobaan. “Tujuan utamanya adalah untuk membantu menciptakan sistem di mana sebagian besar gambar yang dibuat oleh AI dapat dengan mudah diidentifikasi menggunakan tanda air yang tertanam,” kata Pushmeet Kohli, wakil presiden penelitian di Google DeepMind, laboratorium AI perusahaan, yang memperingatkan bahwa alat baru ini tidak sepenuhnya benar.
Baca Juga: Jor-joran Apple Mengejar Teknologi AI, Gelontorkan Duit Jutaan Dolar Per Hari
Sementara untuk metodenya yakni watermarking, cara tersebut adalah salah satu gagasan yang diusung oleh perusahaan-perusahaan teknologi sebagai cara potensial untuk mengurangi dampak negatif dari teknologi AI “generatif” yang dengan cepat mereka terapkan kepada jutaan orang.
Pada Juli, Gedung Putih mengadakan pertemuan dengan para pemimpin tujuh perusahaan AI paling berpengaruh, termasuk Google dan pembuat ChatGPT OpenAI. Semua perusahaan berjanji untuk menciptakan alat untuk memberi tanda air dan mendeteksi teks, video, dan gambar yang dihasilkan AI.
Perusahaan teknologi lainnya, Microsoft juga telah memulai koalisi perusahaan teknologi dan perusahaan media untuk mengembangkan standar umum untuk memberi tanda air pada gambar AI, dan perusahaan tersebut mengatakan sedang meneliti metode baru untuk melacak gambar AI. Perusahaan juga menempatkan tanda air kecil yang terlihat di sudut gambar yang dihasilkan oleh alat AI-nya.
Komentar
Posting Komentar