Berikut adalah ancaman scam terbaru yang didukung AI: para penipu online menggunakan deepfake AI dari selebriti Hollywood favorit, termasuk Taylor Swift dan Rihanna, untuk menjebak pengguna TikTok agar mendaftar program reward palsu.

Menurut laporan terbaru dari Copyleaks, TikTok mengalami peningkatan video karpet merah palsu berisi selebriti hasil AI, seperti Kim Kardashian, yang seolah mendorong pengguna untuk mendaftar “layanan fraudulent atau berbahaya.” Contohnya termasuk klip malam hari Swift yang mengiklankan fitur misterius “TikTok Pay” serta klip wawancara Rihanna yang mengampanyeken program imbalan berdasarkan jumlah penayangan.

Lihat Juga:

Sekarang Anda bisa memiliki boneka Artemis II ‘Rise’ mini sendiri

Pemalsuan sintetis ini tidak sepenuhnya meyakinkan dengan gerakan wajah yang biasa meresahkan serta audio yang tidak tersinkronisasi, tetapi itu tidak menghentikan para calon penipu. Banyak klip menggunakan merek TikTok dan menambahkan filter bertekstur untuk seolah mengelabui alat deteksi AI platform tersebut. Ketika pengguna mengeklik video, mereka diarahkan ke situs pihak ketiga yang kemudian meminta informasi pribadi yang bisa diidentifikasi.

Copyleaks melaporkan lonjakan penipuan deepfake bertenaga AI di berbagai platform media sosial, termasuk deepfake selebriti yang bersifat hiper-seksual dan tanpa persetujuan. Meta baru-baru ini menjadi sasaran gugatan class action yang diajukan atas nama Consumer Federation of America, yang menuduh perusahaan tersebut meraup untung dari iklan penipuan di Facebook.

Sementara itu, Hollywood masih belum menemukan solusi menyeluruh untuk deepfake selebriti tanpa izin. Awal pekan ini, Swift kabarnya mengajukan pendaftaran merek dagang untuk suara dan kemiripannya di tengah maraknya deepfake AI dan perhatian publik yang meningkat terhadap proyek warisan anumerta. Selebriti lain pun telah melakukan hal serupa.