Jakarta – Perkembangan kecerdasan buatan (AI) yang semula diharapkan meningkatkan efisiensi, kini justru menjadi lahan subur bagi kejahatan digital. Penipuan online berevolusi dengan pemalsuan wajah, suara, dan identitas yang semakin sulit dibedakan dari aslinya.
Fenomena ini bukan lagi kasus sporadis, melainkan masalah terstruktur yang meluas.
Pakar AI menyebut penipuan berbasis deepfake kini beroperasi dalam skala industri. Teknologi untuk membuat konten palsu yang menargetkan individu tertentu semakin mudah diakses dan terjangkau.
Alat-alat pembuat deepfake semakin murah, mudah digunakan, dan dapat diproduksi massal.AI Incident Database mencatat lebih dari selusin kasus “penyamaran demi keuntungan” baru-baru ini.
Kasus yang tercatat beragam, mulai dari video deepfake jurnalis Swedia, presiden Siprus, hingga dokter palsu yang mempromosikan produk perawatan kulit. Bahkan, Perdana Menteri Australia Barat pun menjadi korban video deepfake untuk mengiklankan skema investasi bodong.
Tren ini mengindikasikan bahwa penipu memanfaatkan AI yang semakin mudah diakses untuk melancarkan aksi yang lebih terarah.
Tahun lalu, seorang pejabat keuangan di perusahaan multinasional Singapura mentransfer hampir 500.000 dolar AS kepada penipu setelah mengikuti panggilan video yang diyakininya berasal dari pimpinan perusahaan.
Di Inggris,konsumen diperkirakan merugi hingga £9,4 miliar akibat penipuan dalam sembilan bulan hingga November 2025.
“Kemampuan teknologi sekarang sudah sampai pada titik di mana konten palsu bisa diproduksi oleh hampir siapa saja,” kata Simon Mylius, peneliti MIT yang terlibat dalam proyek terkait AI Incident Database.
Ia menambahkan bahwa penipuan, scam, dan manipulasi yang ditargetkan menjadi porsi terbesar insiden yang dilaporkan ke database tersebut dalam 11 dari 12 bulan terakhir. “Teknologi ini menjadi sangat mudah diakses sampai-sampai tidak ada lagi hambatan untuk masuk,” tegasnya.
Fred Heiding, peneliti Harvard yang mempelajari penipuan berbasis AI, menyampaikan pandangan serupa. “Skalanya sedang berubah,” ujarnya. “Biayanya menjadi sangat murah, hampir semua orang sekarang bisa menggunakannya. Model AI berkembang sangat baik dan kecepatannya jauh melampaui perkiraan banyak ahli,” tambahnya.
Jason Rebholz, CEO perusahaan keamanan AI Evoke, bahkan hampir merekrut kandidat kerja yang ternyata menggunakan video deepfake saat wawancara daring.
“Latar belakang videonya terlihat sangat palsu,” katanya. “Tampilannya benar-benar terasa tidak alami, dan sistemnya kesulitan memproses bagian tepi tubuh orang tersebut. Seperti ada bagian tubuh yang muncul dan hilang. Wajahnya juga terlihat sangat lembut di bagian tepi.”
