Jakarta – Kecerdasan buatan (AI) Grok AI menuai kecaman karena disalahgunakan untuk membuat gambar seksual tanpa izin, yang menargetkan perempuan dan anak-anak.
Ironisnya, penyalahgunaan ini menyeret nama anggota JKT48.
Sejumlah akun media sosial memanfaatkan Grok AI untuk mengubah foto anggota JKT48 menjadi konten senonoh dan pornografi.
Tindakan ini dikecam sebagai pelecehan dan pelanggaran privasi.
Grok AI adalah asisten AI gratis dengan fitur premium berbayar yang merespons permintaan pengguna di platform X (dulu twitter).
Grok sering digunakan untuk memberikan reaksi atau menambahkan konteks pada komentar pengguna lain.
Namun, fitur pengeditan gambar berbasis AI milik Grok juga disalahgunakan untuk memanipulasi foto tanpa persetujuan.
Bentuk penyalahgunaan yang paling umum adalah membuat gambar bernuansa seksual.
Banyak perempuan yang menemukan foto diri mereka telah diseksualisasi oleh Grok.
Pengalaman ini digambarkan sebagai sesuatu yang sangat mendehumanisasi.
Menteri Teknologi Inggris, Liz Kendall, mendesak platform X milik Elon Musk untuk segera menindak penyalahgunaan Grok.
Kendall menyebut situasi ini memprihatinkan dan menegaskan pemerintah tidak akan mentolerir penyebaran gambar yang merendahkan martabat.
Pihak X menyatakan telah mengambil tindakan terhadap konten ilegal, termasuk materi eksploitasi seksual anak (CSAM).
Tindakan yang diambil berupa menghapus konten, menangguhkan akun secara permanen, dan bekerja sama dengan aparat penegak hukum.
“Siapa pun yang menggunakan atau memerintahkan Grok untuk membuat konten ilegal akan menerima konsekuensi yang sama seperti jika mereka mengunggah konten ilegal secara langsung,” demikian pernyataan resmi X.
