Jakarta – Kementerian Komunikasi dan Informatika (Kemkominfo) sedang menyelidiki dugaan penyalahgunaan kecerdasan buatan (AI) Grok di platform X.
AI Grok diduga dipakai untuk membuat dan menyebarkan konten asusila, termasuk memanipulasi foto pribadi tanpa izin.
Direktur Jenderal Pengawasan Ruang Digital Kemkominfo, Alexander sabar, mengungkapkan temuan awal.
Grok AI dinilai belum punya pengaturan yang cukup untuk mencegah produksi dan penyebaran konten pornografi berbasis foto warga Indonesia.
“Temuan awal menunjukkan belum ada pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi,” kata Alexander, Rabu (7/1/2026).
Kondisi ini berpotensi melanggar hak privasi dan hak atas citra diri seseorang.
Kemkominfo menilai manipulasi digital terhadap foto pribadi bukan hanya masalah kesusilaan.Namun, juga perampasan kendali individu atas identitas visual yang bisa menimbulkan kerugian psikologis, sosial, dan reputasi.
Saat ini,Kemkominfo berkoordinasi dengan Penyelenggara Sistem Elektronik (PSE) untuk memastikan mekanisme perlindungan yang efektif.
Langkah ini termasuk memperkuat sistem moderasi konten, mencegah pembuatan deepfake asusila, dan menangani cepat laporan pelanggaran privasi.
“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegas Alexander.
Kemkominfo mengingatkan seluruh PSE yang beroperasi di Indonesia wajib patuh pada peraturan perundang-undangan.
Sanksi administratif hingga pemutusan akses layanan grok AI dan platform X bisa dijatuhkan jika ditemukan pelanggaran.
Penyedia layanan AI maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak bisa dikenakan sanksi administratif dan/atau pidana.
Alexander Sabar menjelaskan, sejak UU Nomor 1 Tahun 2023 tentang KUHP berlaku pada 2 Januari 2026, konten pornografi diatur dalam Pasal 172 dan Pasal 407.
