Jakarta – Kementerian Komunikasi dan Digital (Kemkomdigi) resmi menindaklanjuti laporan terkait dugaan penyalahgunaan teknologi kecerdasan buatan Grok AI pada platform X.
Fitur tersebut ditengarai dimanfaatkan untuk menciptakan dan menyebarkan konten asusila melalui manipulasi foto pribadi sensitif tanpa seizin pemiliknya.
Berdasarkan evaluasi awal, teknologi ini dinilai belum memiliki sistem filter yang memadai untuk membatasi distribusi konten pornografi berbasis citra nyata.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi,” ujar Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, Rabu (7/1).
Kemkomdigi menekankan bahwa manipulasi digital bukan sekadar isu moralitas, melainkan bentuk pelanggaran terhadap kendali individu atas identitas visual mereka.
Dampaknya sangat luas, mencakup kerugian psikologis hingga kerusakan reputasi sosial. Saat ini, pemerintah tengah berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk mewajibkan adanya moderasi konten yang lebih ketat, khususnya dalam menangani ancaman deepfake asusila dan mekanisme penanganan laporan yang lebih cepat.
Pemerintah menegaskan bahwa setiap PSE yang beroperasi di wilayah hukum Indonesia wajib tunduk pada regulasi nasional.
Ketidakpatuhan dalam melindungi privasi pengguna dapat berujung pada sanksi administratif yang berat, termasuk kemungkinan pemutusan akses total terhadap layanan Grok AI maupun platform X di Indonesia.
“Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” jelas dia.