Jakarta – Platform media sosial X milik Elon Musk resmi membatasi fitur penyuntingan gambar pada chatbot AI mereka, Grok, di balik sistem berbayar (paywall).
Langkah ini diambil setelah gelombang kecaman publik muncul akibat penyalahgunaan alat tersebut untuk menciptakan konten seksual deepfake tanpa persetujuan korban.
Mulai Jumat pagi, pengguna gratis yang mencoba memanipulasi gambar melalui Grok menerima notifikasi bahwa fitur tersebut kini terbatas bagi pelanggan berbayar. Kebijakan baru ini mewajibkan pengguna memberikan informasi identitas dan detail pembayaran.
Alhasil, hanya pemegang akun centang biru terverifikasi yang kini dapat menyunting gambar di platform tersebut. Meski demikian, fungsi penyuntingan gambar masih tersedia bagi pengguna gratis melalui aplikasi dan situs web terpisah milik Grok.
Pembatasan ini merespons laporan BBC News terkait chatbot Grok yang memenuhi permintaan untuk menghapus pakaian dari foto subjek secara digital tanpa izin. Para korban mengungkapkan rasa terhina dan kehilangan martabat atas tindakan tersebut.
Di sisi lain, Pemerintah Inggris meningkatkan tekanan terhadap X dengan mendesak regulator media, Ofcom, untuk menggunakan seluruh kekuatan hukumnya. Perdana Menteri Sir Keir Starmer mengecam keras peredaran citra eksplisit yang melibatkan orang dewasa maupun anak-anak.
“Ini memuakkan dan tidak boleh ditoleransi. Ini tindakan melanggar hukum, dan saya telah meminta agar semua opsi tindakan tetap terbuka,” tegas Starmer dalam wawancara dengan Greatest Hits Radio.
Ofcom mengonfirmasi telah meluncurkan investigasi resmi terhadap X dan xAI. Berdasarkan Undang-Undang Keamanan Daring (Online Safety Act), Ofcom memiliki wewenang untuk meminta pengadilan memutus akses X bagi pengguna di Inggris serta membekukan aliran pendapatan platform tersebut, termasuk iklan dan pembayaran pengguna.
Menanggapi situasi ini, pihak X menyatakan komitmennya untuk menindak konten ilegal, termasuk materi pelecehan seksual anak (CSAM).
“Siapa pun yang menggunakan atau memicu Grok untuk membuat konten ilegal akan menerima konsekuensi yang sama seperti mengunggah konten ilegal secara manual,” tulis pernyataan resmi X.