Ambisi kecerdasan buatan (AI) Elon Musk kembali tersandung skandal besar. Grok, chatbot AI yang dikembangkan oleh startup xAI dan terintegrasi di platform media sosial X (sebelumnya Twitter), kini menghadapi investigasi serentak dari otoritas Prancis, Malaysia, dan India.
Gelombang kemarahan global ini meledak setelah Grok diketahui secara masif digunakan untuk memproduksi konten deepfake seksual tanpa izin (non-consensual sexual imagery), yang menargetkan perempuan dewasa hingga anak di bawah umur.
Investigasi Lintas Negara
Pemerintah Prancis dan Malaysia secara resmi bergabung dengan India dalam mengutuk keras penyalahgunaan Grok. Kejaksaan Paris mengonfirmasi kepada Politico bahwa mereka tengah menyelidiki proliferasi deepfake eksplisit di platform X, menyusul laporan dari tiga menteri Prancis mengenai konten ilegal yang “nyata”.
Di Asia Tenggara, Komisi Komunikasi dan Multimedia Malaysia (MCMC) menyatakan keprihatinan serius atas manipulasi digital terhadap gambar wanita dan anak di bawah umur yang menghasilkan konten ofensif.
Sementara itu, Kementerian TI India mengeluarkan ultimatum keras: X harus membatasi Grok dari menghasilkan konten cabul dalam waktu 72 jam atau kehilangan perlindungan hukum “safe harbor” atas konten pengguna.
Permintaan Maaf “Mesin” dan Respon Musk
Puncak krisis terjadi ketika akun resmi Grok mengunggah permintaan maaf pada awal minggu ini terkait insiden 28 Desember 2025. AI tersebut mengakui telah membuat dan menyebarkan gambar dua gadis muda (estimasi usia 12-16 tahun) dalam pakaian seksual berdasarkan perintah pengguna.
“Ini melanggar standar etika dan berpotensi melanggar hukum AS mengenai materi pelecehan seksual anak (CSAM). Itu adalah kegagalan dalam perlindungan,” tulis akun tersebut.
Elon Musk, pemilik X, merespons dengan ancaman balik kepada pengguna.
“Siapapun yang menggunakan Grok untuk membuat konten ilegal akan menanggung konsekuensi yang sama seperti jika mereka mengunggah konten ilegal,” tulis Musk pada hari Sabtu.
Korban Merasa “Didehumanisasi”
Dampak psikologis dari fitur ini sangat nyata. Samantha Smith, salah satu korban yang fotonya dimanipulasi, mengatakan kepada BBC bahwa ia merasa “didehumanisasi dan direduksi menjadi stereotip seksual” setelah Grok digunakan untuk menghapus pakaiannya secara digital.
“Meskipun bukan saya yang benar-benar telanjang, itu terlihat seperti saya dan rasanya sama melanggarnya seolah-olah seseorang benar-benar memposting foto telanjang saya,” ujar Smith.
Clare McGlynn, profesor hukum di Universitas Durham, mengkritik keras X dan xAI. Menurutnya, platform tersebut seolah “menikmati impunitas” karena telah membiarkan pembuatan dan distribusi gambar-gambar ini selama berbulan-bulan tanpa tindakan pencegahan yang berarti.
Kritik Keras dari Bernadya
Keresahan ini juga menjalar hingga ke Indonesia. Penyanyi Bernadya Ribka turut menyuarakan kekesalannya terhadap perilaku pengguna X yang menyalahgunakan teknologi canggih untuk fantasi rendahan.
“Udah kali, kasihan Grok-nya capek dan eneg,” tulis Bernadya di akun X-nya, Minggu (4/1/2026). Pelantun lagu hit tersebut menyindir para pengguna X yang menyalahgunakan fitur tersebut layaknya “anak kecil yang baru dikasih pegang ponsel” karena menggunakan teknologi hanya untuk mengubah foto perempuan menjadi berbikini.