Maraknya konten pornografi yang dihasilkan kecerdasan buatan (AI) Grok di platform X memicu sorotan publik. Pengamat IT dan keamanan siber Alfons Tanujaya menilai pemerintah perlu bertindak tegas namun proporsional, dengan menempatkan Kementerian Komunikasi dan Digital (Komdigi) sebagai pihak utama yang bertanggung jawab dalam penanganannya.
Alfons menegaskan, persoalan konten pornografi berbasis AI sejatinya berada dalam ranah kewenangan Komdigi. Namun, langkah penindakan tidak boleh dilakukan secara gegabah dan harus mengikuti tahapan yang jelas serta sesuai dengan ketentuan hukum yang berlaku.
“Sebetulnya yang harus melakukan itu memang Komdigi. Tapi tindakannya harus proporsional. Seperti yang sudah dilakukan pada kasus TikTok, komunikasinya baik, ada peringatan pertama, dan platform diberi kesempatan berinisiatif melakukan pemfilteran. Itu yang paling ideal,” ujar Alfons kepada inilah.com di Jakarta, Selasa (6/1/2026).
Ia menyebut, Komdigi seharusnya berperan layaknya orang tua dalam mengelola ruang digital. Teguran harus disampaikan secara terbuka, disertai penjelasan pasal hukum yang dilanggar, serta tenggat waktu yang jelas bagi platform untuk melakukan perbaikan.
“Teguran harus jelas. Diberi tahu melanggar undang-undang yang mana, pasal yang mana. Kalau sudah peringatan satu, dua, tiga, tapi tetap membandel, ya harus ditutup,” tegasnya.
Menurut Alfons, ketidaktegasan pemerintah berpotensi menciptakan preseden buruk. Jika satu platform dibiarkan melanggar tanpa konsekuensi serius, platform lain bisa mengikuti pola yang sama.
“Kalau tidak tegas, nanti yang lain ikut-ikutan. Akan muncul anggapan pemerintah tidak serius, sehingga pelanggaran dianggap boleh,” ujarnya.
Ia menilai Komdigi memegang peran strategis dalam menjaga ruang digital tetap sehat dan aman. Karena itu, setiap kebijakan harus dijalankan secara transparan, bertahap, dan akuntabel.
“Kami sebagai masyarakat pasti akan mendukung jika dilakukan dengan baik, sesuai aturan, sesuai hukum, dan melalui tahapan yang wajar serta transparan,” kata Alfons.
Sebelumnya, chatbot AI Grok yang dikembangkan startup xAI dan terintegrasi di platform X milik Elon Musk menghadapi tekanan global. Otoritas Prancis, Malaysia, dan India melakukan investigasi serentak terkait penyalahgunaan Grok untuk memproduksi konten deepfake seksual tanpa izin.
Pemerintah Prancis dan Malaysia secara resmi bergabung dengan India dalam mengutuk penyebaran konten eksplisit tersebut. Kejaksaan Paris mengonfirmasi tengah menyelidiki maraknya deepfake seksual di platform X setelah menerima laporan dari sejumlah pejabat pemerintah Prancis.
Di Asia Tenggara, Komisi Komunikasi dan Multimedia Malaysia (MCMC) menyatakan keprihatinan serius atas manipulasi digital terhadap gambar perempuan dan anak di bawah umur. Sementara itu, Kementerian TI India mengultimatum X agar membatasi Grok dari menghasilkan konten cabul dalam waktu 72 jam atau kehilangan perlindungan hukum safe harbor.
Terkait polemik tersebut, akun resmi Grok mengunggah permintaan maaf pada akhir Desember 2025. Dalam pernyataannya, Grok mengakui telah menghasilkan gambar dua anak perempuan berusia sekitar 12–16 tahun dalam konteks seksual berdasarkan perintah pengguna.
“Ini melanggar standar etika dan berpotensi melanggar hukum Amerika Serikat terkait materi pelecehan seksual anak. Ini adalah kegagalan dalam perlindungan,” tulis akun tersebut.
Elon Musk merespons dengan menegaskan bahwa setiap pengguna yang memanfaatkan Grok untuk membuat konten ilegal akan dikenai konsekuensi hukum yang sama seperti pelaku unggahan konten terlarang lainnya.