Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Kemkomdigi) mengambil sikap tegas terhadap platform media sosial X (sebelumnya Twitter). Kemkomdigi memperingatkan potensi pemutusan akses layanan jika fitur kecerdasan buatan Grok AI terbukti terus memfasilitasi pembuatan dan penyebaran konten asusila, termasuk manipulasi foto pribadi warga tanpa izin.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan bahwa hasil penelusuran awal pemerintah menemukan celah fatal dalam sistem moderasi Grok AI.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi,” ujar Alexander di Jakarta, Rabu (7/1/2026).
Pelanggaran “Right to One’s Image”
Pemerintah menyoroti bahwa isu ini bukan sekadar masalah kesusilaan semata. Manipulasi digital terhadap foto warga Indonesia dinilai sebagai bentuk perampasan kendali individu atas identitas visualnya (right to one’s image).
Menurut Alexander, ketiadaan filter yang memadai di Grok AI berisiko menimbulkan kerugian psikologis, sosial, dan reputasi yang serius bagi korban yang fotonya “ditelanjangi” atau dimanipulasi oleh AI.
Oleh karena itu, Kemkomdigi mendesak seluruh Penyelenggara Sistem Elektronik (PSE), termasuk X, untuk segera memperkuat sistem moderasi konten dan prosedur penanganan laporan pelanggaran.
“Apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif, Kemkomdigi dapat menjatuhkan sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X,” tegas Alexander.
Jerat Pidana KUHP Baru: Penjara Hingga 10 Tahun
Selain ancaman pemblokiran platform, Kemkomdigi juga mengingatkan pengguna nakal mengenai konsekuensi hukum yang berlaku. Mengacu pada Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) yang baru saja berlaku efektif pada 2 Januari 2026, pelaku manipulasi foto asusila menghadapi ancaman pidana berat.
Alexander merinci dua pasal krusial yang menjerat pelaku:
Pasal 172: Mengatur definisi pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual.
Pasal 407: Mengatur sanksi pidana penjara paling singkat 6 (enam) bulan dan paling lama 10 (sepuluh) tahun, atau pidana denda.
“Penyedia layanan kecerdasan buatan maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak dapat dikenakan sanksi,” tambahnya.
Masyarakat yang menjadi korban deepfake atau manipulasi foto diimbau untuk tidak diam. Alexander menyarankan korban menempuh upaya hukum dengan melapor kepada aparat kepolisian atau mengadukan pelanggaran tersebut langsung ke Kemkomdigi.