Sisi Gelap AI tidak Terawasi, Ruang Maya tak Lagi Ramah

Aplikasi Grok AI. (Foto: Business Standar)

Kecerdasan buatan alias artificial intelligence (AI) sering dipromosikan sebagai mesin penolong manusia, diklaim lebih cepat, lebih rapi, dan lebih pintar dari pekerjanya. Namun geliat teknologi justru memperlihatkan sisi sebaliknya. Kecerdasan buatan bisa berubah menjadi alat eksploitasi ketika jatuh di tangan pengguna tanpa batas.

Salah satu contohnya Grok, chatbot di platform X. Alih-alih dimanfaatkan sebagai mesin informasi, Grok belakangan dijadikan generator konten erotis. Celah perintah dan minimnya pagar etika membuat sebagian pengguna dengan mudah menyeret Grok untuk memproduksi percakapan vulgar, fantasi seksual, hingga narasi bernuansa pornografi. Ironisnya, semua terjadi di ruang digital yang dapat dilihat publik.

Praktik ini menunjukkan betapa gampangnya teknologi diarahkan untuk melanggengkan objektifikasi tubuh dan bahkan kekerasan seksual. AI belajar dari manusia, bias dan sisi gelap manusia lah yang kembali dipantulkan mesin.

Anggota Komisi I DPR RI Amelia Anggraini menilai praktik menyulap AI menjadi mesin pornografi menginjak martabat manusia dan pelindungan data pribadi.

“Ketika identitas visual seseorang dimanipulasi tanpa izin untuk konten asusila, itu merupakan bentuk perampasan hak individu atas citra dirinya,” kata Amelia dalam keterangannya, Sabtu (10/1/2026).

Amelia menyebutnya sebagai bentuk kekerasan berbasis teknologi yang dapat menyeret korban pada kerugian psikologis hingga reputasional. Sebagian pelakunya merasa aman bersembunyi di balik layar, seolah tak ada manusia yang disakiti karena lawan bicara mereka cuma mesin. Padahal bahasa yang diproduksi AI membentuk ulang cara berpikir penggunanya, terutama generasi muda yang tumbuh bersama algoritma.

Kini semua orang takut akan deepfake pornografi, pelecehan berbasis AI, sampai eksploitasi figur publik dan warga biasa tanpa izin. Efeknya mulai terasa di pengguna. Tari (29), warga Bekasi, memilih menahan ekspresi diri di media sosial.

“Gara-gara kasus ini aku jadi takut buat nge-post foto di X. Padahal dulu cuek aja karena ngerasa lebih bisa eksplorasi diri, nggak insecure kayak di Instagram. Tapi sekarang aku jadi hapus foto-foto sebelumnya,” ujar Tari kepada Inilah.com, Jumat (9/1/2026).

Aulia (25), karyawan asal Jakarta, mengambil langkah serupa.

“Memang gila sih ya. Dulu orang-orang cuma minta bantu Grok buat jelasin sesuatu, sekarang malah jadi konten porno. Aku akhirnya kunci akun X biar nggak ada sembarang orang ambil foto dan jadi bahan porno,” ucap Aulia saat berbincang, Jumat (9/1/2026).

Kasus Grok memperlihatkan masalah terbesar bukan pada teknologinya, melainkan ketiadaan pagar etika dan regulasi yang berjalan secepat inovasi. Ketika platform longgar dan hukum tertinggal, risiko pelecehan digital hanya menunggu waktu.

Kini bukan lagi persoalan tentang siapa yang paling canggih membuat AI, tetapi siapa yang cukup siap mengendalikan dampaknya sebelum ruang publik digital kehilangan rasa aman sepenuhnya.