Mulai hari itu, fitur pembuatan gambar generatif pada Grok dibatasi secara ketat. Pengguna gratisan yang mencoba mengetikkan perintah atau prompt untuk membuat gambar kini disambut dengan pesan dingin: “Pembuatan dan penyuntingan gambar saat ini dibatasi untuk pelanggan berbayar. Anda dapat berlangganan untuk membuka fitur ini.”

Langkah ini diklaim xAI—perusahaan AI milik Musk—sebagai respons atas penyalahgunaan teknologi untuk membuat konten asusila. Namun, bagi para pengamat teknologi dan pembuat kebijakan di berbagai negara, strategi ini memicu pertanyaan etis yang mendalam: Apakah Musk sedang berusaha menyelesaikan masalah moral, atau justru sedang mengapitalisasi kejahatan digital dengan mengubah fitur ilegal menjadi layanan premium eksklusif?

Monetisasi di Atas Moralitas?

Keputusan membatasi akses Grok hanya untuk pengguna X Premium (berbayar) segera memantik reaksi keras dari komunitas internasional. Narasi yang dibangun oleh X adalah pembatasan akses akan mengurangi volume penyalahgunaan. Logikanya, pelaku iseng atau bot gratisan akan terhenti langkahnya.

Namun, logika ini cacat di mata regulator. Juru bicara Perdana Menteri Inggris, Keir Starmer, melontarkan kritik tajam yang mewakili keresahan global. Ia menyebut kebijakan tersebut “hanya mengubah fitur AI yang bisa membuat gambar ilegal, menjadi layanan premium.”

Dengan kata lain, kemampuan untuk membuat gambar tak senonoh tidak dihilangkan dari sistem, melainkan hanya “dijual” kepada mereka yang mampu membayar.

Kritik serupa datang dari Komisi Eropa. Juru bicaranya menegaskan bahwa masalah intinya bukan pada siapa yang membayar, melainkan pada keberadaan konten itu sendiri. “Berlangganan atau tidak, kami tidak ingin melihat gambar-gambar (asusila) seperti itu,” tegas pihak Uni Eropa.

Lebih parah lagi, investigasi teknis menunjukkan bahwa “tembok” yang dibangun Musk masih berlubang. Meskipun perintah melalui tagar @Grok di lini masa dibatasi, pengguna gratisan dilaporkan masih bisa mengakali sistem dengan membuka tab khusus Grok di aplikasi atau menggunakan aplikasi terpisah.

Ini menunjukkan ketidaksiapan infrastruktur X dalam melakukan moderasi konten yang serius, dan memperkuat dugaan bahwa langkah ini lebih bermotif ekonomi ketimbang keamanan.

Ancaman Nyata: “Kiamat” Aplikasi X di Toko Digital

Di Amerika Serikat, isu ini telah bergeser dari sekadar debat etika menjadi ancaman eksistensial bagi bisnis Musk. Sejumlah senator AS telah mengirimkan surat resmi kepada dua raksasa teknologi, Apple dan Google. Desakannya jelas: Hapus aplikasi X dari App Store dan Play Store karena melanggar pedoman distribusi aplikasi.

Apple dan Google memiliki kebijakan ketat melarang aplikasi yang memfasilitasi pornografi atau konten ilegal tanpa moderasi yang memadai. Jika X terbukti gagal mengendalikan output Grok AI yang menghasilkan pornografi non-konsensual (NCII), penghapusan dari toko aplikasi bukanlah ancaman kosong. Ini akan menjadi pukulan mematikan bagi ekosistem X yang sudah tertatih-tatih secara finansial.

Indonesia Bersikap: Ancaman Blokir dan Jerat KUHP Baru

Di dalam negeri, Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) tidak tinggal diam. Isu deepfake pornografi bukan lagi sekadar potensi, melainkan ancaman nyata yang mengintai warga negara.

Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, mengungkapkan fakta mengejutkan dari hasil penelusuran awal timnya. Grok AI dinilai belum memiliki pengaturan spesifik yang mampu mencegah produksi konten pornografi berbasis foto asli warga Indonesia.

Ini artinya, wajah siapa pun—mulai dari selebritas hingga warga biasa—bisa dicuri dan ditempelkan pada tubuh telanjang secara digital tanpa persetujuan.

“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini… Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander dalam keterangan resminya.

Sikap tegas Komdigi didasarkan pada landasan hukum yang kuat. Sejak 2 Januari 2026, Indonesia telah memberlakukan Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) yang baru. Regulasi ini memberikan “gigi” yang lebih tajam bagi penegak hukum untuk menjerat pelaku kejahatan digital.

Alexander merujuk pada dua pasal krusial dalam KUHP baru tersebut:

1. Pasal 172: Mendefinisikan pornografi secara luas, mencakup media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan.
2. Pasal 407: Mengatur sanksi pidana yang berat. Pelaku yang memproduksi atau menyebarkan konten semacam ini menghadapi ancaman penjara paling singkat 6 bulan dan paling lama 10 tahun.

Ancaman Komdigi terhadap X dan Grok AI tidak main-main. Sebagai Penyelenggara Sistem Elektronik (PSE) yang beroperasi di wilayah Indonesia, X wajib tunduk pada hukum nasional. Jika Musk dan timnya di xAI bersikap tidak kooperatif atau gagal menyediakan fitur pencegahan yang efektif, sanksi administratif berupa pemutusan akses (pemblokiran) menanti di depan mata.

Hak Atas Citra Diri: Perampasan Identitas Visual

Poin penting yang diangkat oleh Komdigi adalah konsep “Hak atas Citra Diri” (Right to One’s Image). Dalam era generative AI, wajah dan tubuh seseorang adalah aset data. Ketika Grok AI mengizinkan pengguna untuk memanipulasi foto seseorang menjadi konten asusila, hal itu bukan sekadar pelanggaran kesusilaan, melainkan perampasan otonomi tubuh secara digital.

Dampak psikologis bagi korban deepfake pornografi sangatlah hancur. Reputasi sosial bisa runtuh dalam sekejap, trauma psikologis yang mendalam, hingga perundungan siber yang tak berkesudahan. Teknologi yang seharusnya menjadi alat bantu manusia, kini berubah menjadi senjata pemusnah karakter.

“Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” pungkas Alexander.

Kasus Grok AI ini menjadi ujian besar bagi tata kelola kecerdasan buatan di tingkat global. Apakah perusahaan teknologi raksasa boleh berlindung di balik dalih “kebebasan berekspresi” atau mekanisme “berbayar” untuk melepaskan tanggung jawab atas dampak produk mereka?

Langkah Elon Musk membatasi fitur gambar untuk pengguna berbayar mungkin bisa sedikit mengerem laju pembuatan konten sampah oleh akun bot. Namun, tanpa perbaikan fundamental pada algoritma safety Grok untuk mendeteksi dan menolak permintaan konten asusila, kebijakan ini hanyalah kosmetik.

Bagi Indonesia dan negara-negara lain, ketegasan regulasi adalah satu-satunya benteng. Jika X gagal berbenah, pemblokiran mungkin menjadi opsi pahit yang harus diambil demi melindungi martabat warga negara dari eksploitasi mesin pintar yang kehilangan kompas moralnya.