Laporan CCDH ungkap Grok AI hasilkan 3 juta gambar seksual dalam 11 hari. Krisis deepfake non-konsensual picu reaksi global & investigasi hukum ketat.

INDONESIAONLINE – Revolusi kecerdasan buatan (AI) yang digadang-gadang akan membawa peradaban manusia ke tingkat yang lebih tinggi, kini justru tersandung skandal kemanusiaan yang mengerikan. Ambisi Elon Musk untuk menciptakan AI yang “mencari kebenaran” dan “bebas dari virus woke” melalui xAI, justru berujung pada terciptanya mesin yang dituduh memfasilitasi pelecehan seksual massal dalam skala industri.

Laporan mengejutkan dari Center for Countering Digital Hate (CCDH) yang dirilis Kamis (22/1/2026), bukan sekadar statistik angka, melainkan alarm bahaya bagi keamanan digital global. Temuan bahwa chatbot Grok menghasilkan sekitar 3 juta gambar bernuansa seksual hanya dalam kurun waktu 11 hari pasca-peluncuran fitur barunya, menyingkap celah menganga dalam etika pengembangan teknologi di Silicon Valley.

Industrialisasi Pelecehan Seksual: 190 Gambar per Menit

Analisis mendalam CCDH membedah bagaimana fitur pengeditan gambar terbaru Grok, yang terintegrasi langsung dengan platform media sosial X (sebelumnya Twitter), berfungsi layaknya “pabrik” konten eksploitatif. Dengan rata-rata produksi 190 gambar per menit, Grok tidak hanya bekerja cepat, tetapi juga bekerja tanpa rem moral yang memadai.

Yang membuat fitur ini sangat berbahaya adalah kapabilitasnya melakukan nudifikasi (membuat telanjang) objek foto nyata. Berbeda dengan generative AI pada umumnya yang menciptakan karakter fiksi, fitur edit Grok memungkinkan pengguna mengunggah foto orang sungguhan—baik itu selebritas, politisi, mantan kekasih, atau bahkan anak tetangga—dan memberikan perintah teks sederhana seperti “lepas pakaian” atau “pakai bikini”.

Dalam konteks data industri, angka 3 juta gambar dalam 11 hari adalah volume yang masif. Sebagai pembanding, platform moderasi konten konvensional membutuhkan ribuan tenaga manusia untuk menyaring konten sebanyak itu dalam waktu singkat.

Imran Ahmed, CEO CCDH, menyebut fenomena ini sebagai bukti nyata bahwa “Grok milik Elon Musk telah menjadi pabrik produksi materi pelecehan seksual.”

Ancaman CSAM dan Kegagalan “Safety by Design”

Bagian paling kelam dari laporan CCDH adalah temuan sekitar 23.000 gambar yang diduga melibatkan anak-anak. Dalam terminologi keamanan siber, ini masuk dalam kategori Child Sexual Abuse Material (CSAM). Di banyak yurisdiksi hukum, termasuk Amerika Serikat dan Uni Eropa, produksi dan distribusi CSAM adalah kejahatan berat.

Para pakar etika AI menilai xAI telah melanggar prinsip dasar Safety by Design (Keamanan sejak Desain). Platform kompetitor seperti DALL-E 3 milik OpenAI atau Midjourney telah lama menerapkan filter ketat yang menolak perintah (prompt) berbau seksual atau yang melibatkan tokoh publik nyata.

Grok, dengan dalih “kebebasan berekspresi” yang sering didengungkan Musk, tampaknya melompati pagar pengaman tersebut.

“Dengan meluncurkan AI tanpa pengaman memadai, Musk memungkinkan terciptanya puluhan ribu gambar seksualisasi anak dan jutaan gambar perempuan dewasa,” tegas Ahmed.

Data ini menempatkan xAI dalam risiko hukum yang serius, mengingat Jaksa Agung California dan otoritas di Inggris serta Prancis telah memulai langkah investigasi.

Korban Profil Tinggi dan Kerentanan Publik

Skandal ini juga menyoroti bagaimana AI digunakan sebagai senjata untuk menyerang integritas individu. Laporan menyebutkan figur publik seperti Selena Gomez, Taylor Swift, Nicki Minaj, hingga tokoh politik sekelas Wakil Presiden AS Kamala Harris dan Wakil Perdana Menteri Swedia Ebba Busch menjadi korban.

Serangan terhadap tokoh politik perempuan menggunakan deepfake pornografi bukan lagi sekadar pelecehan seksual, melainkan bentuk disinformasi politik yang bertujuan mendegradasi kredibilitas pemimpin perempuan. Fenomena ini mengingatkan pada kasus viral deepfake Taylor Swift pada tahun 2024, namun kini alat pembuatnya (Grok) tersedia secara bebas dan terintegrasi di dalam salah satu media sosial terbesar di dunia.

Namun, yang lebih mengkhawatirkan adalah dampak pada warga biasa (non-figur publik). Jika selebritas memiliki tim hukum untuk melawan, warga biasa yang fotonya diambil dari media sosial dan “ditelanjangi” oleh Grok seringkali tidak memiliki daya untuk melawan penyebaran gambar tersebut. Ini menciptakan teror psikologis yang nyata.

Respon Elon Musk: Penyangkalan dan Geoblocking

Respon xAI dan Elon Musk terhadap krisis ini mencerminkan pola komunikasi khas mereka: defensif dan menyerang balik media. Balasan otomatis “Legacy Media Lies” kepada jurnalis menunjukkan ketidakmauan perusahaan untuk berdialog secara substansial mengenai dampak produknya.

Meskipun demikian, tekanan global memaksa X untuk melakukan langkah taktis. Pengumuman pembatasan geografis (geoblocking) terhadap fitur pembuatan gambar vulgar di wilayah tertentu adalah pengakuan diam-diam bahwa ada masalah serius. Namun, kebijakan ini dinilai para pengamat sebagai “plester pada luka yang menganga”.

“Perbaikan yang terlambat tidak bisa menghapus dampak kerugian yang sudah terjadi. Perusahaan teknologi besar harus bertanggung jawab karena telah memberi pelaku kekerasan alat untuk menyakiti perempuan dan anak-anak hanya dengan satu klik,” ujar Ahmed.

Asia Tenggara di Garis Depan Pelarangan

Menariknya, respon paling keras dan cepat justru datang dari Asia Tenggara. Indonesia, Malaysia, dan Filipina tercatat sebagai negara-negara awal yang mengambil langkah drastis memblokir akses terhadap Grok. Langkah ini didasari oleh undang-undang lokal yang ketat terkait pornografi dan perlindungan data, seperti UU ITE di Indonesia.

Meskipun Filipina melalui Pusat Investigasi dan Koordinasi Kejahatan Siber kemudian mencabut larangan tersebut pada Rabu (21/1/2026) setelah xAI setuju memodifikasi algoritma untuk pasar lokal, insiden ini menunjukkan bahwa kedaulatan digital negara mampu menekan raksasa teknologi.

Ini menjadi preseden penting: perusahaan AI global tidak bisa lagi memaksakan standar “kebebasan absolut” ala Amerika Serikat ke negara-negara dengan nilai budaya dan hukum yang berbeda.

Kasus Grok di awal tahun 2026 ini diprediksi akan menjadi katalisator percepatan regulasi AI global. Jika sebelumnya AI Act di Uni Eropa dan Executive Order di AS lebih fokus pada risiko eksistensial jangka panjang, skandal Grok memaksa regulator untuk fokus pada dampak harms (kerusakan) jangka pendek yang nyata: pornografi non-konsensual dan eksploitasi anak.

Dunia kini menanti apakah investigasi Jaksa Agung California akan berujung pada sanksi pidana atau denda miliaran dolar bagi xAI. Yang pasti, mitos bahwa “teknologi netral” telah runtuh. Di tangan kebijakan korporasi yang abai, algoritma bisa berubah menjadi predator. Dan bagi jutaan perempuan serta anak-anak yang menjadi subjek data, pertanyaannya bukan lagi seberapa cerdas AI itu, melainkan seberapa aman ia bagi kemanusiaan.