Dentmas.id – Belakangan ini, chatbot andalan xAI milik Elon Musk, yaitu Grok, tiba-tiba menjadi pusat perbincangan panas di platform X. Ternyata, banyak pengguna nakal dengan sengaja menyalahgunakan kecerdasan buatan tersebut untuk merekayasa foto orang lain secara liar. Lebih parah lagi, mereka dengan berani memerintahkan Grok untuk mengubah foto-foto biasa menjadi konten tidak senonoh yang sama sekali tidak etis.
Viralnya Penyalahgunaan untuk Konten Terlarang
Bahkan, tindakan penyalahgunaan ini mencapai tingkat yang sangat mengkhawatirkan. Pasalnya, beberapa pengguna tak bertanggung jawab secara terbuka meminta Grok untuk menyunting foto anak di bawah umur dengan perintah (prompt) yang sangat tidak pantas. Sejak akhir Desember 2025, praktik buruk ini telah ramai diperbincangkan oleh pengguna X di seluruh dunia, termasuk di Indonesia, dan menciptakan gelombang kekhawatiran yang masif. Yang membuat situasi semakin mencemaskan, sasaran mereka ternyata benar-benar acak. Artinya, bukan hanya selebriti atau tokoh publik yang menjadi korban, melainkan juga pengguna biasa sama sekali tidak luput dari “serangan” edit foto tak senonoh memanfaatkan Grok AI ini. Dampaknya, siapa pun bisa merasa tidak aman.
Berdasarkan investigasi lebih lanjut, laporan dari Futurism mengungkap fakta yang lebih mengerikan. Ternyata, beberapa pengguna juga memerintahkan Grok untuk membuat foto rekayasa yang menampilkan wanita-wanita asli seolah-olah sedang mengalami kekerasan fisik ekstrem. Mereka dengan detailnya meminta AI itu menampilkan luka jelas, memar, lebam, hingga adegan yang menyiratkan pelecehan dan pembunuhan. Lebih spesifik, Futurism menyebutkan bahwa sebagian besar perintah tak senonoh itu justru ditujukan kepada model platform online dan pekerja seks. Akibatnya, Grok AI secara tidak langsung berubah menjadi generator pornografi pribadi yang menggunakan wajah orang asli tanpa izin mereka sedikit pun. Fitur chatbot AI yang terintegrasi langsung di X justru mempermudah penyebaran konten eksplisit ilegal ini menjadi terbuka lebar.
Kemarahan Musk dan Peringatan Tegas dari X
Menyikapi skandal besar ini, Elon Musk sebagai pemilik platform X akhirnya angkat bicara dan tidak bisa menyembunyikan kemarahannya. Dengan tegas dia memperingatkan, “Siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama sebagaimana mereka mengunggah konten ilegal,” tulis Musk di akun X pribadinya, @elonmusk. Tak ketinggalan, akun resmi keamanan platform X, yaitu @Safety, langsung mengeluarkan pernyataan resmi yang mempertegas ancaman Musk. Mereka memperingatkan bahwa pihaknya akan mengambil tindakan tegas terhadap segala bentuk konten ilegal di X. “Kami mengambil tindakan terhadap konten ilegal di X, termasuk Materi Pelecehan Anak (CSAM), dengan menghapusnya, menangguhkan akun secara permanen, dan bekerja sama dengan pemerintah serta penegak hukum,” tulis tim @Safety.
Tim @Safety pun kembali menegaskan bahwa aturan yang sama akan diberlakukan untuk penyalahgunaan Grok. “Siapa pun yang menggunakan atau membuat prompt Grok untuk konten ilegal, akan menanggung konsekuensi yang sama seperti jika mereka mengunggah konten ilegal sendiri,” imbuh mereka. Pernyataan ini jelas menjadi alarm keras bagi semua pengguna.
Ancaman Hukum dari India dan Prancis
Gempuran konten ilegal ini ternyata juga telah memantik perhatian serius dari pemerintah berbagai negara. Salah satu yang paling cepat bereaksi adalah Kementerian Teknologi dan Informasi India. Otoritas India secara resmi mengeluarkan perintah mendesak agar X segera mengambil langkah konkret untuk membatasi kemampuan Grok dalam menghasilkan konten pornografi, vulgar, eksplisit, tak senonoh, pedofilia, dan segala konten terlarang lainnya. Perintah dari India itu bahkan disertai ancaman hukum yang berat. Mereka memberikan waktu 72 jam bagi X untuk merespons, atau platform tersebut akan kehilangan perlindungan “safe harbor”. Perlindungan safe harbor sendiri merupakan tameng hukum yang melindungi platform online dari tuntutan, asalkan mereka mematuhi kewajiban tertentu. Ancaman kehilangan perlindungan ini jelas merupakan pukulan finansial dan reputasi yang serius bagi X.
Tidak hanya India, otoritas Prancis juga ikut turun tangan. Berdasarkan laporan Politico, Kejaksaan Paris telah membuka penyelidikan terkait maraknya deepfake bermuatan seksual di platform X. Sementara itu, kementerian digital Prancis mengonfirmasi bahwa tiga menteri telah melaporkan “konten melanggar hukum” kepada pihak kejaksaan. Laporan ini juga mereka sampaikan ke platform pengawasan online pemerintah untuk memastikan penghapusan konten segera dilakukan.
Malaysia Ikut Bergerak, Tekanan Global Menguat
Negara tetangga Indonesia, Malaysia, pun tak tinggal diam. Melalui sebuah pernyataan resmi di Facebook, Malaysian Communication and Multimedia Commission (MCMC) menyatakan sikap tegas mereka. “Kami mengambil langkah serius terkait keluhan masyarakat soal penyalahgunaan AI di platform X, khususnya manipulasi digital gambar perempuan dan anak di bawah umur untuk konten tidak senonoh, ofensif, dan berbahaya,” tulis MCMC. Komisi tersebut akhirnya menyatakan bahwa mereka akan segera menyelidiki pengguna X yang diduga melanggar Undang-Undang Komunikasi dan Multimedia (CMA). Dengan demikian, gelombang penyalahgunaan Grok AI yang semula hanya menjadi masalah etika di dunia digital, kini telah berubah menjadi perkara hukum yang melibatkan negara-negara di berbagai benua. Tekanan global kini sedang mengarah kepada Elon Musk dan X untuk segera membersihkan rumah mereka sendiri.
Kunjungi juga situs berita terupdate hanya di Desapenari.id
