Dentmas.id – Dunia digital kembali diguncang skandal! Tak lama setelah pemerintah Indonesia mengambil langkah tegas dengan memblokir aplikasi Grok AI, platform media sosial X (dulu Twitter) akhirnya angkat bendera putih. Secara mengejutkan, perusahaan milik Elon Musk ini langsung menyetop fitur chatbot AI Grok yang bisa menghasilkan konten deepfake berbau asusila.
Sebagai platform yang banyak dipakai untuk mengakses Grok, X segera merespons tekanan global dengan mengeluarkan pernyataan resmi. Bahkan, akun keamanan mereka, @Safety, dengan tegas mengumumkan, “Kami telah menerapkan teknologi yang mencegah akun Grok dimanfaatkan untuk mengedit gambar orang menjadi berpakaian terbuka seperti bikini.” Yang paling bombastis, pencabutan fitur kontroversial ini mereka berlakukan secara total untuk semua pengguna, termasuk para pelanggan X Premium yang sebelumnya mendapat akses khusus.
Sebelumnya, fitur nakal untuk membuat gambar tak senonoh itu sempat mereka batasi hanya untuk pengguna berbayar. Namun, langkah tersebut ternyata tidak cukup untuk meredam badai protes. Meski begitu, perlu kita catat bahwa Grok masih bisa Anda pakai untuk menyunting foto dalam batas wajar, khususnya jika Anda pengguna X berbayar.
Tekanan Global Memuncak, Investigasi Dimana-mana
Hebatnya, keputusan darat ini X umumkan hanya beberapa jam setelah kejaksaan California, AS, mengonfirmasi bahwa mereka sedang menyelidiki kasus penyebaran konten AI asusila. Dalam investigasi tersebut, foto-foto orang tanpa izin mereka ubah menjadi konten porno. Akibatnya, tekanan internasional pun memuncak. Tak heran, sejumlah negara seperti Indonesia dan Malaysia segera bergerak memblokir Grok guna mencegah dampak deepfake yang lebih parah.
Yang membuat kita bangga, Indonesia justru menjadi pelopor! Negeri kita tercatat sebagai negara pertama di dunia yang berani memblokir aplikasi Grok AI. Sejak 10 Januari 2026, akses ke aplikasi itu sudah tidak bisa Anda buka di sini. Dengan penuh wibawa, Menteri Komunikasi dan Informatika, Meutya Hafid, menegaskan bahwa pemblokiran sementara ini dilakukan, “Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial.”
Tak ketinggalan, Malaysia pun langsung mengikuti jejak Indonesia. Melalui Komisi Komunikasi dan Multimedia Malaysia (MCMC), Negeri Jiran itu juga mengumumkan pemblokiran sementara terhadap Grok AI. Jelas, gelombang kekhawatiran atas penyalahgunaan teknologi ini tengah melanda dunia.
India hingga Prancis Ikut Melawan, Protes Berembus Kencang
Di sisi lain, India sudah lebih dulu menyuarakan protes keras. Bahkan, pemerintah India secara khusus mengeluarkan perintah agar X segera mengambil tindakan untuk membatasi Grok agar tidak menghasilkan konten pornografi, vulgar, dan eksplisit yang melanggar hukum. Sementara itu, otoritas Prancis juga ikut turun tangan. Menurut laporan Politico, kantor jaksa Paris kini sedang menyelidiki maraknya deepfake seksual di X. Bahkan, tiga menteri Prancis telah melaporkan konten ilegal tersebut ke pihak berwajib dan platform pengawasan online pemerintah agar konten-konten itu segera mereka hapus.
Lantas, bagaimana dengan negara adidaya? Di Amerika Serikat, lembaga National Center on Sexual Exploitation (NCOSE) mendesak Departemen Kehakiman dan Komisi Perdagangan Federal (FTC) untuk menyelidiki X. Mereka menduga, platform ini melanggar aturan mengenai materi eksploitasi seksual anak serta undang-undang “Take It Down Act”. Tekanan serupa juga menguat di Britania Raya. Dengan lantang, Menteri Teknologi Inggris, Liz Kendall, menyatakan kesiapannya untuk mendukung pemblokiran total platform X. Syaratnya, regulator komunikasi Ofcom harus menyimpulkan adanya pelanggaran terhadap “Online Safety Act”. Keputusan penting dari Ofcom sendiri diperkirakan akan keluar dalam hitungan hari ke depan dan akan menjadi penentu langkah pemerintah Inggris.
Langkah Indonesia Jadi Katalis, Perlindungan Warga Jadi Prioritas
Jadi, apa yang bisa kita pelajari dari kasus ini? Pertama, langkah cepat dan tegas pemerintah Indonesia ternyata berdampak global dan memicu aksi serupa di banyak negara. Kedua, tekanan kolektif dari masyarakat, aktivis, dan pemerintah berbagai belahan dunia berhasil memaksa raksasa teknologi seperti X untuk mengubah kebijakannya. Terakhir, peristiwa ini menjadi pengingat keras bagi kita semua tentang pentingnya regulasi dan kewaspadaan terhadap penyalahgunaan teknologi AI yang bisa merusak privasi dan martabat seseorang.
Pada akhirnya, perlindungan terhadap masyarakat, terutama kelompok rentan, harus selalu menjadi prioritas utama di atas segalanya. Karena itu, kolaborasi antara pemerintah, platform digital, dan masyarakat sipil mutlak diperlukan untuk menciptakan ekosistem digital yang lebih aman dan bertanggung jawab.
Kunjungi juga situs berita terupdate hanya di Desapenari.id
