Dentmas.id – Elon Musk akhirnya mengambil tindakan tegas. Ia merespons langsung maraknya pembuatan konten asusila yang memanfaatkan AI Grok di platform X. Sebagai langkah darurat, Musk kini secara resmi membatasi fitur pembuatan gambar berbasis AI tersebut, dan hanya pengguna berbayar saja yang bisa menikmatinya. Tepat pada hari Jumat waktu Amerika Serikat, kebijakan baru ini langsung berlaku di seluruh X. Bayangkan saja, ketika pengguna gratisan mencoba memerintah Grok untuk membuat gambar, chatbot canggih itu justru akan menampilkan pesan yang secara halus mengarahkan mereka untuk berlangganan X Premium. Secara mengejutkan, Grok akan membalas dengan kalimat yang menginformasikan bahwa fitur tersebut terbatas untuk pelanggan berbayar, sambil menyelipkan tautan langsung ke halaman berlangganan.
Perlu dicatat, batasan ketat ini terutama aktif ketika pengguna memberi perintah pada Grok melalui tweet dengan menyebut hashtag @Grok. Akan tetapi, ada celah mengejutkan. Jika pengguna membuka langsung tab Grok yang terintegrasi di X, pengguna gratisan ternyata masih bisa leluasa memerintahkannya membuat gambar. Belum lagi, pembuatan gambar melalui aplikasi Grok yang terpisah dari X juga masih terbuka tanpa batasan apapun.
Tanggapan dan Kritik dari Berbagai Pihak Internasional
Tanpa disangka, kebijakan pembatasan fitur Grok ini sebenarnya merupakan bentuk tanggapan atas gelombang kritik pedas yang datang dari berbagai penjuru. Mulai dari pengguna biasa hingga pemerintah berbagai negara menyuarakan keprihatinannya yang mendalam. Para pejabat di Inggris, Uni Eropa, Malaysia, hingga India secara serempak menyoroti keamanan Grok yang dianggap rapuh, karena gambar yang dihasilkannya mudah mengarah pada pornografi dan deepfake.
Merespons kebijakan Musk tersebut, juru bicara Perdana Menteri Inggris, Keir Starmer, langsung mengecamnya. Ia dengan tegas menyebut kebijakan itu hanya mengubah fitur AI yang bisa membuat gambar ilegal, menjadi layanan premium yang eksklusif. Di Amerika Serikat sendiri, gejolak tidak kalah panas. Sejumlah senator bahkan melayangkan surat resmi ke raksasa teknologi Apple dan Google. Mereka mendesak dengan keras agar kedua perusahaan segera menghapus aplikasi X dari toko aplikasi mereka karena dinilai telah melanggar ketentuan distribusi. Tidak berhenti di situ, juru bicara Komisi Eropa juga ikut angkat bicara dan menilai bahwa batasan berbayar ini sama sekali tidak menyentuh akar masalah. Dengan tegas ia menyatakan bahwa langganan atau tidak, gambar-gambar asusila tersebut tetap tidak diinginkan.
Penyelidikan dan Peringatan Keras dari Kemkominfo RI
Sementara di Indonesia, Kementerian Komunikasi dan Digital turut bergerak cepat. Mereka tidak hanya mengecam, tetapi juga telah memulai penyelidikan mendalam. Menurut analisis Kemkominfo, praktik mengedit foto menjadi konten asusila dengan mudah dapat melanggar privasi dan hak citra diri, dan berisiko tinggi terkena sanksi hingga pemutasan akses layanan.
Berdasarkan penelusuran awal, Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, mengungkapkan fakta mencengangkan. Ternyata, Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto asli warga Indonesia. Hal krusial ini berpotensi besar melanggar hak privasi dan hak atas citra diri, terutama ketika foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan yang sah. Alexander dengan jelas memaparkan bahwa temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Kondisi ini berisiko besar menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga.
Lebih lanjut, Kemkominfo menegaskan bahwa manipulasi digital terhadap foto pribadi bukan sekadar soal kesusilaan. Ini merupakan bentuk nyata perampasan kendali individu atas identitas visualnya sendiri yang pada akhirnya dapat memicu kerugian psikologis, sosial, dan reputasi yang sangat parah.
Sanksi Hukum dan Imbauan untuk Penggunaan
Saat ini, Kemkominfo tengah aktif berkoordinasi dengan para Penyelenggara Sistem Elektronik. Mereka berusaha memastikan tersedianya mekanisme perlindungan yang efektif, termasuk penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran. Alexander dengan tegas menegaskan bahwa setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang.
Ia juga mengingatkan bahwa kewajiban kepatuhan terhadap peraturan perundang-undangan Indonesia melekat erat kepada seluruh PSE yang beroperasi di wilayah Indonesia. Apabila ditemukan adanya ketidakpatuhan atau sikap tidak kooperatif, Kemkominfo berwenang menjatuhkan sanksi administratif bahkan hingga pemutusan akses layanan Grok AI dan platform X. Kemkominfo menambahkan bahwa baik penyedia layanan AI maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten terlarang dapat dikenai sanksi administratif dan/atau pidana. Dasar hukumnya semakin kuat sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang KUHP, di mana konten pornografi diatur dengan ancaman pidana penjara yang sangat berat.
Sebagai penutup, Alexander menghimbau masyarakat yang menjadi korban untuk segera menempuh upaya hukum. Ia mengimbau seluruh pihak untuk menggunakan teknologi kecerdasan artifisial secara bertanggung jawab. Ingatlah bahwa ruang digital bukan ruang tanpa hukum, selalu ada privasi dan hak atas citra diri setiap warga yang harus kita hormati dan lindungi bersama.
Kunjungi juga situs berita terupdate hanya di Desapenari.id
