Dentmas.id – Platform komunikasi favorit para gamer, Discord, baru-baru ini mengakui kesalahan fatal pada sistem moderasi mereka. Bayangkan, sekitar 8.000 akun pengguna diblokir tanpa alasan yang jelas selama beberapa bulan terakhir! Bukan karena melanggar aturan berat, tapi hanya karena sistem kecerdasan buatan (AI) mereka mengalami bug yang mengakibatkan kesalahan identifikasi gambar.
Baca Juga: China Resmi Larang Penggunaan Claude Code Versi Tertentu setelah Temuan Backdoor
Kejadian ini mulai terungkap setelah seorang pengguna media sosial X dengan akun @tallcowyt menyuarakan kecurigaannya tentang adanya celah pada sistem moderasi AI milik Discord. Pengguna tersebut mendapati fakta mengejutkan bahwa AI Discord secara keliru menandai gambar dengan pola kotak-kotak sebagai konten berbahaya. Akibatnya, banyak pengguna yang hanya mengunggah tangkapan layar dari permainan Minecraft, foto papan catur, atau gambar serupa lainnya harus merasakan pahitnya pemblokiran akun permanen.
Sial! Gambar Catur dan Minecraft Bisa Bikin Akun Anda Hilang Selamanya?
Menyikapi laporan yang menghebohkan ini, Discord akhirnya buka suara. Pihak mereka menjelaskan bahwa sistem moderasi sebenarnya bekerja dengan mencocokkan setiap konten yang diunggah pengguna ke dalam basis data materi berbahaya yang sudah mereka ketahui sebelumnya. “Sistem kami menandai konten dengan mencocokkannya dengan materi berbahaya yang diketahui. Namun, pencocokan kesamaan ini terkadang dapat menghasilkan positif palsu. Sebenarnya, tim kami selalu meninjau konten yang ditandai sebelum tindakan apa pun diambil,” tulis melalui akun resmi mereka di X Twitter.
Baca Juga: Viral Spesifikasi Game RAM 64 GB di Steam, Pengembang Cinder City Akhirnya Buka Suara
Namun, yang menjadi masalah utama adalah adanya bug yang membuat mekanisme pengamanan tersebut tidak berjalan sesuai prosedur. Discord mengakui bahwa seharusnya sistem hanya menghentikan sementara proses unggahan selama masa peninjauan berlangsung. Sayangnya, karena bug ini, sistem malah langsung mengeluarkan sanksi pemblokiran akun secara permanen. “Kami memiliki bug yang malah mengeluarkan pemblokiran. Bug yang sama juga mencegah pemblokiran dicabut secara otomatis,” ungkap perwakilan dengan nada penyesalan.
Bukan Sedikit! Lebih dari 8.000 Akun Jadi Korban, Discord Ngaku Telat Sadar
Jumlah korban dari bug mematikan ini ternyata sangat fantastis. Discord mengungkapkan bahwa sekitar 8.200 akun telah terdampak sejak Mei 2026 hingga pekan lalu. Bahkan, sekitar 200 akun lainnya ikut menjadi korban pada akhir pekan lalu sebelum akhirnya masalah ini terdeteksi. Perusahaan pun mengklaim bahwa seluruh akun yang terdampak kini telah mereka pulihkan sepenuhnya. “Kami telah mencabut pemblokiran semua orang yang terpengaruh oleh bug ini,” tegas Discord dalam pernyataan resminya.
Baca Juga: Gabe Newell dan Ambisi Besar Menjelajahi Kedalaman Laut dengan Kapal Rp 14,6 Triliun
Meskipun begitu, Discord juga dengan jujur mengakui bahwa mereka terlambat dalam mendeteksi masalah ini. “Seharusnya kami bisa mendeteksi ini lebih cepat. Kami sedang berupaya meningkatkan pengamanan dan memastikan sistem keamanan kami tidak menghukum orang yang tidak melakukan kesalahan apa pun,” lanjut Discord. Pengakuan ini menunjukkan bahwa meskipun Discord adalah platform besar, mereka tidak luput dari kesalahan teknis yang berdampak luas pada penggunanya.
Meski Klaim Sudah Pulih, Masih Banyak Pengguna yang Mengeluh!
Namun, yang menarik adalah setelah pengumuman resmi dari Discord, masih banyak pengguna di platform X yang melaporkan bahwa akun mereka belum juga dipulihkan. Bahkan, catatan komunitas (Community Notes) pada salah satu unggahan Discord menyebutkan bahwa klaim seluruh akun telah dipulihkan belum sepenuhnya sesuai dengan kondisi di lapangan. Hal ini tentu menimbulkan pertanyaan besar tentang efektivitas sistem pemulihan yang dilakukan oleh Discord.
Insiden ini pun kembali menyoroti penggunaan sistem moderasi otomatis berbasis AI di berbagai platform digital. Banyak pihak mulai mempertanyakan keandalan AI dalam mengambil keputusan sensitif seperti pemblokiran akun tanpa campur tangan manusia yang memadai. Meskipun AI dapat mempercepat proses moderasi, kasus ini membuktikan bahwa teknologi tersebut masih memiliki celah yang bisa merugikan pengguna yang tidak bersalah. Semoga ke depannya Discord bisa lebih berhati-hati dan meningkatkan sistem keamanan mereka agar kejadian serupa tidak terulang kembali.
Temukan juga berbagai berita terbaru lainnya hanya di Exposenews.id.
