Dentmas.id – Meta secara resmi MEMBLOKIR akses pengguna remaja ke fitur AI Studio di platformnya. Tidakkah Anda penasaran, apa bahaya mengerikan yang membuat raksasa teknologi ini panik hingga harus mengambil tindakan segila ini? Simak fakta lengkapnya!
Skandal Chat Mesum Pemicu Larangan Total
Pertama-tama, Anda perlu tahu bahwa keputusan mendadak ini Meta ambil setelah beredarnya laporan viral yang mengungkap fakta mencengangkan: karakter AI buatan AI Studio ternyata bisa diajak untuk interaksi tidak pantas, termasuk percakapan mesum, oleh pengguna di bawah umur! Bayangkan saja, anak-anak kita bisa terpapar konten dewasa hanya dari fitur yang dikira “aman” ini. Kemudian, pada Jumat lalu, Meta akhirnya buka suara melalui pernyataan resminya.
Perusahaan dengan jelas menyebut akan “menjeda sementara akses remaja ke AI chatbot karakter yang ada secara global”. Dengan kata lain, mulai sekarang, remaja sama sekali tidak bisa lagi mengobrol dengan chatbot karakter Meta sampai pembaruan sistem keamanan yang super-ketat benar-benar siap. Langkah ini jelas membuat banyak orang tua lega, sekaligus bertanya-tanya: seberapa parahnya sih sampai harus diblokir total?
Fitur Canggih AI Studio dan Celah Bahayanya
Nah, bagi yang belum familiar, kita perlu mengenal AI Studio terlebih dahulu. Fitur yang debut pada Juli 2024 ini sebenarnya menawarkan kebebasan kreatif yang luar biasa, lho! Fitur ini memungkinkan pengguna menciptakan karakter AI khusus dengan dukungan model canggih Llama 3.1. Karakter AI ini berfungsi layaknya teman ngobrol virtual yang bisa diajak diskusi topik spesifik, bikin meme kocak, sampai minta saran hidup. Yang lebih menarik, karakter ini bisa Anda simpan untuk diri sendiri atau justru Anda bagikan ke jutaan pengguna lain di Instagram, Messenger, dan WhatsApp! Akan tetapi, di balik kemudahan dan kecanggihan itu, ternyata tersimpan bahaya yang luput dari pengawasan.
Awal mula skandal ini berawal dari laporan eksklusif Reuters yang berhasil mengungkap dokumen kebijakan internal perusahaan. Sungguh mengejutkan, dalam dokumen rahasia itu disebutkan bahwa AI chatbot Meta sempat diizinkan melakukan percakapan “sensual” dengan pengguna di bawah umur! Meta pun langsung kebakaran jenggot dan membantahnya. Mereka berkilah bahwa bahasa dalam dokumen tersebut keliru dan tidak mencerminkan kebijakan resmi perusahaan. Tapi, pertanyaannya, apakah penjelasan ini cukup?
Upaya Meta dan Tekanan Regulator yang Memaksa
Selanjutnya, kita perlu melihat track record Meta. Sebenarnya, ini bukan kali pertama perusahaan ini berupaya memperbaiki sistemnya. Ingatkah Anda? Pada Agustus lalu, Meta sudah pernah mengumumkan bahwa mereka telah melatih ulang chatbot karakternya dan menambahkan pengaman ekstra. Pengaman itu ditujukan untuk mencegah percakapan berbahaya seputar melukai diri sendiri, gangguan makan, hingga bunuh diri. Namun, tampaknya upaya itu belum cukup ampuh menahan laju eksploitasi yang dilakukan oleh oknum tidak bertanggung jawab.
Oleh karena itu, kali ini Meta memilih langkah yang jauh lebih tegas dan tanpa kompromi. Perusahaan besutan Mark Zuckerberg ini memastikan bahwa remaja sama sekali tidak akan bisa menyentuh chatbot karakter apa pun sampai versi baru dengan perlindungan tambahan benar-benar siap diluncurkan. Tekad mereka bulat: lebih baik menutup akses sementara daripada membiarkan risiko terus berkembang.
Selain itu, Meta juga menegaskan sebuah komitmen yang patut kita apresiasi. Mereka menjanjikan bahwa versi baru chatbot karakter nantinya akan dilengkapi dengan fitur parental controls atau kontrol orang tua yang lebih mumpuni. Fitur canggih ini akan memungkinkan orang tua mengawasi dan membatasi interaksi anak mereka dengan AI secara lebih ketat. Jadi, orang tua akhirnya bisa bernapas lega dan punya kendali penuh. Sementara itu, perlu dicatat bahwa remaja masih diperbolehkan menggunakan Meta AI versi resmi. Menurut perusahaan, asisten AI resmi ini sudah dilengkapi dengan perlindungan sesuai usia yang lebih terjamin. Artinya, tidak semua fitur AI mereka tutup, hanya bagian yang berisiko tinggi saja. Kebijakan ini diambil untuk menyeimbangkan antara inovasi dan keamanan pengguna muda.
Di sisi lain, pemutusan akses ini terjadi di tengah sorotan yang semakin tajam terhadap Meta mengenai penggunaan AI untuk kalangan remaja. Akhir-akhir ini, Meta bersama sejumlah perusahaan AI lain yang mengembangkan chatbot berbasis karakter atau companion, memang sedang menghadapi pengawasan super ketat. Pengawasan ini fokus pada risiko keamanan chatbot bagi anak dan remaja yang dinilai semakin nyata dan mengkhawatirkan.
Terakhir, dan yang paling penting, tekanan dari regulator kini tidak bisa lagi dianggap angin lalu. Komisi Perdagangan AS (Federal Trade Commission/FTC) diketahui telah membuka penyelidikan mendalam terhadap Meta dan beberapa perusahaan lainnya dalam beberapa bulan terakhir. Investigasi ini, seperti dilaporkan Engadget, bisa berujung pada sanksi berat jika perusahaan terbukti lalai. Jadi, bisa dibilang, langkah Meta ini adalah upaya besar-besaran mereka untuk berdamai dengan regulator dan, yang terpenting, mendapatkan kembali kepercayaan dari miliaran pengguna setianya di seluruh dunia.
Kunjungi juga situs berita terupdate hanya di Desapenari.id
