Dentmas.id – Bayangkan jika Anda menciptakan monster, lalu membuat monster lain yang lebih buas untuk melawan monster pertama. Kedengarannya seperti alur film fiksi ilmiah, bukan? Namun, itulah yang baru saja dilakukan oleh OpenAI! Perusahaan raksasa di balik ChatGPT ini memperkenalkan sistem kecerdasan buatan internal bernama GPT-Red yang dirancang khusus untuk “menyerang” AI buatannya sendiri. Tujuannya? Menemukan celah keamanan sebelum para peretas atau pihak jahat lainnya memanfaatkannya untuk hal-hal yang tidak diinginkan.
Lantas, apa sebenarnya GPT-Red ini? Model AI canggih ini dikembangkan sebagai alat red teaming—sebuah proses pengujian yang selama ini biasanya dilakukan oleh tim keamanan siber manusia untuk mencari kelemahan pada suatu sistem. Namun, yang membedakan GPT-Red dari tim keamanan konvensional adalah kemampuannya menjalankan tugas tersebut secara otomatis menggunakan kecerdasan buatan. Dengan demikian, AI ini mampu melancarkan serangan dalam jumlah yang jauh lebih banyak dibandingkan dengan penguji manusia yang memiliki keterbatasan waktu dan tenaga.
Bagaimana cara kerja sistem yang mengerikan namun brilian ini? Dalam pengujiannya, GPT-Red mengirim berbagai macam prompt atau perintah ke model AI target, kemudian menganalisis setiap respons yang diberikan dengan teliti. Jika upaya serangan tersebut gagal menemukan celah keamanan, GPT-Red tidak akan menyerah begitu saja. Sebaliknya, ia akan segera mengubah strategi dan mencoba lagi dengan pendekatan berbeda hingga memperoleh hasil yang diinginkan. Proses ini berlangsung berulang kali dengan kecepatan super cepat yang tidak mungkin ditandingi oleh manusia.
OpenAI menjelaskan bahwa GPT-Red dilatih menggunakan metode reinforcement learning self-play—sebuah teknik canggih yang mempertemukan AI penyerang dengan AI bertahan dalam berbagai skenario kompleks. Dalam metode ini, model penyerang memperoleh “hadiah” atau reward ketika berhasil mengeksploitasi sistem, sementara model bertahan mendapat imbalan jika mampu menggagalkan serangan. Proses kompetitif ini diulang terus-menerus sehingga kemampuan kedua model meningkat secara bertahap, menciptakan semacam perlombaan senjata AI yang sesungguhnya.
Diklaim Lebih Efektif dari Manusia
Hasil pengujian menunjukkan performa GPT-Red yang sungguh mencengangkan! OpenAI mengklaim bahwa sistem ini mampu menemukan celah keamanan dengan tingkat keberhasilan yang jauh lebih tinggi dibandingkan tim keamanan manusia. Dalam pengujian internal yang dilakukan, GPT-Red berhasil mengeksploitasi 84 persen skenario yang diuji, sementara tim manusia hanya mencatat tingkat keberhasilan 13 persen. Selisih yang sangat signifikan ini membuktikan keunggulan AI dalam hal kecepatan, konsistensi, dan kemampuan untuk menguji ribuan skenario secara simultan.
Selain itu, OpenAI juga menyebutkan bahwa penggunaan GPT-Red dapat memangkas tingkat keberhasilan serangan prompt injection dibandingkan dengan model produksi OpenAI empat bulan sebelumnya. Prompt injection sendiri merupakan teknik serangan di mana penyerang menyisipkan perintah berbahaya ke dalam prompt yang tampaknya tidak berbahaya untuk memanipulasi perilaku AI. Yang lebih mengesankan lagi, jenis serangan fake chain-of-thought—yang sebelumnya mampu menembus model GPT-5.1 dengan tingkat keberhasilan lebih dari 95 persen—kini hanya kurang dari 10 persen terhadap GPT-5.6 setelah melalui proses pengujian dengan GPT-Red.
GPT-Red juga diuji coba untuk sejumlah agen AI dengan hasil yang mengejutkan. Dalam salah satu pengujian, sistem tersebut berhasil mengambil alih agen mesin penjual otomatis virtual bernama Vendy, mengubah harga produk sesuai keinginannya, hingga membatalkan pesanan yang sudah masuk. Tidak berhenti di situ, GPT-Red juga mampu memanipulasi agen AI berbasis command line yang biasanya digunakan untuk membantu proses pemrograman—sebuah temuan yang tentunya sangat mengkhawatirkan jika jatuh ke tangan yang salah.
“Dibandingkan dengan tim red teaming manusia, model ini sangat, sangat bagus dalam menemukan apa yang benar-benar berhasil,” ujar peneliti OpenAI Dylan Hunn dengan nada antusias namun tetap waspada. Sementara itu, rekannya sesama peneliti OpenAI, Nikhil Kandpal, mengingatkan bahwa risiko keamanan akan terus meningkat seiring AI menjadi semakin otonom. “Permukaan risikonya bertambah dan radius dampaknya juga semakin besar,” tegasnya, menyoroti urgensi pengembangan sistem keamanan yang mumpuni.
Tidak Akan Dirilis ke Publik
Meskipun terdengar sangat canggih dan bermanfaat, OpenAI menegaskan bahwa GPT-Red bukanlah produk komersial dan tidak akan pernah tersedia untuk publik. Keputusan ini diambil dengan pertimbangan matang—perusahaan memilih menyimpan model tersebut secara internal agar kemampuan destruktif yang dimilikinya tidak disalahgunakan oleh pihak lain yang tidak bertanggung jawab. Sebaliknya, semua temuan dari GPT-Red digunakan secara eksklusif untuk memperkuat model AI OpenAI melalui proses pelatihan lanjutan, menciptakan lingkaran setan di mana AI menjadi semakin sulit ditembus berkat pengalaman dari “serangan” yang dilancarkan oleh saudaranya sendiri.
Namun, OpenAI juga dengan jujur mengakui bahwa GPT-Red masih memiliki sejumlah keterbatasan yang perlu diatasi. Model tersebut dinilai belum optimal dalam menghadapi serangan multi-turn conversation yang berlangsung dalam beberapa tahap percakapan. Selain itu, kemampuannya dalam mendeteksi serangan prompt injection berbasis gambar juga masih terbatas, mengingat kompleksitas analisis visual yang membutuhkan pemrosesan berbeda dari teks biasa. Karena itulah, OpenAI mengatakan bahwa pengujian keamanan oleh manusia tetap dibutuhkan untuk melengkapi kemampuan GPT-Red yang belum sempurna.
Pengumuman mengenai GPT-Red ini hadir beberapa pekan setelah OpenAI merilis GPT-5.6, yang diposisikan untuk bersaing dengan model AI terbaru dari Anthropic. Langkah strategis ini menunjukkan bahwa prompt injection masih menjadi salah satu tantangan terbesar dalam keamanan AI, terutama di tengah semakin luasnya penggunaan agen AI yang mampu menjalankan tugas secara mandiri tanpa intervensi manusia. Semakin otonom sebuah AI, semakin besar pula potensi kerusakan yang dapat ditimbulkan jika terjadi pelanggaran keamanan.
Jessica Ji, analis riset senior di Center for Security and Emerging Technology, Georgetown University, menilai hasil yang dicapai GPT-Red cukup menjanjikan. Meskipun demikian, ia menegaskan bahwa keahlian manusia tetap memiliki peran penting yang tidak bisa digantikan sepenuhnya dalam proses pengujian keamanan AI. “Manusia membawa konteks, intuisi, dan pemahaman etis yang belum dapat ditiru oleh mesin,” ujarnya, sebagaimana dirangkum dari SiliconANGLE dan MIT Technology Review. Pada akhirnya, kolaborasi antara kecerdasan buatan dan kecerdasan manusia mungkin menjadi kunci untuk menciptakan masa depan AI yang aman dan bertanggung jawab.
Temukan juga berbagai berita terbaru lainnya hanya di Exposenews.id.
