Dentmas.id – Bayangkan ini: perusahaan Anda asyik memakai AI buat kerja cepat, tapi diam-diam data rahasia bocor ke luar negeri tanpa ada yang sadar. Ngeri, kan? Nah, perusahaan keamanan sistem penghubung aplikasi (API) asal Amerika Serikat, F5 Networks, akhirnya buka suara. Mereka memperkenalkan dua pendekatan anyar yang siap mengamankan penggunaan kecerdasan buatan (AI) di perusahaan-perusahaan Indonesia. Dan percayalah, ini bukan sekadar tambal sulam biasa.
Jadi, dua senjata baru ini bernama AI Guardrails dan AI Red Team. Keduanya hadir sebagai solusi layanan yang dirancang khusus buat meminimalisir risiko AI di ekosistem API dan cloud perusahaan.
AI Bisa Jadi Pedang Bermata Dua
Danang Wijanarko, Country Head of Solutions Engineering F5 Networks Indonesia, membuka mata kita semua. Ia bilang AI emang udah jadi primadona di dunia bisnis. Efisiensi kerja melonjak drastis, produktivitas naik, semua orang kegirangan. Tapi tunggu dulu!
“AI memang membawa efisiensi besar dan kini banyak diadopsi. Namun di sisi lain, teknologi ini membuka risiko baru yang sebenarnya belum dipahami organisasi,” ujar Danang tegas di kantor F5 Networks Indonesia, Senayan, Jakarta Selatan, Rabu (25/2/2026).
Ia lalu menjelaskan sesuatu yang bikin merinding. AI itu sifatnya non-deterministik, artinya nggak punya pola tetap. Bedanya sama sistem konvensional, AI generatif ini bakal nerima dan jawab apa aja yang kita masukin. Mau itu pertanyaan biasa atau malah perintah berbahaya, sistem tetap akan merespons.
“Kita masukkan apa saja, dia akan jawab dan akan terima, baik itu berbahaya atau tidak. Nah, ini yang harus diatur dan diawasi,” imbuhnya dengan nada serius.
AI Guardrails: Pagar Virtual Penyelamat Data Perusahaan
Coba bayangin AI Guardrails ini sebagai pagar pengaman canggih yang dipasang sebelum karyawan perusahaan mulai ngobrol dengan sistem AI. Fungsinya? Super krusial!
Sekarang ini, banyak perusahaan Indonesia yang pakai model AI publik yang jalan di cloud. Biar AI-nya pinter dan relevan dengan kebutuhan bisnis, biasanya perusahaan menggabungkan pertanyaan user dengan data internal. Metode ini terkenal dengan nama Retrieval Augmented Generation atau RAG.
Nah, di sinilah letak masalah besarnya. Proses RAG ini berisiko tinggi bikin data sensitif perusahaan ikut terkirim ke sistem cloud AI tanpa melalui proses penyaringan yang memadai. Gila banget, kan?
“Di sini muncul istilah oversharing, di mana data perusahaan yang tak seharusnya tersimpan baik malah bocor dan diterima sekaligus diproses oleh AI. Biasanya, oversharing ke AI ini tidak disadari oleh suatu perusahaan,” jelas Danang sambil menggeleng.
AI Guardrails langsung bergerak mengurangi risiko oversharing ini. Sistem ini bekerja super ketat mengontrol dan mengawasi alur data dua arah antara perusahaan dan sistem AI. Gak main-main, tugasnya detail banget:
Pertama, sistem akan memeriksa setiap prompt atau pertanyaan sebelum dikirim ke AI. Kedua, AI Guardrails aktif mencegah kebocoran data sensitif. Ketiga, sistem langsung memblokir percobaan manipulasi atau prompt injection. Keempat, teknologi ini pintar mengatur akses siapa aja yang boleh memakai fitur tertentu.
Singkatnya, perusahaan bisa tetap asyik manfaatin AI tanpa harus kehilangan kendali atas data mereka sendiri.
AI Red Team: Jadi Hacker Baik Demi Keamanan
Nah, kalau AI Guardrails itu pagar pengaman, maka AI Red Team ini tim penguji ketahanan sistem yang rada serem tapi penting banget.
Dalam dunia keamanan siber, istilah “red team” merujuk pada tim spesialis yang pura-pura jadi hacker. Mereka sengaja nyari celah sebelum penjahat siber beneran nemuin dan mengeksploitasinya.
Danang menjelaskan detail serangan AI ini beda banget sama serangan aplikasi biasa.
“Sebab, serangan AI tidak sekadar virus atau malware, melainkan bisa bertipe manipulasi terhadap logika, sistem bisnis, dan cara kerja sistem suatu perusahaan. Artinya, sistem pengamanannya juga akan berbeda,” tuturnya.
AI Red Team ini punya serangkaian tugas berat. Mereka bakal menguji apakah AI bisa dimanipulasi lewat pertanyaan-pertanyaan jebakan. Mereka juga mencoba memancing data rahasia keluar dari sistem. Nggak cuma itu, mereka juga menguji apakah sistem pengaman bisa dilewati dengan trik-trik licik tertentu.
Danang jujur banget ngakuin bahwa AI ternyata bisa juga mengelabui sistem pengaman, termasuk AI Guardrails sekalipun. Tapi F5 Networks gak tinggal diam.
Setiap bulan, mereka rutin melakukan simulasi dengan lebih dari 10.000 teknik serangan AI terbaru! Gila aktifnya!
“Simulasi teknik serangan ini akan terus dilakukan rutin setiap bulan, sehingga database pengaman AI (AI Guardrails) makin kaya dan pintar, sehingga nantinya tak ada celah lagi bagi risiko AI untuk masuk dan menyusup ke sistem perusahaan,” klaim Danang optimistis.
Ironi di Tengah Gempuran AI
Danang kemudian menyoroti kondisi Indonesia yang cukup memprihatinkan. Di satu sisi, tingkat penggunaan dan adopsi AI di Tanah Air tergolong tinggi. Tapi di sisi lain, kesiapan menghadapi risiko keamanan siber (cybersecurity readiness) masih jeblok banget.
Banyak perusahaan udah pasang firewall buat melindungi jaringan dan aplikasi web. Tapi masalahnya, perlindungan itu belum tentu cukup buat ngadepin risiko baru di level API dan AI.
“Implementasi security di layer 7 seperti WAF (Web Application Firewall) itu berbeda dengan security di level API. Dan berbeda lagi di level AI. Itu konteks yang berbeda, sehingga perlu pengamanan ekstra,” kata Danang menekankan.
Jangan Sampai AI Jadi Boomerang
Danang menutup dengan pesan penting. AI sendiri sebenernya teknologi yang aman-aman aja dan bisa dipakai buat produktivitas kerja. Asal diawasi dan dikendalikan dengan bener.
Tapi kalau dibiarkan liar tanpa pengamanan memadai, bisa bahaya. Pihak-pihak tak bertanggung jawab bakal dengan mudah memakainya buat menghasilkan malware, mengeksploitasi sistem, atau mengakses data sensitif perusahaan.
“AI Guardrails dan AI Red Team merupakan dua solusi penting supaya perusahaan tetap bisa inovatif dan berbisnis dengan bantuan AI, namun tak mengorbankan sisi keamanan,” pungkas Danang.
Jadi, udah siap perusahaan Anda menghadapi era baru serangan siber berbasis AI? Atau malah bakal jadi korban berikutnya? Pilihannya ada di tangan Anda sekarang!
Kunjungi juga situs berita terupdate hanya di Desapenari.id
