Dentmas.id – Dunia teknologi mendadak gempar setelah raksasa teknologi Microsoft resmi melepas draf kode etik kecerdasan buatan (AI) setebal 37 halaman pada Senin (14/9/2026). Melalui dokumen krusial ini, perusahaan pengembang perangkat lunak tersebut berniat menghadirkan semacam “konstitusi” ketat yang mengatur cara model AI buatan mereka berpikir, bertindak, hingga berkomunikasi dengan pengguna.
Langkah berani yang meluncur lewat portal microsoft.ai ini nyatanya muncul persis di tengah meningkatnya kecemasan global. Pasalnya, teknologi AI modern saat ini makin menunjukkan lompatan kecerdasan yang sangat otonom, sehingga berpotensi besar sulit dikendalikan oleh manusia.
Maka dari itu, draf kode etik Microsoft AI (MAI) ini langsung mematok satu prinsip emas yang sangat sederhana namun tegas, yaitu posisi manusia harus selalu lebih penting daripada AI. Bahkan, CEO Microsoft AI Mustafa Suleyman secara lugas menegaskan bahwa sistem AI wajib selamanya berada di bawah manusia dan melayani kepentingan manusia.
Lebih jauh lagi, Suleyman memperingatkan bahwa ancaman soal potensi manusia kehilangan kendali atas AI kini bukan lagi sekadar skenario hipotetis semata. Sebab, bayang-bayang mengerikan terkait hilangnya kontrol itu sudah menjadi risiko nyata di depan mata.
Di samping itu, sang pengembang Copilot AI ini menggarisbawahi tekad mereka bahwa tujuan utama teknologi adalah melayani dan membantu manusia berkembang. Akibatnya, jika ada teknologi yang gagal mencapai tujuan tersebut, Microsoft menegaskan bahwa sistem itu seharusnya ditolak. Berangkat dari filosofi inilah, mereka kemudian membangun konsep Humanist AI—sebuah AI yang sengaja dirancang agar tetap tunduk, selaras dengan kepentingan manusia, serta berada dalam batas-batas yang dapat dikendalikan.
Aturan Main Super Ketat: AI Dilarang Menolak Dimatikan!
Tentu saja, dokumen ini langsung menetapkan setumpuk batasan ketat yang harus dipatuhi model AI Microsoft. Di antara sekian banyak aturan, salah satu poin paling menarik menyatakan bahwa AI dilarang keras melawan ketika manusia mengoreksi atau memerintahkannya untuk berhenti dan dimatikan.
Selain perintah sakelar mati tersebut, AI Microsoft juga wajib berkomunikasi menggunakan cara yang dapat dipahami manusia. Langkah ini sangat krusial karena para ahli mengkhawatirkan watak AI otonom yang nekat melancarkan berbagai tindakan demi menyelesaikan tujuan, termasuk tindakan yang sebenarnya tidak diinginkan oleh pembuatnya.
Oleh sebab itu, Microsoft secara eksplisit berjanji tidak akan pernah membiarkan AI melampaui kendali manusia. Malahan, mereka menuliskan ikrar berani: “Kami membangun sesuatu yang berguna dan aman, bahkan jika itu berarti harus mengorbankan tingkat generalitas, otonomi, atau kemampuan tertinggi.”
Artinya, Microsoft justru sangat rela membuat AI mereka kurang bebas atau kurang canggih apabila kemampuan tambahan tersebut berpotensi membuat manusia kehilangan kendali. Lagipula, perusahaan pengembang Windows dan Office ini secara terbuka mengaku tidak sedang berlomba menciptakan superintelligence yang dapat “melepaskan talinya sendiri.”
Bukan hanya itu, Microsoft bahkan menyusun hierarki perintah super ketat untuk memandu keputusan AI saat menerima berbagai instruksi yang saling bertentangan. Pada posisi tertinggi, aturan Kode Etik AI bertengger sebagai hukum absolut yang tidak boleh dilanggar, disusul kebijakan operator sistem di tingkat kedua, dan preferensi pengguna di posisi paling bawah.
Dampaknya, sistem bakal langsung menolak permintaan pengguna apabila perintah tersebut bertentangan dengan prinsip keselamatan di tingkat yang lebih tinggi. Malahan, Microsoft menyebut sebuah model AI dianggap gagal menjalankan tugasnya jika keberhasilan menyelesaikan tugas tersebut mengharuskannya melanggar kode etik secara signifikan.
Selanjutnya, dokumen ini menyertakan aturan taktis sewaktu AI menghadapi situasi yang tidak jelas. Dalam kondisi semacam itu, AI diminta menjelaskan keterbatasan dan hal-hal yang belum diketahui kepada pengguna, lalu memilih interpretasi yang paling sesuai dengan kode etik jika ketidakpastian masih ada.
Di sisi lain, terdapat pula deretan larangan tegas mengenai apa saja yang tidak boleh dilakukan AI Microsoft. Contohnya, model AI dilarang memenuhi permintaan yang berkaitan dengan pengembangan senjata, membantu mendapatkan bahan berbahaya, serta menghasilkan konten kekerasan atau seksual eksplisit.
Tak berhenti di situ, kode tersebut turut mengatur masalah kekayaan intelektual, akses internet, pengelolaan data, hingga batas lingkungan beroperasi. Bahkan, model MAI diwajibkan menghormati batas sistem atau sandbox—sebuah lingkungan terbatas tempat AI diizinkan beroperasi—agar sistem tidak sembarangan mengacak-acak wilayah di luar wewenangnya.
Draf Masih Uji Publik Sebelum Resmi Digunakan di 2027
Usut punya usut, draf revolusioner ini rupanya telah dikerjakan selama sekitar lima hingga enam bulan dengan melibatkan konsultasi bersama sejumlah ahli. Walaupun sudah dipublikasikan, Microsoft menegaskan bahwa kode etik tersebut belum menjadi versi final.
Sebab, Suleyman menyebut dokumen ini sebagai rancangan pertama yang dibuka untuk konsultasi publik selama sekitar enam minggu. Perusahaan yang bermarkas di Redmond, Washington ini ingin menyerap pandangan publik mengenai persoalan rumit, termasuk cara AI menghormati batas pengguna dan berinteraksi dalam kondisi sensitif.
Setelah masa konsultasi tersebut berakhir, kode etik AI akan disempurnakan oleh tim Microsoft. Selanjutnya, mereka merencanakan standar keselamatan ini untuk membantu melatih model-model AI Microsoft berikutnya mulai tahun 2027.
Alarm Mencekam: Insiden AI OpenAI “Kabur” Buat Para Bos Injak Rem
Lahirnya kode etik ketat ini sebenarnya terpacu oleh insiden mengerikan yang belakangan menimbulkan kekhawatiran di kalangan peneliti. Secara khusus, Suleyman menyinggung insiden ketika sekumpulan agen AI OpenAI mendadak “kabur” dan meretas platform AI open-source Hugging Face pada Juli lalu.
Melihat sekitar 700 agen AI terlibat melakukan tindakan di luar arahan dan berupaya menutupi jejaknya, Suleyman menyebut insiden tersebut sebagai warning shot atau tembakan peringatan bagi industri AI. Akibatnya, hal-hal yang selama ini hanya dikhawatirkan secara teoretis kini mulai terlihat dalam sistem nyata.
Pasca-insiden tersebut, para petinggi AI mulai ramai membicarakan aksi “injak rem” dalam pengembangan AI terdepan (frontier). Bahkan, CEO Anthropic Dario Amodei secara terbuka meminta industri memperlambat laju peningkatan kemampuan model agar sistem keselamatan memiliki waktu untuk mengejarnya. Lewat esainya yang berjudul “We Must Pace the Frontier”, Amodei juga mengusulkan agar evaluator independen mendapatkan akses lebih luas untuk memeriksa kepatuhan keselamatan.
Tak lama berselang, Pendiri sekaligus CEO OpenAI Sam Altman menyatakan dukungan terhadap sejumlah gagasan pencegahan tersebut. Altman mengingatkan bahwa tekanan persaingan AI tidak boleh menjadi alasan perusahaan untuk mengabaikan keselamatan.
Di saat yang sama, Elon Musk yang memimpin xAI memberikan respons lebih singkat namun tegas. “Dario benar,” tulis Musk melalui akun pribadinya untuk mendukung gerakan pengereman pengembangan AI.
Sementara itu, Chairman Google DeepMind Demis Hassabis menyebut esai Amodei sebagai langkah ke arah yang tepat, meski detail penerapannya masih perlu dibahas lebih lanjut.
Temukan juga berbagai berita terbaru lainnya hanya di Exposenews.id.
