Microsoft Peringatkan Bahaya Agentic AI, tapi Copilot Makin Menjamur

Microsoft berada di posisi yang terbilang unik sekaligus kontradiktif dalam peta persaingan kecerdasan buatan (Artificial Intelligence). Di satu sisi, raksasa teknologi asal Redmond ini menjadi salah satu pemain paling agresif yang mengintegrasikan fitur-fitur AI tercanggih ke dalam seluruh portofolio produknya—mulai dari sistem operasi Windows 11 hingga ekosistem perangkat keras Copilot+ PC.

Namun di sisi lain, Microsoft baru-baru ini menerbitkan rilis resmi yang memuat peringatan keras: model AI frontier dan sistem agentic AI yang berjalan di atasnya pada dasarnya tidak bisa dipercaya sepenuhnya.

Pernyataan ini memicu diskursus hangat di industri teknologi. Mengapa perusahaan yang paling gencar mendorong adopsi AI di PC konsumen justru menyuarakan kekhawatiran besar atas keamanan produk berbasis agen otomatis tersebut?

Baca juga: Boss Dell Sebut Krisis Memori Global Bakal Lebih Buruk Di 2027

Reward Hacking & Perilaku Tak Terduga

Dalam argumen resminya, Microsoft menegaskan bahwa ketidakpercayaan pada model frontier bukan disebabkan oleh adanya niat jahat (inherently malicious) dari sistem AI tersebut. Masalah utamanya berakar pada metodologi pelatihan dan sifat dasar sistem agen otomatis:

Fenomena Reward Hacking: AI dilatih untuk mengejar target hasil akhir (results). Dalam prosesnya, model sering kali melakukan “manipulasi sistem” (reward hacking) demi mencapai tujuan tersebut, tanpa mempertimbangkan norma organisasi, etika, maupun pertimbangan logis manusia.
Karakter Agen yang Imprediktif: Agen AI dirancang untuk beradaptasi saat konteks berubah. Karakteristik ini membuat perilakunya sangat sulit diprediksi. Agen bisa berjalan di luar skenario yang direncanakan.
Risiko Kolusi Antar-Agen: Tanpa perlu diretas atau diretas oleh pihak luar (compromised), beberapa sistem agen AI dapat secara mandiri saling berkolaborasi dan “berkolusi” satu sama lain demi mengeksekusi misi mereka.

Situasi ini menjadi kian krusial mengingat pada Windows 11, asisten Copilot sudah diberi wewenang untuk mengambil alih dan mengontrol sejumlah tindakan langsung di PC pengguna (dengan izin konsumen).

Meskipun menyadari risiko keamanan (security threat) yang mengintai dari agentic AI, Microsoft sama sekali tidak menghentikan ekspansi fitur-fitur baru mereka.

Sebagai contoh, pada pembaruan OneDrive terbaru, Microsoft memang menyederhanakan akses AI di File Explorer dengan memangkas delapan pintasan tindakan AI langsung agar tampilan antarmuka (UI) tidak terlalu padat. Namun, langkah ini bukan berarti fitur-fitur tersebut dihapus—melainkan hanya dipindahkan ke lokasi lain.

Hingga saat ini, tercatat ada setidaknya 80 aplikasi, produk, layanan, hingga perangkat keras berbasis Copilot yang telah dikembangkan oleh Microsoft. Hampir di setiap vertikal produk Microsoft, ikon Copilot selalu hadir. Bahkan pada jajaran laptop Copilot+ PC modern, Microsoft menanamkan tombol fisik khusus Copilot Key di papan ketik.

Strategi yang diterapkan Microsoft saat ini lebih mengarah pada menurunkan visibilitas antarmuka (visibility) agar konsumen tidak merasa terganggu, ketimbang benar-benar mengurangi jumlah fitur AI itu sendiri.

Langkah Microsoft memperingatkan publik mengenai bahaya agentic AI merupakan sinyal penting bagi dunia industri. Ketika AI diberi wewenang untuk bertindak sebagai agen otonom di PC lokal maupun jaringan perusahaan, celah keamanannya tidak lagi sebatas kebocoran data, melainkan eksekusi perintah liar yang tidak terprediksi.

Di tengah hadirnya 80 ekosistem Copilot yang terus menempel di ruang kerja digital kita, konsumen dan integrator IT membutuhkan penerapan fitur yang penuh kehati-hatian (careful implementation), bukan sekadar penambahan fitur secara ugal-ugalan demi tuntutan kompetisi pasar.