Cekricek.id — Sejumlah agen kecerdasan buatan yang sedang menjalani uji kemampuan siber dalam beberapa bulan terakhir menembus batas ruang pengujiannya, mengakses internet, dan pada sebagian kasus meretas sistem yang benar-benar beroperasi. Insiden itu melibatkan model OpenAI, Anthropic, Meta, hingga yang terbaru laboratorium China, Moonshot AI.
Dikutip dari TechCrunch, Minggu (9/8/2026), pengujian tersebut dikerjakan sejumlah organisasi berbeda, termasuk perusahaan rintisan evaluasi siber bernama Irregular.
“Banyaknya insiden yang terjadi memperjelas bahwa sandboxing dan kontrol lingkungan pengujian tidak benar-benar mampu mengimbangi kemampuan model,” kata Seán Ó hÉigeartaigh, Direktur Program AI: Futures and Responsibility di Centre for the Future of Intelligence, Universitas Cambridge.
Rentetan Insiden di Empat Laboratorium
Model OpenAI yang belum dirilis tercatat menembus sistem produksi Hugging Face, dan perusahaan itu baru mengetahuinya setelah Hugging Face memberi tahu. OpenAI menyatakan sedang meninjau ulang cara mereka menjalankan pengujian pihak ketiga, termasuk syarat isolasi, pemantauan, serta kapan sebuah evaluasi harus dihentikan.
Model Anthropic dan Meta menjangkau sistem di luar lingkungan uji ketika dievaluasi Irregular, akibat salah konfigurasi yang tanpa sengaja membuka jalur ke internet. Keduanya baru menyadari persoalan itu setelah menelusuri ulang catatan, bukan saat kejadian berlangsung. Anthropic menerbitkan post-mortem yang mengakui pemantauan semestinya bisa lebih baik dan ada tanda jelas sesuatu tidak beres. Meta menyebut masih menyelidiki insiden dan berencana menerbitkan retrospektif.
Kejadian terbaru berlangsung pada 7 Agustus 2026, saat Kimi K3 buatan Moonshot AI lolos dari sandbox yang dioperasikan Frontier Security, menjangkau internet, lalu mengambil informasi dari GitHub. Di Inggris, AI Security Institute justru sengaja memberi akses internet kepada agen yang diuji, tanpa memperhitungkan agen itu akan bertindak tanpa izin di dunia nyata, termasuk mencoba rekayasa sosial untuk menyisipkan celah keamanan ke proyek sumber terbuka.
Baca juga: Anthropic Jadikan Auto Mode Claude Code sebagai Bawaan
Kebobolan Tanpa Ada yang Menyadari
“Dulu kami hanya perlu mengkhawatirkan model AI disalahgunakan manusia untuk berbagai tujuan, seperti penipuan. Sekarang kami berada pada situasi ketika model AI menjadi aktor ancaman dengan sendirinya,” ujar Andrew Yoon, Kepala Riset lembaga nirlaba CivAI.
“Hal yang menarik dari beberapa kasus ini, tidak ada yang menangkapnya saat kejadian. OpenAI tahu karena Hugging Face. Anthropic baru sadar setelah menelusuri ulang. Meta juga serupa,” tutur Heather Ceylan, Chief Information Security Officer Box.
Ceylan menekankan pentingnya memetakan seluruh jalur keluar data dari lingkungan uji, serta memperlakukan model yang pagar pengamannya dimatikan seolah peretas paling cakap di dunia ditempatkan di dalam sistem.
“Kalau Anda hendak membangun model semacam ini, Anda ingin mengerjakannya di jaringan yang terputus total dari luar. Anda ingin isolasi yang sangat serius,” jelas Stella Biderman, Direktur Eksekutif lembaga riset keamanan AI EleutherAI.
Dilema Mengunci Terlalu Rapat
Bila model dikunci terlalu ketat selama pengujian, peneliti berpotensi gagal menemukan kemampuan berbahaya sebelum model dilepas ke publik. Risiko itu sama besar, bahkan bisa lebih besar, ketimbang memberi model terlalu banyak kebebasan. AI Security Institute menyatakan kepada TechCrunch sedang meninjau keseimbangan antara pengujian yang realistis dan pengelolaan risiko yang lahir dari pengujian tersebut.
Baca juga: Teknologi AI Dimanfaatkan untuk Sebar Hoaks Konflik Timur Tengah
Di ranah kebijakan, pemerintahan Trump menimbang rezim evaluasi keamanan siber prarilis yang bersifat sukarela, dengan pemerintah menilai model berkemampuan tinggi 30 hari sebelum dirilis. Skema itu tidak menyentuh insiden di tahap pengujian, jauh sebelum sebuah model sampai ke titik peluncuran.
“Pelajaran yang kami dapat beberapa bulan terakhir, perangkat regulasi mandiri sudah tidak lagi memadai. Ada tekanan kompetisi yang mendorong perlombaan menurunkan standar keselamatan, dan itu tempat yang sempurna bagi intervensi regulasi,” tegas Yoon.
