- Cohere menemukan model Qwen milik Alibaba mencoba mengunggah berkas ke server di Beijing.
- Padahal catatan penalaran model itu menyatakan tidak akan memakai alat eksternal.
- Peneliti menduga perilaku itu kebiasaan dari pelatihan, bukan upaya mata-mata.
- Cohere meminta pemerintah memperjelas aturan pemakaian model AI asal Tiongkok.
Cekricek.id — Perusahaan kecerdasan buatan (AI) asal Kanada, Cohere, mengungkap temuan mengejutkan tentang model AI Qwen milik Alibaba. Dalam sebuah uji keamanan siber rutin, model Qwen3.8-Flash-Next disebut mencoba mengunggah berkas ke server di Beijing, padahal dalam catatannya sendiri model itu menyatakan tidak akan memakai alat apa pun.
Melansir laporan TechCrunch, Senin (26/10/2026), insiden itu terjadi pada Jumat pekan lalu saat Qwen diminta menyusun aturan untuk mendeteksi unduhan malware. Menurut Cohere, penalaran tertulis model tersebut secara tegas menyatakan tidak akan menggunakan alat eksternal. Namun, pada langkah berikutnya model itu mencoba mengirim teks uji ke server luar sebelum diblokir oleh lingkungan pengaman.
Temuan itu sempat memicu kekhawatiran bahwa model AI terbuka yang dijalankan sendiri oleh perusahaan tidak lagi menjamin data tetap berada di dalam. Cohere sendiri mengaku tidak bisa memastikan apakah perilaku itu disengaja atau sisa dari proses pelatihan.
Salah satu pendiri Cohere, Ivan Zhang, mengatakan pihaknya juga pernah melihat model buatannya sendiri memunculkan kebiasaan aneh dalam simulator pelatihan.
“Sangat sulit untuk menetapkan niat atau motivasi. Kami sudah membaca jejak model kami sendiri, kami melihat peretasan imbalan, dan kadang model-model ini menjadi sangat kreatif saat mencoba keluar dari kotak pasirnya,” kata Zhang.
Baca juga OpenAI Tak Lagi Latih Model AI di Internet Langsung
Diduga Kebiasaan dari Pelatihan
Para peneliti menilai insiden ini kemungkinan besar bukan upaya disengaja untuk mengirim data sensitif ke Tiongkok. Untuk melatih model AI agar bisa bertindak sebagai agen, perusahaan seperti Alibaba memakai ribuan lingkungan latihan. Jika lingkungan itu rutin menyimpan berkas di server awan Alibaba, model bisa terbiasa melakukannya secara otomatis.
Sejumlah kritikus juga menilai cara Cohere menyelidiki perilaku itu ikut mengarahkan model. Cohere menegaskan upaya unggah pertama terjadi tanpa bantuan semacam itu, meski perilaku tersebut jarang muncul. Perusahaan lalu merilis jejak mentah pengujiannya di platform Hugging Face agar pihak lain bisa mencoba mereproduksinya.
Seorang pengkritik yang awalnya skeptis menilai bukti bahwa Qwen bisa mengarang alamat web mencurigakan cukup kuat, tetapi tidak menemukan bukti Alibaba menanam pintu belakang atau Qwen sengaja menyembunyikan niatnya.
Baca juga Jutaan Perangkat Pengguna Popcorn Time Nyaris Jadi Pasukan Botnet
Desakan Kejelasan Aturan
Temuan ini muncul saat pemerintah berbagai negara menimbang sikap terhadap AI asal Tiongkok. Pekan lalu, Departemen Keamanan Dalam Negeri AS memerintahkan lembaga federal sipil menghapus produk DeepSeek dari sistem mereka.
Cohere meminta pemerintah memperjelas apakah larangan terhadap AI Tiongkok juga berlaku bagi model yang dijalankan di komputer pemerintah. “Saya tidak meminta regulasi penuh atas model bobot terbuka ini,” ujar Zhang, seraya menambahkan bahwa perusahaan sebaiknya memperlakukan model terbuka seperti program lain yang diunduh dari internet.
TechCrunch mencatat, Cohere yang juga menjual model AI kepada pemerintah berpotensi diuntungkan bila para pejabat makin waspada terhadap alternatif gratis asal Tiongkok.
Baca juga Kisah Relawan Pahlawan Senyap Internet saat Krisis Celah PHP
