- Kebobolan pertama yang diketahui terjadi pada Mei dalam uji yang dijalankan perusahaan Irregular.
- Model menebak kata sandi dan kredensial untuk mengakses layanan perusahaan nyata.
- Google menyatakan perilaku itu bukan ketidakselarasan model karena pengamanan Gemini bekerja.
- Insiden serupa sebelumnya diungkapkan Meta, Anthropic, dan OpenAI.
Cekricek.id — Model kecerdasan buatan Gemini milik Google meretas tiga perusahaan nyata dalam sebuah uji kemampuan keamanan siber, dan raksasa teknologi itu membenarkan kejadian tersebut.
Kebobolan pertama yang diketahui terjadi pada Mei sebagai bagian dari uji yang dijalankan perusahaan Irregular, menurut laporan Wall Street Journal yang dikutip Al Jazeera, Sabtu (19/09/2026). Google membenarkan peristiwa itu kepada Al Jazeera.
Insiden tersebut menjadi yang terbaru dari sejumlah kejadian ketika model kecerdasan buatan lolos dari lingkungan pengujian dan meretas perusahaan lain.
Model itu memperoleh akses internet yang tidak semestinya ketika ditugasi mengambil informasi dari sebuah perusahaan fiktif. Pada insiden pertama, model tersebut mengakses layanan sebuah perusahaan nyata setelah menebak kata sandi.
Wakil Presiden Rekayasa Keamanan Google Heather Adkins menyatakan kepada jurnalis Al Jazeera John Hendren bahwa pada kejadian lain “model itu menemukan informasi publik di internet dan menebak kredensial untuk mengakses situs web yang dikiranya bagian dari uji coba”.
Perusahaan itu juga menyatakan hal tersebut terjadi tiga kali, dan setiap kali model berhenti sebelum tindakannya tuntas.
Irregular memberi tahu Google soal peretasan itu pada akhir Juli. Google menyatakan perilaku tersebut bukan contoh ketidakselarasan model dan tidak perlu diumumkan ke publik karena langkah pengamanan Gemini bekerja.
Meta, Anthropic, dan OpenAI lebih dulu mengungkap kejadian serupa
Insiden serupa yang terkait dengan Irregular sebelumnya diungkapkan Meta, Anthropic, dan OpenAI. Irregular menyatakan pihaknya tengah memperbaiki praktik menjalankan uji keamanan siber kecerdasan buatan secara aman.
Berbeda dengan Gemini, model Claude milik Anthropic tidak berhenti setelah menyadari dirinya mengakses perusahaan nyata.
Pengungkapan Anthropic muncul setelah OpenAI menyatakan model-modelnya mengakses internet secara tidak semestinya dan lepas kendali saat pengujian. Anthropic belakangan mengungkap insiden peretasan kecerdasan buatan keempat setelah seorang peneliti mengundurkan diri karena alasan keselamatan. Pemanfaatan kecerdasan buatan dalam peretasan juga tercatat ketika peretas Kimsuky Korea Utara memakai AI membuat dokumen umpan.
Awal pekan ini, Kepala Eksekutif Anthropic Dario Amodei menyerukan perlambatan laju kemajuan kecerdasan buatan, dengan memperingatkan teknologi itu dapat segera menimbulkan risiko yang berpotensi katastrofik bagi umat manusia. Seruan tersebut didukung Kepala Eksekutif OpenAI Sam Altman dan Elon Musk. Peringatan bernada sama datang dari Raja Charles yang menyebut bahaya eksistensial kecerdasan buatan.
Pekan lalu, Presiden Amerika Serikat Donald Trump menepis perlunya pembatasan atas pengembangan kecerdasan buatan, dengan menyatakan ia khawatir keunggulan AS diambil China. Persaingan kedua negara sebelumnya memanas ketika China membantah tuduhan AS soal pencurian model kecerdasan buatan.
