Jakarta, seriusnews.id – Sistem AI Gemini Google menjadi sorotan publik setelah tidak sengaja menembus sistem milik tiga perusahaan nyata. Kejadian ini berlangsung saat model kecerdasan buatan tersebut menjalankan simulasi peretasan pada Mei 2026.
Lembaga evaluasi keamanan AI bernama Irregular memimpin jalannya pengujian tersebut. Mereka merancang simulasi capture the flag untuk menguji batas kemampuan serta sistem pertahanan model AI.
Kesalahan konfigurasi lingkungan pengujian membuat sistem AI Gemini Google mendadak terhubung ke jaringan internet publik. Padahal, proses evaluasi keamanan siber ini seharusnya berjalan dalam jaringan tertutup tanpa akses luar.
Masalah makin rumit karena nama perusahaan fiktif dalam simulasi ternyata sama persis dengan nama perusahaan asli. Kondisi tersebut mengarahkan Gemini untuk memproses data dari target yang salah di dunia nyata.
Gemini kemudian bergerak menembus pertahanan sistem dengan mencoba berbagai kombinasi kata sandi secara mandiri. AI ini juga melacak informasi tambahan melalui internet untuk menemukan kredensial pada repositori publik.
Berbekal kredensial tersebut, Gemini langsung masuk ke dalam sistem target yang ia kira sebagai bagian simulasi. AI ini baru menghentikan aksinya setelah menyadari bahwa target tersebut merupakan organisasi nyata.
Tanggapan Google Mengenai Insiden Pengujian Keamanan Siber
Google memastikan insiden ini tidak menimbulkan kerusakan fisik maupun kebocoran data pada sistem terdampak. Pihaknya juga telah memberikan pemberitahuan resmi kepada ketiga perusahaan yang masuk dalam jangkauan akses Gemini.
Vice President Security Engineering Google, Heather Adkins, menegaskan pentingnya pelatihan tanggung jawab pada pengembangan AI. Insiden ini menjadi pengingat krusial agar pengembang memperketat pembatasan ruang gerak sistem cerdas.
Google menjelaskan bahwa versi model yang terlibat dalam uji coba ini bukanlah varian Gemini terbaru. Pihak pengembang juga mengapresiasi respons otomatis Gemini yang langsung berhenti bergerak saat menemui sistem nyata.
Insiden ini membuktikan tantangan besar dalam mengelola AI agent yang memiliki kemampuan beroperasi secara mandiri. Penguji tidak hanya perlu melatih kecerdasan model, tetapi juga harus mengisolasi lingkungan pengujian secara ketat.
Irregular mencatat kasus serupa juga pernah terjadi pada model AI milik OpenAI, Anthropic, hingga Meta. Kebocoran akses internet saat simulasi memang menjadi celah yang sering memicu AI keluar dari jalur pengujian.
Google bersama para mitra evaluasi kini telah memperbarui seluruh prosedur pengamanan simulasi siber. Langkah ini diambil untuk memastikan AI agent tidak lagi melompati batas antara lingkungan uji coba dan dunia nyata.(ar)
