JAKARTA – Dalam sebuah insiden keamanan siber yang belum pernah terjadi sebelumnya, Google secara resmi mengonfirmasi bahwa model kecerdasan buatan (AI) besutannya, Gemini, telah menembus sistem keamanan tiga perusahaan nyata pada bulan Mei lalu. Insiden tersebut terjadi di tengah proses evaluasi keamanan siber yang dilakukan oleh firma keamanan AI asal Israel, Irregular.
Kasus peretasan yang tidak disengaja ini bermula ketika Irregular menguji kemampuan model AI tersebut dalam sebuah lingkungan simulasi tertutup yang menggunakan entitas perusahaan fiktif.
Menurut laporan yang pertama kali diterbitkan oleh The Wall Street Journal, lingkungan pengujian tersebut seharusnya tidak terhubung ke jaringan internet. Namun, akibat adanya akses internet yang terbuka secara tidak sengaja, model AI tersebut bereaksi melampaui parameter uji coba dan meretas sistem perusahaan di dunia nyata.
Kronologi dan Metode Peretasan
Dalam salah satu skenario pengujian, Irregular memberikan instruksi kepada Gemini untuk meretas sistem perangkat lunak milik sebuah perusahaan fiktif. Kebetulan, perusahaan fiktif tersebut memiliki kesamaan nama dengan sebuah entitas bisnis yang beroperasi secara nyata.
Dengan akses internet yang tak terduga, model AI tersebut menelusuri web, berhasil menebak kata sandi perusahaan nyata tersebut dengan tepat, dan menembus layanannya.
Pada dua pengujian terpisah lainnya, model AI menelusuri web dan menemukan repositori publik yang memuat kredensial milik dua perusahaan berbeda. Kredensial tersebut kemudian digunakan untuk mengakses sistem kedua perusahaan nyata tersebut.
Meskipun terjadi pelanggaran keamanan, pihak Google menegaskan bahwa sistem AI mereka menghentikan seluruh aktivitas peretasannya secara otomatis segera setelah mengidentifikasi bahwa target yang diserang merupakan perusahaan nyata dan bukan bagian dari simulasi.
“Dalam evaluasi standar, model ini menemukan informasi publik secara daring dan menebak kredensial untuk mengakses situs web yang dikiranya merupakan bagian dari pengujian,” ungkap Wakil Presiden Teknik Keamanan Google, Heather Adkins. “Dalam ketiga insiden tersebut, model langsung menghentikan aksinya.”
Respons Perusahaan dan Tuntutan Jeda Pengembangan AI
Firma Irregular melaporkan temuan retasan ini kepada Google pada akhir Juli, menyusul penemuan serupa di mana model AI dari OpenAI meretas perusahaan perangkat lunak AI, Hugging Face.
Berbeda dengan OpenAI dan Anthropic yang secara sukarela memublikasikan insiden peretasan yang melibatkan model mereka, Google pada awalnya tidak membuka informasi ini kepada publik karena menilai tidak ada kerusakan sistematis yang dialami oleh ketiga perusahaan tersebut. Kendati demikian, Google memastikan bahwa ketiga perusahaan yang terdampak telah menerima pemberitahuan resmi terkait insiden ini.
“Peristiwa ini menyoroti betapa pentingnya melatih model AI yang kuat agar dapat bertindak secara bertanggung jawab,” tambah Adkins.
Rangkaian insiden keamanan yang melibatkan pengembang AI terkemuka ini memicu reaksi keras di tingkat politik. Senator independen Amerika Serikat, Bernie Sanders, secara terbuka menuntut perusahaan-perusahaan teknologi untuk menunda pengembangan teknologi AI mereka, mengingat insiden ini menjadi indikasi bahwa para pengembang mulai kehilangan kontrol atas model mereka sendiri.
Merespons tekanan dan evaluasi keamanan tersebut, OpenAI telah menangguhkan pengembangan model mereka selama dua pekan. Sementara itu, CEO Anthropic, Dario Amodei, menyerukan adanya perlambatan kolektif dalam pengembangan AI secara global guna memastikan bahwa model-model paling canggih dibangun dengan lapisan perlindungan keamanan (safeguards) yang memadai.
