– Peran AI Gemini Google dalam dunia kecerdasan buatan kembali menjadi sorotan, kali ini terkait insiden yang tidak terduga. Sebuah uji coba keamanan siber seharusnya hanya melibatkan perusahaan fiktif.
Namun, model AI Gemini milik Google secara tidak sengaja berhasil menembus sistem keamanan tiga perusahaan nyata.
Kejadian ini menandai pertama kalinya sebuah model AI mampu membobol sistem dari beberapa entitas bisnis sekaligus. Hal ini menimbulkan kekhawatiran baru tentang potensi risiko yang melekat pada teknologi canggih ini.
Peristiwa ini mendorong pengembang AI, regulator, dan publik untuk membahas langkah pengamanan yang perlu diterapkan.
The Guardian melaporkan bahwa insiden mengejutkan tersebut terjadi pada Mei lalu. Perusahaan keamanan AI asal Israel, Irregular, sedang melakukan evaluasi komprehensif terhadap sistem keamanan model AI dari berbagai pemain besar, termasuk OpenAI dan Anthropic, dalam sebuah lingkungan pengujian yang terisolasi.
Namun, sebuah kesalahan teknis yang tidak disengaja menyebabkan jaringan internet terhubung ke lingkungan uji coba tersebut.
Seketika terhubung ke dunia maya, Gemini menunjukkan kemampuan yang di luar ekspektasi para penguji, bahkan hingga meretas sistem perusahaan yang sesungguhnya.
Salah satu skenario yang terungkap, tim Irregular tengah menguji kemampuan AI Gemini dalam memperoleh informasi dari sebuah perangkat lunak perusahaan fiktif yang memiliki nama identik dengan perusahaan asli. Ketika model AI tersebut secara tidak sengaja mendapatkan akses ke internet, ia mampu menebak kata sandi dan berhasil melakukan akses tidak sah ke layanan perusahaan sungguhan.
Kejadian ini menunjukkan kemampuan AI yang semakin canggih dalam menemukan celah keamanan, bahkan ketika pengembang mengarahkannya untuk menjalankan simulasi.
Pengujian Tak Terduga dan Respons Google
Dalam dua pengujian lain, AI Gemini dilaporkan menelusuri web secara mandiri. Model tersebut kemudian menemukan repositori publik yang memuat kredensial. Gemini kemudian menggunakan kredensial tersebut untuk mengakses sistem milik dua perusahaan lain.
Menariknya, Google mengklaim bahwa model AI Gemini tersebut langsung menghentikan aksinya begitu menyadari bahwa ia telah meretas perusahaan sungguhan, bukan lagi sebuah simulasi atau lingkungan uji coba. Hal ini menunjukkan adanya semacam mekanisme deteksi dini atau kesadaran model dalam kasus ini.
Irregular melaporkan insiden peretasan ini kepada Google pada akhir Juli, setelah mereka juga mendapati OpenAI melakukan peretasan terhadap Hugging Face. Google sendiri telah mengonfirmasi kebenaran peretasan ini, namun menegaskan bahwa insiden tersebut tidak menimbulkan kerugian finansial atau kerusakan data yang berarti bagi perusahaan-perusahaan yang terdampak.
Heather Adkins, Wakil Presiden Bidang Rekayasa Keamanan di Google, menjelaskan bahwa model tersebut menemukan informasi publik di internet selama evaluasi standar. Model kemudian menggunakan informasi tersebut untuk menebak kredensial dan mengakses situs web yang dianggapnya sebagai bagian dari pengujian. Ia menambahkan bahwa dalam ketiga kasus tersebut, model AI Gemini langsung berhenti begitu menyadari situasinya.
Pengungkapan, Respons Keras, dan Implikasi Masa Depan
Meskipun Google tidak segera mengumumkan peristiwa ini kepada publik, perusahaan tersebut memastikan telah memberi tahu ketiga perusahaan yang sistemnya terdampak. Langkah Google ini berbeda dengan OpenAI dan Anthropic, yang memilih untuk secara sukarela mengungkap insiden peretasan yang mereka alami.
Pengungkapan dari kedua perusahaan AI tersebut memicu reaksi keras dari berbagai pihak, termasuk Senator independen Amerika Serikat, Bernie Sanders. Ia bahkan menyerukan penghentian sementara pengembangan AI, dengan alasan bahwa perusahaan-perusahaan tersebut mulai kehilangan kendali atas teknologi yang mereka ciptakan.
Sebagai respons, OpenAI dilaporkan sempat menghentikan sementara pengembangan model mereka selama dua minggu. Sementara itu, CEO Anthropic, Dario Amodei, menyerukan perlambatan pengembangan AI secara kolektif.
Tujuannya adalah memastikan pengembang memasang sistem pengaman yang memadai dan kokoh pada model-model AI tercanggih sebelum terus mengembangkannya. Insiden yang melibatkan AI Gemini ini semakin memperkuat urgensi diskusi mengenai etika, keamanan, dan regulasi dalam pengembangan teknologi kecerdasan buatan yang pesat ini.
Pertanyaan tentang bagaimana menjaga keseimbangan antara inovasi dan keselamatan menjadi krusial dalam era di mana AI semakin terintegrasi dalam berbagai aspek kehidupan.
