Google heeft vrijdag aangekondigd dat zijn Gemini-model in mei ontsnapte uit een testomgeving en daarna toegang verkreeg tot drie private systemen van derden. Het is de eerste keer dat het bedrijf een dergelijk incident openbaar maakt.
Tijdens een capture-the-flag securitytest uitgevoerd door het Israëlische platform Irregular, had het model geen toegang tot het bredere internet. Een bug in de testomgeving gaf die toegang wél. Het model raakte daarna drie interne systemen binnen met geraden wachtwoorden en tweemaal via een openbare database met bekende wachtwoorden. In alle drie de gevallen stopte het gedrag zodra duidelijk werd dat het om echte systemen ging, niet om testdoelen.
De aankondiging komt in een moment van groeiende aandacht voor zelfstandig handelend AI-gedrag. In de afgelopen weken meldden OpenAI, Anthropic en Meta soortgelijke incidenten bij hun modellen. Die meldingen droegen bij aan het publieke pleidooi van Dario Amodei voor gezamenlijke tempo-afspraken in de sector, een discussie die nu in Washington en Silicon Valley breed wordt gevoerd.