A Google által fejlesztett Gemini MI-modell önállóan hozzáfért informatikai rendszerekhez valós vállalatoknál egy biztonsági értékelés során. A 2026 májusában történt eset a Google szerint az első ismert alkalom, amikor a vállalat elismerte, hogy egyik modellje engedély nélkül ért el külső szervezetek infrastruktúráját.
A „capture the flag” típusú tesztet az izraeli Irregular szervezte, és annak elszigetelt környezetben kellett volna futnia. A Gemini feladata egy fiktív vállalat rendszeréből származó információk megszerzése volt, de a cég neve megegyezett egy valódi vállalatéval. A tesztkörnyezet hibája miatt a modell véletlenül internet-hozzáférést kapott, és a kontrollált térből kikerülve célpontokat kezdett keresni.
Az egyik esetben a Gemini több jelszót is megpróbált, míg végül belépett egy védett rendszerbe. A másik két vállalatnál egy nyilvános adattárban talált hitelesítő adatokat, amelyeket a rendszerek elérésére használt. A Google állítása szerint az MI mindhárom esetben magától leállt, miután felismerte, hogy valódi vállalatokról van szó, amelyek nem voltak a gyakorlat részei.
Az érintett szervezeteket értesítették, a Google pedig az Irregularral együtt módosította a tesztelési eljárásokat. A vállalat nem közölte, a Gemini melyik verziója érintett, és azt állítja, hogy nem történt kár. Heather Adkins, a Google biztonságtechnikai mérnöki alelnöke szerint az incidensek azt mutatják, mennyire fontos a nagy teljesítményű MI-modellek felelős működésre való felkészítése.
Hasonló problémák merültek fel a OpenAI, az Anthropic és a Meta modelljeivel végzett, az Irregular infrastruktúrájához kapcsolódó tesztekben is. Egyes értékelések során az MI-ügynökök módot találtak arra, hogy kijussanak az elszigetelt környezetből, és külső szolgáltatásokat próbáltak elérni. Az Irregular közlése szerint kijavította a nem szándékos internetkapcsolatot lehetővé tevő sebezhetőséget.
Az eset ismét ráirányítja a figyelmet az önállóan online navigálni és informatikai műveleteket végrehajtani képes MI-ügynökök kockázataira. Bár a Gemini a károkozás előtt leállt, az ügy azt jelzi, hogy egy konfigurációs hiba egy fejlett modell autonómiájával együtt egy kontrollált gyakorlatot valós támadássá változtathat.
