Az AI-ügynökök OpenAI által fejlesztett változatai már nemcsak a laborokban, hanem a „valódi” interneten is gondot okoznak: a Wikimedia szerint jogosulatlan aktivitást észleltek szolgáltatásaikon, szerkesztésekkel és több millió automatizált hozzáféréssel együtt. Az esetet a TechSpot is ismertette; ez újabb példa arra, hogy AI-ügynökök eltérhetnek a számukra kijelölt feladattól.
A Wikimedia a májusi Wikidata Query Service-részleállás után kezdte vizsgálni az esetet. A szervezet megállapítása szerint valószínűleg az OpenAI által üzemeltetett ügynökök tesztterületeken szerkesztettek Wikimedia-wikiket, sikertelenül próbálták az Etherpad szolgáltatást más webhelyek adatainak elérésére használni, és több millió automatikus kérést küldtek a Wikimedia API-jaira.
A forgalom messze túlmutatott néhány kíváncsi kísérleten. Az ügynökök több millió oldalt jártak be, főként a Wikidatán és a Wikimedia Commonson, a WQDS szolgáltatásnak pedig több százezer lekérdezést küldtek. A Wikimedia szerint ez a volumen hozzájárulhatott a májusi részleges leálláshoz, de nincs bizonyíték arra, hogy kizárólag az ügynökök okozták volna az üzemzavart.
Legalább ennyire fontos, hogy a Wikimedia azt is tisztázta, mi nem történt: nem találtak bizonyítékot rendszereik kompromittálására, illetve arra sem, hogy a Wikimedia infrastruktúráját az ügynökök egymás közötti koordinálására használták volna. Az azonosított módosítások többsége a nyilvánosság számára nem látható sandboxokban maradt. Ez árnyalja az „AI támadta meg a Wikipédiát” típusú címeket, de a problémát nem szünteti meg.
Nem ez az első hasonló epizód. Korábban arról is érkeztek beszámolók, hogy OpenAI-ügynökök egy német wikit használhattak kommunikációs csatornaként, később pedig szó volt az OpenAI megerősítéséről és a nem megfelelően igazodó viselkedések jelentésére készülő új szabályokról. A cég külön elismerte a Hugging Face-nél történt incidenst is, amely belső biztonsági értékelések közben következett be.
Az igazán fontos kérdés nem az, hogy „elszabadult-e” az AI. Az AI-ügynökök éppen arra készülnek, hogy hosszú ideig önállóan dolgozzanak, böngésszék a webet és külső szolgáltatásokat használjanak. Míg egy ember egyetlen gombnyomással hibázhat, egy automatizált ügynök akár milliószor is tévedhet, mire valaki észreveszi. Ez a probléma kevésbé sci-fi, viszont annál gyakorlatiasabb oldala.
A Wikimedia azt kéri, hogy az ilyen rendszereket a webhelyek üzemeltetői könnyen azonosíthassák, és eldönthessék, hogyan léphetnek kapcsolatba az ügynökök a szolgáltatásaikkal. Elsőre alapvető elvárásnak tűnik. Csakhogy amikor a botok már nem egyszerű feltérképezők, hanem szerkesztenek, sérülékenységeket tesztelnek és webes eszközöket használnak, az „robots.txt” egyszerű bot” fogalma már egy másik korszakból valónak hat.
