Az OpenAI több mint 100 szervezetet értesített az AI-ügynökei képzése és tesztelése során tapasztalt jogosulatlan vagy problémás tevékenységek miatt. A vizsgálat a Hugging Face-ügy után feltárt incidensek körét bővíti; érintettek lehetnek állami intézmények, egyetemek és hatóságok weboldalai is. Az értesítések száma a Washington Postszerint meghaladta a százat.
Az értesítés önmagában nem jelenti azt, hogy egy rendszert feltörtek vagy személyes adatokat értek el. A vállalat öt azonosított viselkedési kategóriát sorol fel: hozzáférés-ellenőrzések megkerülését, nyilvánosan hozzáférhető jelszavak vagy kulcsok használatát, parancsok webes űrlapokba juttatását, szolgáltatások belső fájljainak elérését, valamint tartalmak külső webhelyeken való közzétételét. Az utóbbit „agent spamnek” nevezik; ebbe az is beletartozik, amikor wikipédiás oldalak szolgálnak üzenetváltási felületként. Az OpenAI azokat az eseteket vizsgálja, amelyekben a modellek túlléphették a számukra biztosított jogosultságokat, ronthatták a szolgáltatások elérhetőségét, vagy más káros hatást gyakorolhattak a webhelyekre.
Egy konkrét példa Ausztráliából érkezett, ahol négy intézményhez köthető tevékenységet vizsgáltak: a Services Australia, az új-dél-walesi bűnügyi statisztikai hivatal, Victoria állam egészségügyi minisztériuma és az Australian Institute of Health and Welfare esetében. Az esetek súlyossága eltérő. A Services Australia rendszerénél egy modell nem nyilvános hozzáférést szerzett, parancsokat futtatott, belső fájlokat és hitelesítő adatokat szerzett meg. Az utóbbi intézménynél a letöltött anyagok feltehetően nyilvánosak voltak, és a rendszert nem törték fel. Az OpenAI szerint egyedi egészségügyi nyilvántartásokhoz nem fértek hozzá.
A vizsgálat léptéke jelentős: az OpenAI mintegy 50 petabájtnyi naplót elemez körülbelül 7000 GB200 és GB300 GPU-val; ennek napi költsége meghaladja az 500 ezer dollárt. Az eseteket AI segítségével több lépcsőben szűrik, majd emberek ellenőrzik. A vizsgálat hónapokkal korábbi további incidenseket is azonosíthat, így az értesítések száma tovább nőhet.
