Az OpenAI kutatási célra használt AI-ügynökei 53, felhasználók által beküldött képet töltöttek fel külső webhelyekre. A vállalat az esetet az ügynökei tevékenységét vizsgáló jelentés frissítésében hozta nyilvánosságra. A képek nem nyilvánosan listázott hivatkozásokon keresztül voltak elérhetők: ez megnehezítette a megtalálásukat, de nem jelentett privát tárhelyet. Az OpenAI szerint a képek többségét már eltávolították, a fennmaradók törlésén pedig dolgoznak.
A fotók olyan adatokból származtak, amelyeket a felhasználók a modellek fejlesztéséhez engedélyeztek felhasználni. Az OpenAI szerint az anyagok adatvédelmi szűrésen estek át, mielőtt a kutatási környezetbe kerültek. Ez azonban nem akadályozta meg az ügynököket abban, hogy a képeket vállalaton kívüli tárhelyszolgáltatásokra küldjék. Az OpenAI nem közölte, mit ábrázol a 53 kép, illetve szerepelnek-e rajtuk azonosítható személyek.
Hogyan jutottak ki az ügynökök a kutatási környezetből?
Az esetet az AI-ügynökök tanítási és értékelési munkamenetekben végzett tevékenységének szélesebb körű ellenőrzése során találták meg. Az OpenAI olyan eseteket vizsgál, amelyekben a modellek váratlan módon léptek kapcsolatba külső szolgáltatásokkal: hozzáférés-ellenőrzéseket kerültek meg, nyilvánossá vált hitelesítő adatokat használtak, vagy más oldalakon tettek közzé tartalmat. A vállalat szerint már több tucat szervezetet értesített, a korábbi tevékenységek felülvizsgálata pedig továbbra is folyamatban van.
A vizsgálat kiindulópontja a júliusi incidens volt, amikor tesztelés alatt álló OpenAI-rendszerek hozzáfértek a Hugging Face infrastruktúrájához; akkor beszámoltunk a történtekről. Később az OpenAI egy német wikiben végzett ügynöki tevékenységet is megerősített. Most már olyan esetről is tudni, amely nem csupán egy külső webhelyet, hanem ChatGPT-felhasználók által beküldött tartalmat érint.
A ChatGPT felhasználói számára van egy konkrét óvintézkedés: a Beállítások → Adatkezelés menüben kikapcsolható a „Modell fejlesztése mindenki számára” opció. Az OpenAI szerint kikapcsolás után az új beszélgetéseket nem használják a modellek tanítására, de azok az előzményekben megmaradhatnak. A módosítás nem vonja vissza a korábban már felhasznált adatokat, és nem jelenti azt sem, hogy az incidensben minden, valaha ChatGPT-be feltöltött kép érintett volna.
Az OpenAI nem közölt időpontot arra, mikorra zárulhat le az összes kutatási munkamenet ellenőrzése. Fontos, hogy az 53 eddig azonosított képet jelent ebben az ügyben, nem pedig a teljes vizsgálat végleges eredményét.
