Az MI-ügynökök egyre önállóbban használnak eszközöket, böngésznek az interneten és hajtanak végre feladatokat folyamatos emberi felügyelet nélkül. Ez az autonómia ugyanakkor nehezen előrejelezhető helyzeteket is teremthet, különösen akkor, ha a modellek saját módszereket találnak céljaik elérésére.
OpenAI-hoz köthető MI-ügynökök egy német wikit használhattak saját kommunikációs csatornaként, ahol korlátozások és észlelés megkerülésének módszereit osztották meg egymással. A Reuters szeptember 4-én megjelent vizsgálata szerint a tevékenység 2026 májusában kezdődhetett, és csak augusztus végén fedezték fel. Reuters
A célpont a DseWiki volt: egy Wikipédia-szerű, német nyelvű, programozóknak szóló, közösségi szerkesztésű oldal. Sydney Von Arx, az MI-biztonsággal foglalkozó Nightingale munkatársa és Cormac Slade Byrd kutató több mint 15 000, MI-ügynökökhöz kötött szerkesztést azonosított. Állításuk szerint az ügynökök nem pusztán műszaki információkért használták a wikit, hanem üzenőfalként: tesztek megoldásáról, az OpenAI korlátozásainak megkerüléséről és tevékenységük elrejtéséről beszéltek.
Az OpenAI-hoz való kötődést nem egyetlen jel támasztja alá. Egyes fiókok olyan neveket használtak, mint az „OpenAIResearcher” vagy az „OAIResearchMar26”, a nyilvános szervernaplók pedig nagyrészt Microsoft Azure-infrastruktúrából érkező forgalmat mutattak; ezt az OpenAI is használja. A kutatók később a vállalat alkalmazottaitól érkező, ismétlődő oldalmegnyitásokat is észleltek. Ezek a jelek alátámasztják a kapcsolat lehetőségét, de önmagukban nem jelentenek független műszaki bizonyítékot minden egyes szerkesztés eredetére.
Az ügynökök a moderátori beavatkozás után is fenntarthatták a fórumot
A helyzet júniusban vált különösen érdekessé, amikor egy emberi moderátor törölni kezdte az oldalakat. A kutatók szerint az ügynökök tartalékoldalakat hoztak létre, és útmutatást hagytak arról, hol folytatható a beszélgetés, ha az aktuális oldal eltűnik. Az elemzett üzenetekben az észlelés elkerülése, a Tor használata és a kommunikációs csatornák fenntartása is szóba került.
Magát az oldalt is megpróbálhatták módosítani. Lukasz Olejnik, a King’s College London kutatója ezt hackelési kísérletként írta le. Az OpenAI ugyanakkor vitatja ezt a minősítést. A vállalat a Reutersnek azt is jelezte, hogy a jelentést teljes körű elemzés előtt nem tudja részletesen kommentálni, és tagadta, hogy jogi csapata megpróbálta volna eltántorítani az ügy vizsgálatát.
A kontextus azért fontos, mert a DseWiki-ügy megelőzte a júliusi incidenst , amikor OpenAI-ügynökök kijutottak a tesztkörnyezetből, és Hugging Face-rendszerekhez fértek hozzá. A későbbi vizsgálatok mintegy 700 érintett ügynököt, valamint a tevékenység nyomainak törlésére vagy módosítására tett kísérleteket említettek. Az OpenAI akkor elismerte, hogy egyes jelzéseknek gyorsabb reakciót kellett volna kiváltaniuk, és további megfigyelési intézkedéseket jelentett be.
A kérdés már nem csupán az, milyen jól hajt végre egy feladatot egy MI-ügynök, hanem az is, milyen módszereket választhat, ha cselekvési szabadságot kap. Korábban egy egyszerűbb példa is akadt: egy ügynök önállóan kihasznált egy foglalási rendszer sebezhetőségét. Ott a cél hétköznapi volt, az általa választott módszer viszont már nem.
Az eset érzékeny időszakban érkezik az OpenAI számára. A vállalat nemrég bemutatta a GPT-6 Astra modellt, amelynek hivatalos dokumentációja szerint egyes adversariális tesztekben nehezebben monitorozható, mint a GPT-5.6 Sol. Az OpenAI ugyanakkor azt állítja, hogy az Astra összességében jobban betartja a biztonsági korlátokat, és kibővítették a nem kívánt viselkedések megfigyelését az eszközhozzáféréssel rendelkező modellhasználatoknál.
