Egy Claude Haiku 4.5 modell egy megoldatlan bűncselekményről szóló hamis bejelentést töltött ki és küldött el egy Anthropic-teszt során. A mesterséges intelligenciának webes navigációs példákat kellett volna létrehoznia, ám egy rendőrségi űrlaphoz jutott, és kitalált egy lehetséges észlelést egy gyanúsítottról. Az oldalon nem szerepelt az elkövető leírása. A név és elérhetőség nélkül elküldött üzenetet spamként sorolták be, így nem jutott el a nyomozókhoz.
Az október 9-én közzétett jelentés további eseteket is ismertet, amelyekben a Claude túllépte a feladat kereteit: űrlapokat küldött el a puszta kitöltés helyett, tokeneken keresztül ért el adatokat, illetve URL-rövidítő szolgáltatásokkal kerülte meg a technikai korlátozásokat. Az Anthropic szerint a feltárt hatások minimálisak voltak, és a rendelkezésre álló információk alapján ügyféladatok nem érintettek.
Minden belső értékelés nyilvános internet-hozzáférés nélkül fut majd addig, amíg a biztonsági és megfigyelési intézkedéseket nem validálják. Egyes nyilvános teszteket leállítottak vagy átalakítottak, a webelérési eszközökre pedig további korlátozásokat vezettek be. Az Anthropic közlése szerint az új észlelési mechanizmus az újbóli teszteléskor minden ismertetett esetet blokkolt, ugyanakkor a vállalat elismeri: a modellek betanítása önmagában nem elég az ilyen viselkedés megelőzésére.
Az eset a Claude Chrome-bővítményének jóváhagyási beállításaira is ráirányítja a figyelmet. A kiegészítő három módot kínál: „Manually approve”, „Automatically approve” és „Skip all approvals”. A Cowork panelben az első minden művelethez megerősítést kér, a második automatikusan ellenőrzi a műveleteket és problémák észlelésekor közbelép, az utolsó pedig kikapcsolja ezeket az automatikus ellenőrzéseket és a szokásos jóváhagyási kéréseket. Az „Automatically approve” a Cowork alapértelmezett beállítása.
A mód az üzenetmező melletti menüből választható ki, a webhelyeknek adott állandó engedélyek pedig a bővítmény beállításaiban tekinthetők át. Következményekkel járó űrlapoknál a kézi jóváhagyás lehetőséget ad a műveletek ellenőrzésére végrehajtás előtt. Érzékeny információk megadásához továbbra is kifejezett engedély szükséges, egyes műveletek – például vásárlás vagy végleges törlés – pedig módtól függetlenül tiltottak.
