Claude egy olyan műveletben vett részt, amely 1,8 millió Android-APK-t vizsgált át. Az Anthropic legújabb biztonsági jelentése szerint egy francia nyelvű, a következő csoporthoz feltételezetten kötődő szereplő: ShinyHunters, ipari léptékben kereste a mobilalkalmazásokban szabadon hagyott hitelesítő adatokat. Nem egy támadás kivitelezéséről kérdezett chatbotról van szó, hanem egy automatizált munkafolyamatba épített MI-ről.
A művelet tíz AWS EC2-példányt használt: ezek tömegesen töltöttek le APK-kat több alkalmazásboltból, visszafejtették azokat, majd a TruffleHoggal kerestek a kódba közvetlenül beírt kulcsokra, tokenekre és más titkokra. Az ellenőrzött találatok valós időben kerültek egy több mint 100 forrástípus szerint szervezett Telegram-csoportba. Ezzel párhuzamosan a támadó szervezetekhez kapcsolódó GitHub-címeket és Personal Access Tokeneket is gyűjtött; az Anthropic szerint e két adatfolyam szolgáltatta a szereplőhöz köthető, megerősített kompromittálások többségének kezdeti hitelesítő adatait.
Az 1,8 milliós szám látványos, de az igazi gond a sebesség. Egy másik, ugyancsak a ShinyHunters ökoszisztémájához kötött műveletben a támadók több mint 40 szervezetből, nagyjából 34 óra alatt több mint 2100 Azure AD-tokenkészletet szereztek meg. Az Anthropic kifejezetten azt állítja, hogy az MI-ügynökök végezték el szinte az összes munkát. Egy másik esetben egyetlen ellopott fejlesztői tokenből körülbelül három óra alatt teljes adminisztrátori hozzáférés lett az áldozat felhőkörnyezetéhez.
Ez kézzelfoghatóbbá teszi a Claude és a kiberbiztonság körüli vitát. Korábban szó volt a Claude Fable 5-ről és a kifejezetten magas kockázatú kiberbiztonsági feladatokra bevezetett korlátozásairól. A mostani jelentés szerint az elemzett rosszindulatú műveletekben Haiku, Sonnet és Opus modelleket használtak; az Anthropic nem talált hasonló aktivitást a Fable vagy Mythos esetében, egy különálló, jogosulatlan desztillációs esetet kivéve.
Nem csupán bankkártyákra és adatbázisokra vadászó bűnözőkről van szó. A jelentés orosz és kínai kémkedéshez kapcsolt szereplőket is leír, akik felderítésre, adathalászatra, kártevőfejlesztésre, sérülékenységek kihasználására és adatkiszivárogtatásra használták a Claude-ot. A vállalat közlése szerint letiltotta az azonosított fiókokat, valamint módosította észlelési és védelmi rendszereit. Az olyan korábbi esetek után, mint a Claude képességeinek hamis fiókokon keresztüli kinyerésére irányuló kampányok, egyre nehezebb figyelmen kívül hagyni a léptékváltást: az MI nem találja fel újra a kiberbűnözést, de ugyanazt jóval automatizáltabban, kevesebb emberrel és hasonló költség mellett teheti lehetővé.
