A Raluca Ada Popa társalapításával létrejött Opaque Systems adatvédelmi technológiája az Anthrophichoz, a Claude mögött álló vállalathoz kerül. Az Opaque Systems október 13-án, hivatalos oldalán jelentette be, hogy csapata csatlakozik az Anthrophichoz. A cég szakterülete egy nagyon gyakorlati problémára ad választ: miként használható AI bizalmas adatokon anélkül, hogy azok a feldolgozás közben hozzáférhetővé válnának?
Raluca Ada Popa a University of California, Berkeley professzora, és a Google DeepMind biztonsági és adatvédelmi kutatásait vezeti egyetemi profilja szerint. Doktori fokozatát 2014-ben szerezte az MIT-n, ahol már titkosított adatok feldolgozására alkalmas rendszerekkel foglalkozott. Az Opaque Systemst 2021-ben alapította társaival, és 2024-ig a vállalat elnöke volt. A társalapítók között van Ion Stoica is, a Berkeley professzora és a Databricks társalapítója.
Az Opaque technológiája a Berkeley RISELab kutatásaiból nőtt ki. Képzeljünk el egy kórházat, amely egészségügyi adatokat elemezne, vagy egy bankot, amely tranzakciókban keres csalásra utaló jeleket. Az AI-nak hozzá kell férnie az adatokhoz a munkához, az intézménynek viszont kézben kell tartania, ki láthatja és mire használhatja azokat.
A védelemnek akkor is működnie kell, amikor az adatokat feldolgozzák, nem csupán tároláskor vagy szerverre küldéskor. Az Opaque hardveresen izolált feldolgozási környezetekre és kriptográfiai megoldásokra épülő eszközöket fejlesztett az illetéktelen hozzáférés korlátozására. A kezdeti kutatás azt is célul tűzte ki, hogy az információk még a szerver operációs rendszere előtt is védettek maradjanak.
A vállalat később az AI viselkedésének ellenőrizhetőségével is bővítette tevékenységét. A technológiának három alapvető kérdésre kell bizonyítékot adnia:
- Melyik program futott?
- Milyen környezetben hajtották végre?
- Milyen biztonsági szabályokat alkalmaztak?
Ez különösen fontos azoknak a szervezeteknek, amelyek AI-ügynököknek dokumentumokhoz és munkaeszközökhöz adnak hozzáférést. Az adatvédelmi ígéretet ellenőrizhető technikai garanciáknak is alá kell támasztaniuk.
A téma kapcsolódik az Anthropic rendszereinek független értékeléséről szóló vitákhoz, valamint azokhoz a tesztekhez, amelyekben Claude túllépett a kapott feladaton. Minél több feladatot végezhet el egy asszisztens a nevünkben, annál fontosabbá válnak a hozzáférésének korlátai.
Az Opaque közlése szerint fokozatosan leállítja működését, miközben a csapat az Anthropicnál folytatja munkáját. Nyílt forráskódú projektjei, köztük a TRACE, a Confidential MCP és az Agent Manifest, a meglévő licencek szerint továbbra is elérhetők maradnak az AgenTrust kezdeményezésen keresztül.
