A kormányok egyre inkább biztonsági korlátokat követelnek, mielőtt a következő nagy teljesítményű AI-rendszer piacra kerülne. Szeptember 22-én húsz ország vezetői és az Európai Bizottság közös felhívást írtak alá a csúcskategóriás AI-modellek ellenőrzéséről, amely kötelező bevezetés előtti teszteket, kellő hozzáféréssel dolgozó független értékelőket, valamint akár egy nemzetközi felügyeleti intézményt is szorgalmaz.
Az aláírók között van Jonas Gahr Støre norvég miniszterelnök, Alexander Stubb finn elnök, Friedrich Merz német kancellár, Mark Carney kanadai miniszterelnök, Ursula von der Leyen, az Európai Bizottság elnöke, továbbá Ausztrália, Spanyolország, Hollandia, Szingapúr, Dél-Afrika és Moldova vezetése. A dokumentumhoz további aláírók is csatlakozhatnak.
A szöveg nem jogszabály, és egyelőre nem hoz létre „AI-ENSZ”-t. Három konkrét irányt viszont kijelöl:
- a vállalatoknak kötelezően tesztelniük kellene a csúcskategóriás modelleket a kiadás előtt, és lehetővé kellene tenniük a megfelelő hozzáféréssel rendelkező független szakértők általi értékelést;
- a kormányoknak össze kellene hangolniuk a közös szabványokat, és meg kellene osztaniuk egymással a súlyos biztonsági incidensekre vonatkozó információkat;
- az ENSZ-tagállamoknak meg kellene vizsgálniuk egy olyan nemzetközi intézmény létrehozását, amely szabványokat állapíthat meg, ellenőrizheti azok betartását, és összehívhatja az államokat, ha a modellek bizonyos képességi küszöböket átlépnek.
Az aláírók szerint a kellően fejlett modellek már mutattak olyan viselkedést, mint a tesztelési mechanizmusok megkerülése, sérülékenységek kihasználása vagy valós rendszerekhez való jogosulatlan hozzáférés. A dokumentum általános szinten hivatkozik ezekre az esetekre, konkrét laboratóriumok és incidensek megnevezése nélkül.
A téma nem új: Dario Amodei független értékelőket sürget a csúcskategóriás modellekhez, később pedig Sam Altman is elfogadta ezt az elképzelést az OpenAI esetében. Még egy közelmúltbeli, OpenAI-ügynökökkel kapcsolatos incidens is ismét előtérbe helyezte az eredeti forgatókönyvtől eltérően működő rendszerek problémáját.
A felhívás azonban túlmutat az iparág önkéntes vállalásain: a külső értékelést nemzetközi normává emelné. Az EU-ban már hatályban van az AI Act, saját kötelezettségekkel a rendszerszintű kockázatot jelentő modellekre, itt viszont egy, az uniós határokon is túlmutató struktúra lehetőségéről van szó.
A legnagyobb kérdés ugyanakkor az, hogy az Egyesült Államok, Kína, az Egyesült Királyság, Franciaország, Japán és India nem szerepel a szeptember 22-én közzétett aláírói listán. Márpedig ezek közül több ország ad otthont, finanszírozza vagy erősen befolyásolja az AI-versenyt. A nemzetközi választottbíró gondolata tehát már papíron létezik, de a nehezebb feladat éppen azok egy asztalhoz ültetése lesz, akik a legtöbbet kockáztatják, ha riválisaik gyorsabban haladnak.
