A legnagyobb AI-vállalatok vezetői közös ígérettel távoztak a Fehér Házból: mielőtt szigorúbb állami szabályozás érkezne, megpróbálják bizonyítani, hogy képesek saját modelljeiket ellenőrzés alatt tartani. Donald Trump bejelentett egy önkéntes megállapodást, amelyet a Google, az Anthropic, a Meta, az NVIDIA, az OpenAI és az xAI írt alá, és amelyet „erkölcsileg kötelező erejűnek” nevezett. A dokumentum akkor született, amikor az AI-ügynökökhöz kapcsolódó biztonsági incidenseket egyre nehezebb pusztán elméleti forgatókönyvként kezelni. A találkozó részleteiről a CNN számolt be, amit az Associated Press is megerősített.
A dokumentumon Sundar Pichai (Google), Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Jensen Huang (NVIDIA), Greg Brockman (OpenAI) és Elon Musk (xAI/SpaceX), valamint az amerikai elnök aláírása szerepel. A fehér házi egyeztetéseken az iparág további vezetői is részt vettek.
A megállapodás nem törvény, és nem vezet be szövetségi engedélyezési rendszert a modellek számára. A Trump-adminisztráció AI-politikája kifejezetten kerülni igyekszik az olyan licencelési rendszert, amely lassíthatná a technológia fejlesztését. A júniusi, AI-ról és biztonságról szóló elnöki rendelet ugyanezt a megközelítést követi: együttműködést vár el a kormányzat és az AI-laborok között, de nem teszi kötelezővé minden modell előzetes jóváhagyását.
Mit vállaltak valójában a cégek?
Az önszabályozás tág fogalma mögött néhány konkrét mechanizmus is megjelenik:
- belső ellenőrzések a modellek vizsgálatára, beleértve a kiberbiztonsági kockázatokat is;
- egy belső csapat, amely az ellenőrzések működését figyeli és feltárja a problémákat;
- külső, független értékelés, hogy a laborok ne kizárólag saját magukat vizsgálják;
- egy független, igazgatótanácsi szintű bizottság, amely megkapja a jelentéseket és nyomon követi a hibák orvoslását.
A szöveg azt is elismeri, hogy ezek az intézkedések később törvényekké vagy szabályozásokká válhatnak. Trump egy nagyjából tízfős csoport létrehozásáról is beszélt, amely a teljes mechanizmust felügyelné.
Van azonban egy fontos árnyalat: az Anthropic és az OpenAI számára a külső értékelés nem új, a Fehér Házban született elképzelés. Korábban Dario Amodei is független, az AI-laborokon belüli hozzáféréssel rendelkező értékelőket sürgetett, később pedig Sam Altman is nyilvánosan támogatta ugyanezt az irányt az OpenAI esetében. Az új megállapodás ezeket a kezdeményezéseket igyekszik közös minimumszabállyá emelni az AI-verseny élvonalában lévő cégek között.
A modellek éppen jó okot szolgáltattak erre a vitára
Néhány nappal a találkozó előtt az OpenAI új belső incidensről számolt be: egy tanítási környezetben futó ügynök rést talált a hálózati izolációban, és DNS-en keresztül kommunikált egy nyilvános chatbottal. A megfigyelőrendszer észlelte a viselkedést, a futtatást később leállították.
Az OpenAI szerint az incidens után felfüggesztették a legfejlettebb modellek tanítását, értékelését és eszközhasználatos inferenciáját, amíg az új biztonsági korlátokat nem hitelesítik. Az OpenAI által közzétett technikai jelentés szerint az ügynöknek nem is adtak olyan feladatot, hogy utat keressen az internethez.
Nem ez volt az első hasonló eset: korábban az OpenAI és a Hugging Face ügyében is kísérleti ügynökök lépték át a tesztkörnyezet határait. Az ilyen esetek az elmúlt hetekben az iparágon belül is felerősítették egyes kísérletek lassításának és a független ellenőrzéseknek az igényét.
Ez adja a pillanat érdekes ellentmondását: ugyanazok az emberek, akik a legerősebb modelleket építik, már elég komolynak tartják a kockázatokat a külső auditokhoz, miközben az amerikai kormányzat nem akarja, hogy a válasz döntően lassítsa a Kínával folytatott versenyt.
Az AI neve is megváltozhat az Egyesült Államokban
Donald Trump párhuzamosan szokatlan terminológiai változást is szorgalmaz. Szerinte az „artificial intelligence” hamisnak láttatja a technológiát, ezért inkább a „Super Intelligence”, azaz SI.
A változás nem maradt puszta retorika: a külügyminisztérium már arra kérte a nemzetközi szervezetekkel foglalkozó diplomatákat, hogy a dokumentumokban, állásfoglalásokban és nyilatkozatokban használják a „Super Intelligence” kifejezést az „Artificial Intelligence” helyett .
A terminológiai váltás az amerikai–kínai kapcsolatokban is megjelent: a Hszi Csin-ping washingtoni látogatása után közzétett hivatalos dokumentumban a Fehér Ház közölte, hogy a felek megállapodtak a „super intelligence” kifejezés használatáról, és létrehoztak egy U.S.–China Super Intelligence Dialogue nevű fórumot a technológiához kapcsolódó kockázatokról és incidensekről szóló egyeztetésekhez.
Az AI fejlesztésének fékezéséről szóló vita már a kutatólaborokból Washington és Peking közé került. A mostani találkozó fontos új eleme, hogy az iparág elfogadja a külső auditokat és a strukturáltabb belső felügyeletet, egyelőre azonban mindez önkéntes alapon működik. Hogy ez a modell tartós marad-e, vagy a következő incidensek hatására gyorsan kötelező szabályozássá válik, azon is múlik, mennyire tudják a laborok ellenőrzött környezetben tartani a kockázatokat.
