Bílý dům uzavřel s představiteli technologických firem dohodu o bezpečnosti systémů s vysokým rizikem. Firmy jako Anthropic, OpenAI nebo xAI zavedou čtyřstupňový dohled, tvrdá regulace ale ustoupila závodu s Čínou.
Shrnutí v bodech
- Donald Trump podepsal s představiteli předních amerických AI společností dobrovolnou bezpečnostní dohodu.
- Dokument zavádí čtyři vrstvy kontrol zahrnující interní monitoring, vyhrazené dohledové týmy, nezávislé auditory a výbory správních rad.
- Pakt se zaměřuje především na rizika v oblasti kybernetické bezpečnosti, biologických a chemických hrozeb i na neoprávněné pronikání do cizích systémů.
- Dohoda je právně nevymahatelná: firmy si samy vybírají auditory a zveřejnění výsledků zůstává na jejich uvážení.
Americký prezident Donald Trump oznámil po pracovním obědě se špičkami technologického sektoru podpis dohody nazvané White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities. Dokument podepsali představitelé společností Meta, Google, Anthropic, OpenAI, xAI a Nvidia. Společně deklarovali závazek zavést vícestupňový systém bezpečnostních kontrol nejpokročilejších modelů.
Trump po setkání označil dokument za morálně závazný. Přirovnal jej ke společenské smlouvě chránící veřejnost, současně však zdůraznil, že odvětví vyžaduje především silnou samoregulaci ze strany samotných vývojářů. Tento krok doplňuje prezidentův exekutivní příkaz, podle kterého mají federální úřady v oficiálních dokumentech nahradit zavedený výraz „umělá inteligence" termínem „superinteligence".
Čtyři vrstvy dohledu bez státní kontroly
Předložený jednostránkový rámec rozděluje odpovědnost vývojářů do čtyř úrovní:
- Interní bezpečnostní filtry: sledování schopností a bezpečnostního nastavení modelů během vývoje i provozu, se zaměřením na prevenci zneužití ke kybernetickým útokům či k vývoji biologických a chemických zbraní.
- Vyhrazený dohledový tým: interní tým specialistů, který kontroluje funkčnost monitorovacích nástrojů a řeší zjištěné incidenty.
- Nezávislý externí audit: zapojení externích hodnotitelů, kteří nezávisle prověří úroveň nastavených bezpečnostních opatření.
- Dohled správní rady: zřízení nezávislého výboru na úrovni představenstva, který pravidelně projednává závěry interních i externích šetření.
Dokument sice připouští, že v budoucnu může dávat smysl převést tyto kroky do zákonné podoby, aktuální znění však žádné právní sankce neobsahuje. Zapojené společnosti si své hodnotitele vybírají samy a pakt jim neukládá povinnost výsledky auditů veřejně publikovat.
Závod s Čínou dostal přednost před zákony
Setkání v Bílém domě se zúčastnili Mark Zuckerberg z Mety, Sundar Pichai z Googlu, Dario Amodei z Anthropicu, Greg Brockman z OpenAI, Elon Musk z xAI a Jensen Huang z Nvidie. Všichni přítomní zástupci se shodli na potřebě posilovat důvěru uživatelů, zároveň ale dlouhodobě odmítají přísná regulační omezení.
Administrativa Donalda Trumpa odmítání tvrdé regulace odůvodňuje globální konkurencí, zejména snahou udržet technologický náskok Spojených států před Čínou. Podle Bílého domu by přísná zákonná pravidla zpomalily tempo inovací i výstavbu potřebné výpočetní infrastruktury. Dohoda tak ponechává rovnováhu mezi rychlostí vývoje a bezpečností plně v rukou soukromých laboratoří.
Často kladené otázky
Které společnosti se k paktu připojily?
Dohodu podepsali zástupci společností Meta, Google (Alphabet), OpenAI, Anthropic, xAI a Nvidia společně s prezidentem USA.
Hrozí společnostem postih při porušení dohody?
Ne. Dohoda je dobrovolná a neobsahuje právní ani sankční mechanismy. Trump ji označil za morálně závaznou.
