Co se vlastně stalo: Washington sáhl k razantnímu kroku

V pátek 13. června obdržel Anthropic — aktuálně nejhodnotnější AI startup světa s valuací blížící se bilionu dolarů — od americké vlády pokyn, který nemá v historii oboru obdoby. Firma musela okamžitě deaktivovat své dva nejpokročilejší modely pro všechny zahraniční zákazníky, a to včetně některých vlastních zaměstnanců, kteří nejsou občany USA.

Důvod? Podle Washingtonu někdo získal informaci o metodě, jak obejít bezpečnostní omezení modelu Fable 5 — takzvaný jailbreak. Anthropic sice tvrdí, že šlo o úzký útok odhalující několik dříve známých a méně závažných zranitelností, které dokážou najít i jiné veřejně dostupné modely. Vláda se ale rozhodla jednat okamžitě a bez dalších podrobností.

Celý incident je o to pikantnější, že se odehrává uprostřed otevřeného sporu mezi Anthropicem a administrativou Donalda Trumpa. Ministr obrany Pete Hegseth firmu dříve veřejně označil za „riziko dodavatelského řetězce“ — šlo o první případ, kdy bylo toto označení uděleno americké společnosti. Anthropic kvůli tomu Pentagon zažaloval a soud mu dal za pravdu.

Co modely Fable 5 a Mythos 5 doopravdy umějí

Abychom pochopili rozsah problému, musíme se podívat na to, co tyto modely skutečně dokážou. Adam Hanka, ředitel dat a AI ve společnosti Creative Dock a spoluautor podcastu „Uhlík vs. Křemík“, pro Forbes popsal schopnosti Mythosu velmi konkrétně:

„Mythos byl cíleně vytrénovaný tak, aby dokázal přečíst a analyzovat velké množství kódu a pracovat autonomně delší dobu. Díky tomu může fungovat i několik dní bez zásahu člověka,“ vysvětluje Hanka. Model si sám vytvoří hypotézu o zranitelnosti, otestuje ji spuštěním testovací instance v prostředí serveru a po ověření pokračuje na další. „Běžný uživatel si představuje pokrok v modelech jako lepší odpovědi v ChatGPT. V tomto případě jde o komplexní agentní workflow, které vypadá, jako když ten chat zavoláte tisíckrát za sebou.“

Filip Dřímalka, zakladatel společnosti Aibility a autor knihy „Budoucnost nepráce“, potvrzuje, že modely jako Fable 5 jsou podle nezávislých žebříčků (například Artificial Analysis) zatím nepřekonané. „Některé open-weight modely je ale dotahují. Není to však jednoduché — provoz těchto modelů je náročný na hardware a investice mohou být poměrně vysoké, a to při nižším výkonu.“

Hanka dodává, že asijské modely — DeepSeek, Qwen, Kimi nebo GLM — se západní špičce rychle přibližují, ale spíše dosahují úrovně GPT či Gemini, nikoliv úrovně Mythosu. „Existuje ale možnost, že někde v Číně existují laboratoře s pokročilejšími modely, které nejsou běžnému uživateli dostupné.“

Proč je zákaz pro Evropu varovným výstřelem

Podle Hanky Washington překročil pomyslnou hranici. „Vláda Spojených států zasáhla do toho, který model bude komu dostupný. Potvrdila tím obavy, že závislost na mimoevropské technologii je pro nás ohromným bezpečnostním rizikem a velkou zranitelností.“

Dřímalka poukazuje na strukturální problém: „Vývoj top modelů už dávno nestojí jen na kapitálu a talentu. Čím dál víc jde o to využít nejlepší modely k vývoji dalších generací, a tam se náskok dohání hodně obtížně. K tomu se přidává hardware, tedy datacentra a energie, u kterých se už dnes řeší podobné geopolitické restrikce.“

Oba experti se shodují na tom, že Evropa místo budování vlastní kapacity příliš dlouho stavěla bariéry. „Evropa musí do technologií, vědy a výzkumu investovat více, to je jasné. Ale současná situace je způsobena také tím, že v Evropě jednoduše chybí společný kapitálový trh, kde se dá shromáždit dostatečný kapitál pro soukromé subjekty,“ říká Hanka.

Je Fable 5 skutečně tak nebezpečný, jak tvrdí vláda?

Odpověď není černobílá. Hanka upozorňuje, že žádné pojistky nejsou stoprocentní — to ale platí pro všechny současné AI modely, nejen pro Fable. „Anthropic uvádí, že model prošel tisíci hodinami testování týmy z vlády USA, britského vládního institutu pro bezpečnost AI a dalších. Žádnému z nich se nepodařilo najít způsob, jak ochranu modelu plošně obejít.“

Dřímalka je opatrnější: „Případů, kdy lidé dokázali obejít guardrails velkých firem, je celá řada. Každá firma vám bude říkat, že její produkty jsou bezpečné. Ale jestli na trhu existuje firma, která k AI přistupuje odpovědně, je to za mě Anthropic. Věřil bych víc firmě než administrativě Donalda Trumpa.“

Zajímavý je i argument, že globální pozastavení přístupu k nejlepším modelům připravilo o klíčový nástroj především obránce kybernetické bezpečnosti. Hanka to označuje za dvousečné: „Útočník používá stejný nástroj k hledání zranitelností a obránce na jejich záplatování. Pokud ale existuje velké množství zranitelností, dává silnější nástroj do rukou větší moc útočníkům. Těm stačí najít jednu zranitelnost.“

Dřímalka k tomu dodává praktický rozměr: „Když přístup k modelům vypnete, obránce, který si ho zabudoval do procesů, o nástroj přijde — zatímco útočníkům často zůstanou alternativy.“

Co může Evropa — a Česko — dělat

Situace není beznadějná. Oba experti nabízejí konkrétní cesty, kudy by se Evropa měla vydat.

Dřímalka zdůrazňuje, že lokální a open-weight modely mohou časem špičku dohnat. „Jak se ukazuje už dnes, podobné kvality může jít dosáhnout i chytrým kombinováním více modelů. I proto bychom se měli jako Evropa snažit získat alespoň částečnou technologickou nezávislost.“

Evropa přitom nestojí na nule. Francouzský Mistral AI patří mezi přední světové výrobce velkých jazykových modelů a jeho modely jsou k dispozici i v rámci evropské cloudové infrastruktury. Česká republika navíc nedávno spustila projekt Czech AI Factory v Ostravě, který má ambici stát se jedním z uzlů evropské umělé inteligence. Pro české firmy je klíčové, že open-weight modely jako Llama od Mety nebo DeepSeek lze provozovat na vlastním hardwaru bez závislosti na amerických cloudech.

Hanka ale varuje, že bez společného evropského kapitálového trhu bude obtížné shromáždit prostředky, jaké dokázaly získat americké firmy. Anthropic jen za poslední rok získal investice v řádu desítek miliard dolarů — částky, o kterých si evropské AI startupy mohou nechat jen zdát.

„V našem regionu máme silné zázemí i talenty a měli bychom na tom stavět. Nejde jen o modely, ale hlavně o jejich dostupnost a kontrolu. Z hlediska bezpečnosti přestává být využívání špičkových modelů volitelným doplňkem — je to pevná součást řízení rizik s plnou odpovědností managementu firem,“ uzavírá Dřímalka.