Evropský parlament nedávno uspořádal první zástupný hearing zaměřený na rizika spojená s pokročilou umělou inteligencí. Výsledek? Hluboké rozczarování zákonodárců. Problémem nebyla jen samotná technologie, ale i způsob, jakým Anthropic k jednání přistoupila. Místo očekávaného představitele pro veřejnou politiku (Head of Public Policy) vyslala technického experta, což vyvolalo otázky o skutečné ochotě dialogu s regulátory.

Kybernetická dualita: Modely Mythos a Fable

V centru pozornosti stojí dva specifické modely od Anthropic – Mythos a Fable. Na rozdíl od běžně dostupných verzí Claude, které využíváme pro psaní e-mailů nebo analýzu dat, tyto modely vykazují schopnost identifikovat a zneužít softwarové zranitelnosti. V odborných kruzích se mluví o tzv. dual-use AI (AI s dvojím využitím). To znamená, že stejný nástroj může sloužit k posilování kybernetické obrany, ale zároveň i k automatizovaným a devastujícím útokům na kritickou infrastrukturu.

Evropské instituce se snaží získat přístup k těmto modelům, aby pochopily jejich potenciál pro zneužití. Obava je jasná: pokud tyto schopnosti nebudou pod přísným dohledem, mohou ohrozit stabilitu digitálních systémů v celé EU. To je téma, které se přímo dotýká i českého prostředí, zejména v kontextu ochrany našich energetických sítí a státní správy před kybernetickými hrozbami.

Pro srovnání, zatímco modely jako GPT-4o od OpenAI nebo Gemini od Google se primárně zaměřují na obecnou inteligenci a multimodální interakci, Anthropic se v rámci svých výzkumných směrů (včetně Mythos) explicitně soustředí na hlubší bezpečnostní aspekty a kontrolu schopností modelu. To z nich činí unikátního, ale zároveň kontroverzního hráče na trhu.

Governance jako pojistka: Role Ben Bernankeho

Anthropic si však uvědomuje, že bez důvěry regulátorů nebude růst dlouhodobě udržitelný. Firma se snaží budovat institucionální kredibilitu skrze svůj Long-Term Benefit Trust. Nedávným a velmi významným krokem bylo jmenování bývalého předsedy amerického Federálního rezervního systému, Ben Bernankeho, do tohoto dozorčího orgánu. Bernankeho přítomnost má signalizovat, že rozhodování o bezpečnosti AI nebude podřízeno výhradně snaze o zisk, ale bude řízen nezávislými experty.

Tento model správy je zajímavý především v porovnání s konkurencí. Zatímco OpenAI čelila v minulosti vnitřním konfliktům ohledně rovnováhy mezi neziskovou misí a komerčním růstem, Anthropic se snaží o strukturovanou ochranu své veřejné mise skrze tento Trust, který má dokonce pravomoc jmenovat nebo odvolat většinu správní rady. Pro investory i regulátory je to sice experimentální model, ale v kontextu připravovaného EU AI Act představuje pokus o samo-regulaci, která by mohla sloužit jako vzor.

Co to znamená pro českou firmu a uživatele?

I když se incident odehrál v Bruselu, dopady pocítíme všichni. Pro české firmy, které implementují AI do svých procesů, to má tři hlavní roviny:

• Regulace: Implementace EU AI Act bude vyžadovat od firem jasnou evidenci toho, jaké modely používají a zda nejsou "vysokoryzikové".
• Bezpečnostní standardy: Pokud se ukáže, že modely jako Mythos jsou skutečně rizikové, dojde k ještě přísnější kontrole exportu technologií a přístupu k API.
• Dostupnost nástrojů: Modely Claude (včetně jejich nejnovějších iterací) jsou v ČR dostupné skrze webové rozhraní i API. Ceny se pohybují standardně kolem 20 USD/měsíc pro verzi Pro, což je srovnatelný benchmark s ChatGPT Plus. Podpora češtiny je u modelů Claude na velmi vysoké úrovni, což z nich dělá preferovanou volbu pro lokální administrativní a analytické úkoly.

V českém kontextu je důležité sledovat i aktivity agentury ENISA (Agentura EU pro kybernetickou bezpečnost), která spolu s Anthropicem již diskutuje o odolnosti vůči kybernetickým hrozbám. Pro české experty v oblasti kyberbezpečnosti to znamená, že AI nebude jen nástrojem k automatizaci, ale i klíčovým prvkem při obraně proti novým typům útoků generovaných právě těmito pokročilými modely.