Kdo mluví a proč na tom záleží

Devětačtyřicetiletý Londýňan Demis Hassabis není jen dalším technooptimistou ze Silicon Valley. Předloni získal Nobelovu cenu za chemii za rozluštění záhady skládání proteinů pomocí AI systému AlphaFold. Před dvanácti lety založil laboratoř DeepMind, kterou Google koupil za 12 miliard korun — a právě na jejím výzkumu dnes stojí klíčový model Gemini, jenž pohání celou AI ofenzivu Alphabetu. Právě díky tomu bývá Hassabis řazen mezi spolutvůrce současného AI boomu. Když tedy mluví o rizicích, nejde o akademické spekulace — mluví z pozice člověka, který sedí v první řadě. Jeho esej, publikovaná 14. července 2026, rezonuje napříč technologickým světem i mimo něj. Není to první varování, které od Hassabise slyšíme, ale tentokrát je výjimečně konkrétní. „Čas je krátký, hodina pozdní. Něco se musí udělat, a to teď," píše doslova.

AGI jako nový oheň — ne další internet

Hassabis ve své eseji mluví o takzvané umělé obecné inteligenci (AGI) — systému, který by zvládal veškeré kognitivní schopnosti lidského mozku. Takovou technologii označuje za vzdálenou už jen pár let. Její dopad přirovnává spíše k objevu ohně nebo elektřiny než k vynálezům jako internet či mobilní telefon. „Až se v příštích desetiletích ohlédneme za touto dobou, myslím, že si uvědomíme, že jsme stáli na úpatí singularity — u ničeho menšího než úsvitu nového věku lidstva," píše. Slavná věta o „písku, který myslí" odkazuje na fakt, že dnešní AI modely běží na křemíkových čipech — křemík je přitom základní složkou písku. Poetická metafora, za kterou se ale skrývá tvrdá realita: vývoj postupuje rychleji, než mu lidstvo rozumí.

Konkrétní plán: Úřad pro špičkovou AI

Co Hassabisův text odlišuje od dosavadních varování, je konkrétní návrh řešení. Požaduje, aby americká vláda zřídila nový specializovaný úřad, který by ještě před uvedením na trh testoval bezpečnost nejvyspělejších modelů. Jako vzor uvádí FINRA — americkou organizaci pro regulaci finančních trhů. Ta funguje jako partnerství soukromého sektoru se státem: je financovaná z velké části samotným odvětvím, ale má pravomoci delegované od státu. Není to ani čistě odvětvová samoregulace, ani klasická byrokratická agentura, která by podle Hassabise „nedokázala držet tempo". Nejvyspělejší modely by se podle jeho návrhu označovaly jako „frontier" (špičkové) — a to na základě splnění prahových hodnot na vybraných testech schopností, nikoliv podle výpočetního výkonu použitého při tréninku. To je zásadní odklon od dřívějších plánů USA i Evropské unie, které regulaci odvozovaly právě od množství výpočetního výkonu.

Co by se testovalo

Testování by se mělo zaměřit především na tři oblasti:

• Kybernetickou bezpečnost — schopnost modelu provádět nebo usnadňovat kybernetické útoky
• Biologická rizika — potenciál modelu pomáhat při vývoji biologických zbraní
• Schopnost modelu obcházet bezpečnostní pojistky nebo záměrně klamat

Laboratoře by své modely úřadu zpočátku předkládaly dobrovolně, a to až 30 dní před vydáním. Jakmile by se testovací protokol osvědčil, stalo by se to povinným — bez úspěšného testu by žádný model nesměl na americký trh. Tvůrci frontier modelů by navíc museli zveřejňovat technické detaily, udržovat silné interní zabezpečení, prověřovat klíčové zaměstnance a vyčlenit dostatek zdrojů na bezpečnostní výzkum.

Altman a Hassabis: Dva plány, jeden cíl

Hassabis není jediný, kdo v těchto dnech přichází s návrhem na regulaci AI. Začátkem července publikoval v deníku Financial Times podobný text i Sam Altman, šéf OpenAI. Podle informací magazínu The Economist byly oba návrhy předloženy světovým lídrům na nedávném summitu G7 ve Francii. Oba muži se shodují na tom, že nový dohledový orgán by měl stanovovat standardy, analyzovat rizika a zajistit, aby k nejpokročilejším modelům měly přístup jen země, které se k iniciativě připojí. Liší se ale v přístupu: Altman volá po mezinárodně koordinovaném úsilí pod vedením USA. Hassabis naopak tvrdí, že Spojené státy musí jednat jako první bez čekání na širší shodu. Ostatní země se podle něj k pravidlům časem přidají samy, aby si udržely přístup k americké technologii a trhu — a dlouhodobě by se to mohlo týkat i Číny.

Co to znamená pro Evropu a Česko

Pro evropské čtenáře je klíčové, že Hassabisův návrh jde jinou cestou než současná evropská regulace. EU AI Act, který vstoupil v platnost v roce 2024, klasifikuje AI modely podle míry rizika a pro ty nejpokročilejší — označované jako GPAI (general-purpose AI) — stanovuje dodatečné povinnosti. Ty se ale odvozují právě od výpočetního výkonu, což je přesně ten přístup, který Hassabis odmítá. Pokud by USA přijaly vlastní regulační rámec založený na testování schopností místo výpočetního výkonu, mohl by se stát globálním standardem. Pro české firmy a vývojáře by to znamenalo, že přístup k nejnovějším modelům — ať už od Googlu, OpenAI nebo Anthropicu — by se řídil primárně americkými pravidly. Evropská unie by musela najít způsob, jak svůj přístup sladit, jinak riskuje, že evropští uživatelé zůstanou u starších modelů. Napětí mezi USA a EU v oblasti AI přístupu už přitom existuje. Nedávno Spojené státy omezily Evropanům přístup k některým nejvyspělejším modelům z bezpečnostních důvodů — a evropští představitelé proti tomu ostře protestovali. Hassabisův návrh by mohl tato pravidla alespoň kodifikovat a učinit předvídatelnějšími. Samotný Gemini, model poháněný DeepMindem, podporuje češtinu a je v Česku běžně dostupný. Pokud by se na něj v budoucnu vztahovala nová regulační pravidla, čeští uživatelé by změnu pravděpodobně nepocítili přímo — ale mohla by ovlivnit tempo, jakým Google nové verze vydává.