Co je agentní AI a proč je jiná
Klasické chatboty jako ChatGPT nebo Claude fungují na principu dotaz–odpověď. Napíšete prompt, model odpoví. Agentní AI je o úroveň výš — jde o systém, který dostane cíl a sám hledá cestu k jeho splnění. Rozhoduje se, plánuje kroky, volá externí nástroje, pracuje s API, databázemi a dalšími systémy. Může objednávat zboží, spravovat firemní finance, instalovat softwarové záplaty nebo komunikovat s dodavateli — a to vše bez člověka v každém rozhodovacím kroku.
Právě tahle autonomie je současně její největší silou i největším rizikem. Jak upozorňuje právní analýza firmy Venable LLP z února 2026, agentní AI „nezapadá do žádného jednotného regulatorního rámce — namísto toho operuje napříč existujícími zákony v závislosti na tom, co dělá, koho ovlivňuje a jak je nasazena".
Singapur jako případová studie propasti v řízení
Singapur v posledních měsících agresivně buduje svou pozici AI hubu jihovýchodní Asie. Uzavřel strategické dohody s Googlem a OpenAI, přičemž OpenAI se zavázala investovat 234 milionů dolarů do místního ekosystému. NVIDIA v zemi otevírá výzkumné laboratoře a roboti se testují přímo v ulicích.
Jenže rychlost technologické adopce předběhla regulatorní připravenost. Podle článku Singapore Business Review z července 2026, který téma podrobně mapuje, vzniká v městském státě nebezpečná propast — agentní systémy se už používají ve financích, logistice a státní správě, ale chybí jednotný rámec pro jejich dohled, odpovědnost a bezpečnostní standardy.
Jihokorejský zákonodárce Kim Hyun to v dubnu 2026 pro Seoul Economic Daily shrnul přesně: „Pro úspěšné zakořenění agentní AI ve společnosti je naléhavé vytvořit řídicí strukturu s jasnými mechanismy odpovědnosti." A dodal, že je nutné navrhnout „kontrolní práva", která lidem umožní dohlížet na operace AI a v případě potřeby zasáhnout.
Five Eyes bijí na poplach: Agentní AI je příliš nebezpečná pro rychlé nasazení
Začátkem května 2026 vydaly zpravodajské a bezpečnostní agentury aliance Five Eyes (USA, Velká Británie, Kanada, Austrálie, Nový Zéland) společné varování před překotným nasazováním agentních AI systémů. Dokument s názvem „Careful Adoption of Agentic AI Services“ obsahuje 23 kategorií rizik a přes 100 konkrétních doporučení.
Varování je mimořádně silné: „Dokud bezpečnostní postupy, metody hodnocení a standardy nedozrají, měly by organizace předpokládat, že agentní AI systémy se mohou chovat neočekávaně." Dokument explicitně doporučuje upřednostnit odolnost a odvratitelnost před efektivitou.
Mezi nejvýraznější příklady rizik, které Five Eyes citují, patří:
- Příliš široká oprávnění: Agent pověřený instalací bezpečnostních záplat dostal přístup k mazání logů firewallu — a po zdánlivě nevinném promptu je skutečně smazal.
- Řetězová důvěra: Organizace nasadila agenta pro schvalování nákupů. Postupem času se na jeho výstupy začali spoléhat další agenti. Útočník pak pronikl přes slabě zabezpečený nástroj, zdědil privilegia prvního agenta a změnil smlouvy i schválil neautorizované platby.
- Nedostatek threat intelligence: Existující bezpečnostní rámce jako OWASP nebo MITRE ATLAS se zaměřují na LLM, nikoliv na specifické útoky proti agentním systémům.
Právní vakuum: Kdo nese odpovědnost?
Jednou z nejpalčivějších otázek je právní odpovědnost za rozhodnutí agentní AI. Když autonomní systém způsobí finanční škodu, udělá diskriminační rozhodnutí nebo neoprávněně sdílí citlivá data — kdo za to nese následky? Vývojář? Provozovatel? Dodavatel modelu?
Právníci z Venable LLP identifikovali pět klíčových oblastí, které si žádají okamžitou pozornost:
- Správa dat a soukromí — agentní systémy dynamicky kombinují datasety a vytvářejí nové inference
- Riziko dodavatelského řetězce — aktualizace u poskytovatele modelu mohou zpětně změnit chování agenta
- Dohled a zmírňování rizik — chybí zavedené postupy pro testování dopadů autonomních rozhodnutí
- Bezpečnostní infrastruktura — agenti musí být autentizováni, jejich akce autorizovány a logovány
- Identita a atribuce — kdo je právně odpovědný, když agent jedná „jménem" organizace
Co to znamená pro Evropu a Česko
Pro Evropu přichází toto varování v klíčový moment. EU AI Act je sice prvním komplexním regulatorním rámcem pro umělou inteligenci na světě, ale byl navržen ještě před masivním nástupem agentních systémů. Klasifikuje AI podle rizikovosti, avšak specifické scénáře autonomního rozhodování agentů — jako je řetězení oprávnění nebo dědění privilegií — v něm zatím nejsou explicitně adresovány.
Pro české firmy a instituce z toho plyne jednoduché doporučení: agentní AI nasazovat postupně, od nízko-rizikových úkolů, s jasně definovanými hranicemi oprávnění a povinným lidským dohledem. Česká národní banka například už experimentuje s AI na vlastní infrastruktuře — provozuje open-source modely na serverech s čipy Nvidia H200 pro analýzu regulatorních dokumentů a sledování reputačních rizik. Klíčové přitom je, že data neopouštějí bezpečné prostředí instituce — model, který doporučují i bezpečnostní agentury Five Eyes.
Globální trend, lokální důsledky
Nejde přitom jen o Singapur nebo bezpečnostní agentury. V červenci 2026 varoval i vědecký panel OSN, že schopnosti AI předbíhají pravidla pro její bezpečné a odpovědné využívání. Jihokorejská vláda mezitím oznámila, že do roka zavede AI systémy napříč všemi ministerstvy. A Banka pro mezinárodní platby (BIS) vydala oficiální doporučení, jak mají centrální banky k jazykovým modelům přistupovat.
Shoda mezi odborníky napříč kontinenty je zřejmá: agentní AI mění pravidla hry, ale bez řízení, odpovědnosti a lidského dohledu se z nástroje produktivity může stát zdroj systémových rizik. A jak zdůrazňují Five Eyes, rychlost by neměla zvítězit nad bezpečností.
Jaký je rozdíl mezi klasickým chatbotem a agentní AI?
Klasický chatbot (například ChatGPT) odpovídá na jednotlivé dotazy — vy se ptáte, on odpovídá. Agentní AI dostane komplexní cíl (například "objednej kancelářské potřeby za nejlepší cenu") a sama plánuje jednotlivé kroky, prohledává e-shopy, porovnává ceny, zadává objednávky a komunikuje s dodavateli. Rozdíl je v míře autonomie — agent pracuje samostatně a člověka potřebuje jen výjimečně.
Je agentní AI regulována v rámci EU AI Act?
EU AI Act klasifikuje AI systémy podle rizikovosti — od zakázaných praktik přes vysoce rizikové až po minimálně rizikové. Agentní systémy nasazené v kritických oblastech (finance, zdravotnictví, infrastruktura) by spadaly do kategorie vysokého rizika a podléhaly by přísným požadavkům. Samotný Act však byl připravován před boomem agentní AI a specifické scénáře jako dědění oprávnění mezi agenty v něm zatím nejsou detailně řešeny.
Jak mají firmy přistupovat k nasazení agentní AI?
Bezpečnostní experti z Five Eyes doporučují začít postupně — nasadit agenty nejdříve na jasně definované nízko-rizikové úkoly, důsledně omezovat jejich oprávnění, vést detailní logy všech akcí a vždy mít možnost lidského zásahu. Důležitá je také průběžná aktualizace bezpečnostního modelu, protože útočné vektory specifické pro agentní AI se teprve mapují.
