AI, která sama plánuje a jedná, teď podléhá novým pravidlům EU. Co to mění

Chatbot odpoví, agent práci udělá

Nejdřív si ujasněme, o čem se vlastně mluví. Klasický chatbot, jak ho známe z nástrojů typu ChatGPT nebo Gemini, odpoví na otázku a čeká na další. Agentní AI (v angličtině agentic AI) je o krok dál: dostane cíl, rozdělí si ho na dílčí kroky, vybere si správné nástroje, práci vykoná a pak se podívá, jak dopadla — a případně se opraví. Představte si to na účetní, která denně zpracovává desítky faktur. Klasický robot ji zvládne pomoct jen u přesně daných, neměnných úkonů. Agentní systém si naopak sám přečte e-mail s fakturou, porovná ji s objednávkou, podle pravidel rozhodne, zda ji zaúčtuje, a u nejasných případů ji předá člověku. „Tvrdou“ práci odvede sám a na člověka zůstane kontrola a rozhodování. Právě tady je důležitý rozdíl oproti minulosti. Firma nemusí měnit všechny své systémy — dobrý agentní nástroj se napojí na to, co už používá: na účetní program, e-mail, zákaznický systém nebo databázi.

„Řízená“ AI: pravidla, audit a zodpovědnost

Klíčové slovo, které Mobcoder i další dodavatelé v poslední době zdůrazňují, je governance, tedy správa a dohled. Zjednodušeně jde o odpověď na tři otázky: co smí AI dělat, k jakým datům se smí dostat a kdo za ni nese odpovědnost, když něco pokazí. Proč na tom najednou tolik záleží? Protože agentní systémy dokážou samy odeslat zprávu, přistoupit k finančním údajům nebo schválit nákup. Když takový systém udělá chybu, nestačí se vymluvit na „špatný model“ — musí být jasné, kdo rozhodnutí schválil a podle jakých pravidel. V praxi to znamená záznamy o každém kroku (takzvaný audit trail), omezení toho, co smí agent udělat bez lidského souhlasu, a pravidelné kontroly, jestli se model nechová jinak, než měl. Technicky se tu skloňuje i pojem governed LLM, tedy „řízený jazykový model“. Nejde o nový typ modelu, ale o to, že kolem něj existuje vrstva pravidel — od šifrování dat přes kontrolu výstupů až po možnost zpětně dohledat, proč model odpověděl zrovna tak.

Proč to teď zajímá i české firmy

Tady se dostáváme k tomu, proč tahle zpráva z USA vůbec něco znamená pro Česko. Od 2. srpna 2026 totiž v celé Evropské unii platí povinnosti pro takzvané vysoce rizikové systémy umělé inteligence podle aktu o umělé inteligenci (EU AI Act). To se týká i českých firem, které takové systémy vyvíjejí nebo používají — například při náboru zaměstnanců, hodnocení úvěruschopnosti nebo v některých oblastech zdravotnictví a veřejné správy. Součástí povinností je i povinnost vést záznamy o tom, jak AI rozhoduje, a zajistit lidský dohled. Za nejzávažnější porušení hrozí pokuta až 35 milionů eur (v přepočtu zhruba 875 milionů korun) nebo 7 procent celosvětového ročního obratu — podle toho, co je vyšší. Druhý, méně viditelný důvod je takzvaná stínová AI. Podle průzkumu, na který dodavatelé v oboru odkazují, používá zhruba 78 procent kancelářských pracovníků v práci nástroje AI, které jejich zaměstnavatel neschválil ani nekontroluje. Firmy tak často nevědí, jaká data jim přes veřejné chatboty „utéčou“. Tady platí i evropské GDPR, které u úniku osobních údajů vyžaduje nahlášení do 72 hodin. Zajímavý je i nesoulad mezi tím, jak rychle firmy agentní AI nasazují, a tím, jak málo ji řídí. Zpráva Deloitte, na kterou se v oboru běžně odkazuje, uvádí, že 74 procent firem plánuje nasazení agentní AI, ale jen 21 procent má nastavenou zralou správu a dohled. Přesně tahle mezera je teď hlavním tématem.

Kdo za tím stojí a co vlastně oznámil

Mobcoder AI je americká vývojářská firma, která vyrostla z původního studia na mobilní aplikace a dnes nabízí zakázkový vývoj AI pro střední a velké podniky — od finančnictví přes logistiku až po veřejný sektor. Patří mezi oficiální partnery OpenAI a Amazonu (AWS) a mezi její reference patří projekty z finančního sektoru a státní správy. Konkrétní zpráva, na kterou reagujeme, vyšla jako placený příspěvek na USA Today — nejde tedy o redakční článek, ale o firemní oznámení. Mobcoder v něm popisuje, že rozšiřuje služby v oblasti „řízené“ agentní AI a firemních jazykových modelů, a zmiňuje i nasazení v oboru federálního stavebnictví ve Spojených státech. Pro českého čtenáře je důležité hlavně to, že firma nenabízí žádný hotový produkt s ceníkem — jde o zakázkovou službu, kde se cena odvíjí od rozsahu projektu. Bezplatná verze nebo pevné měsíční předplatné tu neexistuje a česká lokalizace ani podpora v češtině nejsou oficiálně deklarované. To neznamená, že by téma bylo pro Česko okrajové. Podobné „řízené“ přístupy dnes nabízejí i evropští a čeští dodavatelé a velcí hráči (Microsoft, Google, OpenAI) zabudovávají prvky dohledu do svých podnikových nástrojů. Pro českou firmu je tak zpráva spíš signálem, kam se trh ubírá, než důvodem volat do Seattlu.

Vyplatí se do toho malé firmě jít?

Upřímně: pro malou firmu nebo živnostníka je dnes agentní AI většinou zbytečná. Pokud nemáte stovky opakujících se úkonů, které se dají bezpečně automatizovat, vrátí se vám spíš běžné nástroje — kvalitní chatbot na psaní textů, asistent na e-maily nebo hotové nástroje pro účetnictví, které už dnes češtinu umí. Smysl dává agentní AI teprve tam, kde existuje velký objem opakované práce a zároveň jasná pravidla, podle kterých se má rozhodovat. A především: než firmě cokoli agentního povolíte, měla by mít odpověď na otázku, kdo za chybu systému zodpovídá. To je vlastně celá pointa oné „řízené“ AI — a také důvod, proč na ni od srpna 2026 v Evropě nová pravidla míří.