Agentní AI se neobejde bez řídicí vrstvy. AI Act ji dělá povinnou

Kde agentní AI doopravdy žije

Agentní AI se od obyčejného chatbota liší tím, že odpovídá a zároveň jedná. Napíše zákazníkovi, založí objednávku, přepíše dokument. Jenže tahle schopnost sama o sobě nestačí. Cohen rozděluje podnikový software do tří vrstev.

Nahoře jsou aplikace, se kterými pracují lidé. Zákaznická podpora, CRM, HR, IT servis. Sem patří třeba produkty Salesforce. Uprostřed sedí agentní vrstva, která plánuje, uvažuje a vykonává. Dole je orchestrace, tedy vrstva, která agenty řídí, propojuje a hlídá.

Cohenova teze je jednoduchá: rozhoduje spodní vrstva. Bez ní se horní dvě nedají škálovat, řídit ani potvrdit auditem. Firma se může chlubit hezkým agentem v aplikaci, ale když neumí odpovědět na pět otázek, je v koncích.

Za poslední dva roky sledovali investoři, jak firmy s vidinou rychlého zisku honí každou novou agentní funkci. Cohen tvrdí, že konverzace se přesouvá. Už nejde o to, kdo má nejlepší demo agenta, ale kdo má architekturu, na které se agenti dají reálně provozovat ve velkém. Tohle přenesení pozornosti rozhoduje o tom, kdo vyhraje.

Pět otázek, které rozhodnou o nasazení

Cohen je vyjmenovává bez obalu. Můžu to řídit? Můžu to auditovat? Můžu to integrovat? Můžu tomu věřit? Můžu to škálovat? Když firma odpoví na jedinou z nich „ne", agentní AI zůstává v pilotu.

Přirovnání k autu sedí. Karoserie a motor jsou aplikace a agenti, které vidíte. Řízení a brzdy jsou orchestrace. Auto bez brzd vypadá pořád jako auto, ale nikdo rozumný by s ním nevyjel. V podniku platí totéž: agent, jehož kroky neumíte zastavit ani zpětně dohledat, je riziko, ne úspora.

Posun je vidět na tom, kdo dnes o AI v podnicích rozhoduje. Nejsou to koncoví uživatelé, kteří dostanou e-mail napsaný agentem. Jsou to CIO, CTO, podnikoví architekti, týmy pro správu dat a compliance. Lidé, kteří nesou odpovědnost, když se agent splete.

AI Act tu vrstvu dělá povinnou

Pro české firmy má tahle debata konkrétní dopad. Evropské nařízení o umělé inteligenci, AI Act, požaduje u rizikových systémů transparentnost, dohled člověka, vedení záznamů a auditovatelnost. To je přesně to, co Cohen popisuje jako orchestrační vrstvu.

V EU proto není otázka „máme na to architekturu?" volitelná. U nasazení, které spadá pod pravidla AI Actu, firma musí umět prokázat, co agent udělal, proč to udělal a kdo za to nese odpovědnost. Kdo koupí agenta jako funkci navíc a nemá pod ním vrstvu pro řízení a logování, narazí při první kontrole.

Dopad se týká i menších českých firem. Nemusejí stavět vlastní orchestrační vrstvu od nuly, musejí se ale po dodavateli ptát, jestli ji jejich nástroj má. Otázky se nemění: loguje se každý krok? Jde spuštění zastavit? Jde výsledek zpětně zkontrolovat?

Na co se ptát, než agenta pustíte do provozu

Z Cohenovy analýzy se dá složit krátký nákupní checklist. Před podpisem smlouvy se vyplatí po dodavateli chtít odpovědi na pět věcí. Kdo drží řízení, když se agent zasekne? Vede se auditní záznam všech kroků? Napojí se nástroj na stávající systémy bez bourání? Jak se ověřuje, že agent postupuje správně? A co se stane, když potřebujete nasazení rozšířit z deseti uživatelů na tisíc?

Pokud dodavatel mluví hlavně o tom, jak hezky agent píše e-maily, je to varování. Schopnost agenta je totiž to nejméně zajímavé. Rozhoduje to, co je pod ním. Tam podle Cohena zatím vede IBM, zatímco Salesforce dominuje aplikační vrstvě a ServiceNow se posouvá v agentní vrstvě.

Cohen to uzavírá střízlivě. Deset let podnikové digitalizace bylo jen předmluvou. Dashboardy, workflow a zákaznické cesty nebyly základem, ale jeho projevem. Teď se mění sám základ.