Je to skutečný AI agent, nebo jen přelepená automatizace? Pět otázek, které to prozradí

Nezačínejte názvem produktu, ale jeho architekturou

Otevřete si web prakticky jakéhokoli dodavatele podnikového softwaru a téměř jistě na něm nad titulkem najdete slova „poháněno AI". Tvrdí to dnes skoro každý, a proto to přestalo cokoli znamenat. Analytická společnost Gartner pro postup, při kterém se konvenční automatizace založená na pravidlech převléká za autonomního agenta, zavedla výstižný termín „agent washing". Na problém upozorňuje i analýza „The Architecture Test" od Hatem Ayada, technického ředitele společnosti Clarvos. Pro zákazníka nejde jen o akademické rozlišení. Právě podle této nálepky dnes firmy schvalují rozpočty, vybírají dodavatele a očekávají určitou míru samostatnosti. Název produktu přitom sám o sobě neříká, zda systém skutečně plánuje další kroky, používá nástroje a reaguje na nečekané situace, nebo pouze spouští předem napsané scénáře. Proto má smysl hodnotit řešení podle jeho mechanismu, nikoli podle toho, kolikrát se v prezentaci objeví slovo „agent". V roce 2026 se taková kontrola stává základní součástí technologického nákupu.

První kontrola: co systém udělá mimo připravený scénář

Klasická automatizace, ať už vypadá její rozhraní sebevíc moderně, často stojí na pravidlovém enginu, který si pokládá otázku „jaké předepsané pravidlo se má při tomto vstupu spustit?". Překročí zájemce hranici skóre? Odejde e-mail. Splní zákazník tři konkrétní kroky? Spustí se sekvence. Každé z těch pravidel napsal lidský inženýr, který přesně tenhle scénář předem předvídal. Tenhle přístup dokáže bezchybně zvládat známé situace. Při neznámém vstupu může podle návrhu použít záložní postup, předat případ člověku, nebo situaci zpracovat jiným předem definovaným způsobem. Pokud žádný odpovídající postup neexistuje, musí se inženýr vrátit do systému a pravidla doplnit. Při hodnocení produktu proto nestačí ukázka ideálního pracovního postupu. Dodavatel by měl předvést také chování při neúplných datech, konfliktu instrukcí nebo nečekaném výsledku nástroje. Agentní systém se oproti tomu otáčí kolem jiné otázky: „vzhledem ke svému cíli, aktuálnímu kontextu a dostupným nástrojům — co mám udělat dál?" Agentní systémy obvykle kombinují model, nástroje, stav a řídicí logiku. Mohou si držet cíl, pracovat s nástroji a informacemi, které mají k dispozici, a podle výsledků volit další krok. Jejich míra autonomie se však liší a bývá omezena předem stanovenými pravidly, schvalováním nebo dohledem člověka; agent proto nemusí vždy samostatně měnit směr. V praxi většina produkčních systémů kombinuje deterministické řízení s cílově orientovaným uvažováním. Podstatný je ale posun v mechanismu, ne jen v marketingu.

Proč je ověřování nabídky naléhavé právě teď

Tempo, jakým firmy agentní systémy nasazují, vysvětluje, proč je důkladné prověření nabídky tak naléhavé. Gartner očekává, že do konce roku 2026 bude 40 % podnikových aplikací obsahovat úkolově zaměřené AI agenty — přitom ještě o rok dřív to bylo méně než 5 %. Když poptávka výrazně převyšuje nabídku skutečně schopných řešení, trh se okamžitě zaplaví přebalenými starými produkty s novou nálepkou. Pro kupujícího to znamená, že běžná prezentace funkcí nestačí. Je nutné porovnat, co je v produktu nového, jaké úkoly opravdu zvládne bez ručního zásahu a zda by stejný výsledek neobstarala automatizace, kterou už firma používá.

95 % pilotů selhává — a obvykle to není vinou modelu

Mezi marketingovým humbukem a skutečně dodanou hodnotou přitom může vzniknout propastná mezera. Studie iniciativy MIT NANDA z července 2025 podle zprávy o tomto reportu uvádí, že 95 % pilotních projektů s generativní AI nedokázalo dodat měřitelný dopad na hospodářský výsledek, přestože do nich organizace dohromady nalily 30 až 40 miliard dolarů. Report jako jeden z významných faktorů neúspěchu popisuje integraci do pracovních postupů, nikoli pouze kvalitu modelu. Nejde však o jednoznačně prokázaný obecný fakt pro všechny AI projekty. Samotné testování modelu bez integrace do konkrétního pracovního postupu nemusí přinést měřitelnou návratnost. Podobně mluví i Gartner: agentní projekty by mohly do roku 2027 vykazovat míru selhání přes 40 %, pokud organizace před škálováním nesladí správu a návratnost investice. Při výběru proto nestačí žádat přístup k demu. Firma by si měla předem stanovit měřitelný úkol, náklady na jeho zpracování a podmínky, za kterých pilot ukončí. Přijetí dostupné technologie totiž není totéž jako její promyšlené a správné nasazení uvnitř firmy.

Soukromí: zeptejte se, kam tečou vaše data

Samostatná kapitola je to, kam putují data, která do systému zadáte. Prompty posílané do externě hostovaných modelů opouštějí hranice vaší infrastruktury, pokud je neprovozujete v soukromém prostředí. Ujištění prodejců, že data zákazníků neslouží k trénování, jsou běžná — jenže popisují politiku, nikoli architekturu, a politika se může změnit. Při jednání proto chtějte konkrétní odpověď: kde se data ukládají, kteří zpracovatelé k nim mají přístup, jak dlouho se uchovávají, jak jsou šifrována a zda se používají k trénování modelů; samotné cloudové zpracování přitom nemusí být problém, pokud dodavatel tyto podmínky jasně popíše. Nejde o strašení. Právě nalévání firemního zdrojového kódu do veřejného chatbotu byl v roce 2023 případ, kdy inženýři Samsungu omylem odhalili proprietární algoritmy a kód. Novější průzkumy pak ukazují, že chování přetrvává: výzkumníci odhadují, že zhruba 4,7 % zaměstnanců už vložilo důvěrné informace do veřejného velkého jazykového modelu, a přibližně 11 % veškerého obsahu, který zaměstnanci do chatbotů zadávají, je důvěrné povahy. Žádná vnitřní politika tuhle mezeru úplně nezavře, pokud je poslední obrannou linií každý jednotlivý zaměstnanec. A dohání to i regulace. Od 2. srpna 2026 se podle harmonogramu AI Act začne používat většina jeho zbývajících ustanovení. Konkrétní povinnosti české firmy se však odvíjejí od její role, typu používaného systému a jeho klasifikace podle AI Act. U vysoce rizikových systémů mohou relevantní povinnosti zahrnovat například požadavky na řízení rizik, kvalitu dat, technickou dokumentaci, záznamy, transparentnost nebo lidský dohled; nelze je shrnout obecným tvrzením, že všechny musí doložit data a místo zpracování. Před nasazením je proto vhodné konkrétní situaci konzultovat s právníkem nebo odborníkem na regulatorní compliance. Soukromě hostované, specializované modely tu administrativu automaticky neodstraní, ale mohou omezit tok interních dat k třetí straně.

Kontrolní seznam pro jednání s dodavatelem

Jak tedy v praxi poznat, jestli před vámi stojí skutečný agent, nebo jen drahý nátěr? Podle analýzy, ze které vycházíme, se vyplatí požádat dodavatele o konkrétní odpovědi na pět věcí:

• Cíle versus pravidla. Co systém udělá, když narazí na vstup, na který nebyl navržen? Pravidlový engine může použít záložní postup, předat případ člověku nebo provést jinou předem definovanou akci. Agent může podle své architektury přehodnotit cíl a zvažovat dostupné kroky, ale jeho autonomie může být omezena pravidly a dohledem.
• Hostování a specializace modelu. Jsou podkladové modely specializované na vaši oblast a kde běží? Tato otázka odpoví zároveň na schopnosti i na ochranu dat.
• Paměť a kontext. Pamatuje si systém kontext vaší organizace napříč interakcemi, nebo každou relaci bere jako novou? Trvalá paměť je volitelná vlastnost agentního systému. Může pomáhat s kontextem, sama o sobě však neznamená, že se systém učí nebo se zlepšuje.
• Práce s halucinacemi. Jak systém chybné výstupy odhaluje a omezuje dřív, než se dostanou do ostrého procesu?
• Auditovatelnost a pozorovatelnost. Lze každý výstup vystopovat k použitým vstupům, nástrojům, provedeným akcím a výsledkům? A byl výkon systému otestován nezávislou třetí stranou, ne jen vlastním interním žebříčkem? Interní řetězec uvažování nemusí být dostupný ani vhodný k publikování.

Nezapomeňte spočítat cenu každého dalšího kroku

V porovnávání schopností se často ztrácí cena — a právě ta je přitom rozhodující. Velcí poskytovatelé účtují předplatné a poplatky za každý token, tedy za každou jednotku zpracovaného textu. Každá nová generace modelu, každá iterace, kterou potřebujete k přijatelnému výstupu, a každý složitější vícekrokový úkol spotřebovává tokeny navíc. K tomu se přidávají stropy využití, které začnou tvořit provozní úzké hrdlo ve chvíli, kdy se na AI začnete spoléhat ve většině pracovních postupů. Nabídka typu „AI agent za pár stovek měsíčně" proto nemusí popisovat celkové náklady. Do rozpočtu patří také připojení k podnikovým systémům, dohled člověka, testování, zabezpečení a případné poplatky za model. Pokud si modely postavíte a hostujete sami, nahradíte proměnlivé náklady za spotřebu něčím, co připomíná spíš základní výdaje na infrastrukturu. Pro malou firmu to samozřejmě není automatická volba — vyžaduje to vlastní odbornost — ale je dobré porovnávat celkové provozní náklady, ne pouze cenu licence.

Rozhodujte podle ověřitelného přínosu

Můj závěr je opatrný, ale ne odmítavý. Skuteční agenti umějí ušetřit hodně času — jen je potřeba vědět, co kupujete, a neplatit za nálepku. Než podepíšete smlouvu, položte dodavateli pět otázek výše, vyžádejte si praktickou ukázku nečekané situace a hlavně si ověřte, kam tečou data. Požadujte informace o jejich umístění, zpracovatelích, retenční době, šifrování a použití k trénování; cloudové zpracování samo o sobě nemusí být důvodem nabídku odmítnout. Samotný název „agent" nedokládá vyšší míru autonomie. Je nutné ověřit konkrétní architekturu a chování systému, včetně toho, jak pracuje s pravidly, nástroji, stavem a dohledem člověka. Pro českou firmu navíc nejde jen o pohodlí uživatelů, ale také o bezpečnost, dohledatelnost a povinnosti podle evropských pravidel.