AI agenti míří do bank. Bez auditní stopy se do provozu nedostanou

Chatbot odpovídá, agent jedná

Chatbot čeká na otázku a vytvoří odpověď. AI agent dostane úkol, rozloží ho na menší kroky a podle nastavených oprávnění pracuje s firemními systémy. Může například projít nové ekonomické zprávy, vyhledat údaje v interní databázi a připravit návrh podkladů pro analytika. U některých úkolů může také spustit akci, třeba založit záznam nebo předat výsledek dalšímu systému.

Rozdíl je důležitý hlavně ve financích. Chyba v textu se dá opravit. Chybný pokyn k platbě, špatně vyhodnocený úvěrový dokument nebo neúplné informace pro klienta mohou mít právní i finanční dopad. Proto nestačí, když agent působí přesvědčivě. Firma musí umět zpětně zjistit, z jakých dat vycházel, jaké nástroje použil a kdo výsledek schválil.

Co brání cestě do provozu

Při převodu agentů z pilotní fáze do ostrého nasazení ve financích se v oboru skloňují čtyři klíčové oblasti. První jsou data. Model může být velmi schopný, ale pokud pracuje se starým ceníkem, neúplnými záznamy nebo dokumenty bez jasného původu, výsledek nebude spolehlivý. U finančních institucí proto nestačí „napojit AI na všechno“. Přístup k jednotlivým zdrojům musí mít hranice a data musí být udržovaná.

Druhou oblastí je kontext. Agent potřebuje vědět, které informace jsou platné, co smí použít a jaký formát má výsledek mít. Třetí oblastí je auditovatelnost. Auditní stopa není jen log serveru. Měla by zachytit zadání, použité zdroje, volání nástrojů i zásah člověka. Čtvrtou oblast tvoří řízení rizik a kontrola přístupu.

Praktický postup je střízlivý. Začít úkolem, který je úzký, opakovatelný a snadno kontrolovatelný. Třeba tříděním příchozích dokumentů nebo vytvořením prvního návrhu rešerše. Teprve po měření chyb a nákladů má smysl přidávat další systémy a povolovat agentovi více akcí. Takový postup je užitečný i pro českou střední firmu, která nemá vlastní tým pro bezpečnost AI.

Evropská pravidla počítají s dohledem

Evropská komise popisuje AI Act jako rámec založený na míře rizika. U vysoce rizikových použití uvádí mimo jiné kvalitní datové soubory, zaznamenávání činnosti, dokumentaci, lidský dohled, přesnost a kybernetickou bezpečnost. Pravidla pro vysoce rizikové systémy v citlivých oblastech, jako je hodnocení úvěruschopnosti fyzických osob, nabíhají postupně v přechodném období podle harmonogramu stanoveného evropskou legislativou. Přehled požadavků je dostupný v oficiálním vysvětlení AI Actu.

To neznamená, že každý interní nástroj banky automaticky spadne do nejpřísnější kategorie. Rozhoduje konkrétní účel a způsob použití. Firma by ale měla klasifikaci řešit dřív, než agent dostane přístup k citlivým datům nebo začne ovlivňovat rozhodnutí o člověku. U českých týmů je navíc potřeba myslet na jazyk. Dostupné modely obvykle češtinu zvládají, ale kvalita se může lišit podle typu dokumentu, oboru a množství odborných zkratek. Test na českých datech je důležitější než obecné tvrzení o schopnostech modelu.

Kolik stojí provoz

U podnikových agentů se cena nepočítá jako u běžné aplikace s jedním měsíčním předplatným. Amazon Bedrock na své cenové stránce uvádí, že závisí na poskytovateli a modelu, regionu, typu služby a spotřebě vstupních a výstupních tokenů. Token je malá část textu, kterou model zpracovává. Agent může při jednom úkolu spotřebovat výrazně více tokenů než obyčejný chatbot, protože si načítá dokumenty, plánuje kroky a volá další nástroje.

Zatímco běžný uživatelský dotaz v konverzačním okně spolyká jen několik stovek tokenů a vyjde na nepatrný zlomek haléře, agentní systém pracuje v opakovaných cyklech. Pokud dostane za úkol zpracovat například dvacetistránkovou smlouvu, porovnat její doložky s interním předpisem a připravit záznam do databáze, spotřeba prudce stoupá. Samotné načtení textu smlouvy představuje 20 až 30 tisíc tokenů. Agent navíc při každém mezikroku znovu odesílá kontext, historii i výstupy z nástrojů, takže na jediný vyřešený úkol může padnout 80 až 120 tisíc tokenů. V přepočtu na ceny pokročilých modelů to znamená náklad od několika desítek haléřů až po nižší jednotky korun za jednotlivý úkon. Při tisících smluv měsíčně už jde o položku, se kterou rozpočet musí přímo počítat.

Pro rozhodování firmy je proto lepší spočítat celkovou cenu jednoho dokončeného úkolu než sledovat pouze nominální ceník tokenů. Do nákladů patří i vektorové úložiště, vyhledávání v dokumentech, monitorovací nástroje a čas zaměstnance, který výsledek reviduje. Levnější model může být v součtu dražší, pokud častěji navrhuje nepřesnosti vyžadující ruční opravu.

Co si z toho může vzít menší firma

Pro běžného živnostníka nebo malý tým není nákup finančního agenta první krok. Nejprve má smysl vyzkoušet běžný nástroj s dokumenty, bez přístupu k účtu, platbám nebo osobním údajům klientů. Vhodná je například interní rešerše, třídění e-mailů nebo kontrola, zda dokument obsahuje všechny povinné části. Výsledek by měl zůstat návrhem, který člověk zkontroluje.

Větší firma by si před pilotem měla sepsat jednoduchou mapu oprávnění: k jakým datům agent vidí, co smí měnit a které kroky vyžadují potvrzení. Součástí má být test s reálnými českými dokumenty, pravidla pro uchování logů a způsob, jak agentovi přístup okamžitě odebrat. Oborovou osvědčenou praxí je také zapojení týmů řízení rizik a compliance už na samém začátku projektu. To je sice méně efektní než rychlá ukázka, ale pro finanční sféru podstatně bezpečnější.

AI agent tedy není hotový zaměstnanec na jedno kliknutí. Je to software s možností plánovat a používat nástroje. Do ostrého provozu patří až tehdy, když firma dokáže jeho práci vysvětlit, zkontrolovat a v případě chyby zastavit.