Od doporučení k akci: Proč je agentní AI zásadně jiná

Dosavadní nasazení umělé inteligence v bankovnictví se točilo hlavně kolem generativních modelů — chatbotů pro zákaznickou podporu, systémů pro sumarizaci dokumentů nebo doporučovacích enginů. Tyto systémy produkují text, návrhy či analýzy, ale konečné rozhodnutí vždy zůstává na člověku. Agentní AI tuto rovnici převrací naruby.

Agentní systémy, jako jsou autonomní agenti od Anthropicu, OpenAI nebo specializované bankovní nástroje, dokážou samostatně provádět vícekrokové operace: přístupují k databázím, upravují záznamy, spouštějí platby, blokují účty nebo aktivují vyšetřování podvodů. A právě v tomto bodě, jak Muraleedharan zdůrazňuje ve své analýze zveřejněné 26. května 2026, tradiční modely dohledu kompletně selhávají.

"Když AI přestane generovat text a začne provádět akce — převádět peníze, zmrazovat účty, zamítat benefity — stará příručka dohledu se rozpadá," napsal Muraleedharan ve svém příspěvku na LinkedIn, o kterém informoval server QA Financial.

Halucinace, která projde bankovním systémem

Největším varováním analýzy je rozdíl mezi halucinací v chatbotu a halucinací v agentním systému. Zatímco špatná rada od chatbota maximálně naštve zákazníka, chyba autonomního agenta může znamenat neautorizovanou transakci, která už proběhla.

"Halucinace v chatbotu = špatná rada. Halucinace v agentním systému = neautorizovaná transakce, která už byla zúčtována," uvedl Muraleedharan doslova. V bankovním prostředí jsou navíc mnohé z těchto akcí prakticky nevratné — jakmile platba odejde nebo je účet zablokován, náprava je složitá, drahá a poškozuje důvěru klientů.

Pro týmy zajišťující kvalitu softwaru (QA) a testování to znamená dramatické rozšíření testovacího perimetru. Už nestačí ověřovat správnost výstupů modelu — je nutné zátěžově testovat eskalační logiku, oprávnění nástrojů, limity autorizace za běhu, API interakce a prahy pro lidský zásah, a to za realistických i útočných podmínek.

Tiché riziko: Compliance drift

Muraleedharanova analýza zavádí pojem "compliance drift" — tiché riziko, kdy autonomní systém postupně vybočuje ze svých původních hranic řízení. Nejde o jednorázový incident, ale o kumulativní efekt desítek drobných změn.

"Systém, který byl při nasazení plně v souladu s předpisy, postupně zavádí nová, nepředvídaná rizika — ne proto, že by se změnil samotný model, ale protože se změnil kontext kolem něj," vysvětluje expert. Měnící se API rozhraní, rozšířené integrace, vyvíjející se chování uživatelů nebo rozšířený přístup k nástrojům mohou postupně měnit efektivní autoritu agenta, aniž by to spustilo jakýkoli konvenční monitoring.

Důsledkem je, že testování před nasazením už samo o sobě nestačí. Banky potřebují kontinuální behaviorální přehodnocování, runtime observabilitu a průběžnou validaci rozhodovacích hranic agentů i dlouho po nasazení do produkce.

Co to znamená pro české banky a evropskou regulaci

Téma je mimořádně aktuální i pro Českou republiku. Česká národní banka (ČNB) v posledních měsících výrazně posílila své AI kapacity — jak informoval CzechCrunch, centrální banka pořídila čipy od Nvidie a spouští na nich modely od OpenAI, Mistralu či Alibaby pro účely dohledu nad finančním trhem. Ironií je, že zatímco regulátor sám nasazuje AI pro kontrolu bank, banky současně zavádějí autonomní systémy, které se tradičním dohledovým mechanismům vymykají.

Evropská unie už na tuto výzvu reaguje. EU AI Act, který vstoupil v platnost, klasifikuje nasazení AI ve finančních službách jako vysoce rizikové a vyžaduje robustní mechanismy dohledu, testování a lidského dozoru. Muraleedharan ve své analýze explicitně zmiňuje regulatorní tlak ze strany EU, ale i dohledových orgánů ve Velké Británii, Singapuru a Spojených arabských emirátech.

"Centrální banky začínají považovat selhání autonomních systémů za události systémového rizika," varuje Muraleedharan. Pro české finanční domy — od velkých bank jako ČSOB, Česká spořitelna či Komerční banka až po fintech startupy — to znamená, že investice do AI governance už není volitelná, ale povinná.

Řízení není překážka, ale podmínka

Analýza končí jasným poselstvím: "Řízení není překážkou pro adopci agentní AI. Je její podmínkou." Muraleedharan navrhuje životní cyklus řízení, který zahrnuje fáze návrhu, vývoje, předprodukčního testování, nasazení, runtime kontrol, průběžného monitorování a případného vyřazení autonomních agentů.

Klíčovým prvkem je adversarial testing — zátěžové testování v sandboxovém prostředí, kde se ověřují eskalační prahy, hranice oprávnění a exekuční cesty ještě před tím, než systém dostane přístup k ostrým bankovním datům. V produkčním prostředí pak musí governance systémy aktivně vynucovat "real-time disciplínu" — omezovat neplánované použití nástrojů a definovat, kdy musí zasáhnout člověk.

Pro české banky z toho plyne jasné doporučení: před každým nasazením autonomního agenta musí existovat ověřený plán řízení, testování a lidského dozoru. Bez něj riskují nejen pokuty od regulátora, ale především důvěru klientů — a ta se v bankovnictví získává roky, ale ztrácí během vteřin.