AI agentům nestačí heslo. Firmy musí hlídat jejich digitální identity

Pro běžného uživatele to zní jako vzdálený problém velkých korporací. Ve skutečnosti se stejný princip objevuje i v malém studiu nebo e-shopu. Automat, který třídí objednávky, propojení mezi fakturačním systémem a bankou nebo chatbot napojený na interní dokumenty mají nějaký účet a nějaké oprávnění. Pokud se nikdo neptá, proč je potřebují, vzniká digitální klíč bez jasného majitele.

Ne-lidská identita není jen robot

Termín ne-lidská identita (non-human identity, NHI) označuje digitální identitu, která nepatří konkrétnímu člověku. Může jít o API klíč, servisní účet, cloudovou aplikaci, automatizovaný skript nebo nově AI agenta. Identita je v tomto kontextu jednoduše způsob, jak systém pozná, kdo žádá o přístup a co smí udělat.

Rozdíl proti klasické automatizaci je u agenta důležitý. Skript obvykle opakuje předem dané kroky. Agent dostane cíl, vyhodnotí situaci a s využitím připojených nástrojů zvolí další akci. Když má oprávnění zapisovat do CRM, posílat e-maily nebo upravovat soubory, může tyto operace provádět rychleji, než je člověk stihne zkontrolovat.

Popis hodinového webináře BankInfoSecurity, který připravila Okta, uvádí, že strojní identity mohou ve firmách početně převyšovat lidské uživatele v poměru 100 ku 1. Toto číslo není univerzální měření všech českých firem, ale dobře ukazuje měřítko problému: zaměstnanci vidí jen malou část účtů, které v organizaci skutečně něco dělají.

Největší riziko vzniká v zapomenutém přístupu

U lidského účtu většinou víme, komu patří. Když člověk odejde z firmy, účet lze zablokovat. U automatického účtu bývá situace méně přehledná. Vytvořil ho bývalý dodavatel, vývojář nebo tým, který už používá jinou aplikaci? Kde je uložený jeho klíč? Co se stane, když se změní heslo nebo skončí smlouva s cloudovou službou?

Ještě složitější je takzvaná stínová AI. Tím se myslí používání AI nástrojů bez vědomí nebo schválení IT oddělení. Grafik si například propojí veřejného asistenta s firemním úložištěm, obchodník nechá AI automaticky zpracovávat kontakty a tým si vytvoří vlastního agenta v nástroji, který nikdo jiný nespravuje. Úmysl může být zcela praktický, ale organizace pak neví, jaká data odcházejí ven a kdo může automatizaci vypnout.

Nejde přitom jen o útok zvenčí. Chybná konfigurace je dostatečný problém sama o sobě. Agent, který měl pouze navrhnout odpověď, může omylem získat právo e-mail skutečně odeslat. Systém určený k sumarizaci faktur může dostat přístup k celé účetní databázi. Čím více nástrojů je propojeno, tím hůře se vysvětluje, proč konkrétní akce proběhla.

Co by měla firma změnit ještě před nasazením agenta

První krok není nákup dalšího nástroje, ale inventura. Každá firma by měla mít seznam automatických účtů a u každého odpovědi na několik jednoduchých otázek:

• Kdo identitu vytvořil a kdo za ni dnes odpovídá?
• Ke kterým systémům a typům dat má přístup?
• Je přístup omezený jen na konkrétní úkol a dobu?
• Kde se zaznamenává, co agent udělal?
• Jak se účet nebo klíč okamžitě zablokuje?

Praktické pravidlo zní nejmenší nutné oprávnění. Agent pro třídění zpráv nepotřebuje právo mazat schránku. Nástroj pro návrhy grafických podkladů nepotřebuje přístup k mzdovým dokumentům. Když je možné akci pouze navrhnout a nechat ji potvrdit člověkem, je to u citlivých operací bezpečnější než plná autonomie.

Důležitá je také dohledatelnost. Log, tedy záznam činnosti, by měl ukázat nejen výsledek, ale i použitou identitu a čas. U agenta je užitečné evidovat také zdrojový požadavek, použité nástroje a osobu, která schválila rizikovou akci. Bez těchto informací se hledá příčina chyby podobně obtížně jako ve složitém grafickém souboru bez vrstev.

Evropská pravidla pomáhají, ale nenahradí správu účtů

České firmy se nemohou spoléhat na to, že bezpečnost vyřeší samotný AI Act. Evropská komise uvádí, že nařízení se obecně uplatňuje od 2. srpna 2026. Pravidla pracují s mírou rizika, požadují mimo jiné transparentnost u vybraných systémů a u vysoce rizikových použití počítají s řízením rizik, záznamy, lidským dohledem a kybernetickou bezpečností.

To neznamená, že každý AI agent v české kanceláři automaticky spadá do nejpřísnější kategorie. Konkrétní povinnosti závisí na účelu a způsobu použití. Provozní závěr je ale užitečný i bez právnického výkladu: firma by měla vědět, jakou roli agent plní, jaká data zpracovává a kdo kontroluje jeho rozhodnutí. To se hodí kvůli bezpečnosti, ochraně osobních údajů i případnému auditu.

Výhodou pro české uživatele je, že tento přístup není vázán na jeden jazyk ani konkrétní značku. Webinář je v angličtině a stránka neuvádí české titulky ani lokalizaci; jeho doporučení však lze použít u českého Microsoftu 365, Google Workspace, helpdesku i vlastního interního nástroje. Samotný záznam je dostupný na vyžádání po registraci a veřejná cena na stránce uvedena není. Nejde tedy o spotřebitelskou aplikaci, kterou si člověk stáhne a začne okamžitě používat.

Má smysl webinář sledovat?

Pro domácnost, která používá AI jen k napsání textu nebo úpravě obrázku, není hodinový bezpečnostní webinář nutností. Jiná situace nastává ve chvíli, kdy asistent získá přístup k poště, cloudu, objednávkám nebo firemnímu softwaru. Tehdy je otázka identity důležitější než výběr nejchytřejšího modelu.

Za nejrozumnější považuji začít malým pilotem. Vyberte jeden pracovní postup, popište jeho oprávnění, zapněte logování a předem určete, kdy musí zasáhnout člověk. Teprve potom přidávejte další systémy. Agent může ušetřit čas, ale jen pokud jeho digitální klíč nezůstane bez dozoru. Užitečná automatizace není ta, která smí všechno, nýbrž ta, u které přesně víme, co smí udělat a proč.