O co jde: AI, která si projde důsledky, než sáhne na systém
Výzkumníci Sheetal Prasad Kizhakel a Sagar Dhanraj Pande publikovali 29. srpna 2026 v časopise Discover Artificial Intelligence (Springer Nature) studii popisující rámec pojmenovaný CIPHER-A — celým názvem Counterfactual Incident Response Planning with Hallucination-Aware Evaluation and Reasoning—Adaptive. Zjednodušeně jde o agentní AI systém pro automatizovanou reakci na kybernetické incidenty, tedy takzvaný incident response.
Proč je to zajímavé? Dnešní bezpečnostní centra (SOC) válčí se dvěma extrémy. Klasické automatizační platformy SOAR běží podle pevných scénářů — jsou rychlé, ale slepé vůči kontextu. A velké jazykové modely umějí psát chytré analýzy, jenže když je pustíte, aby samy něco blokovaly, občas s jistotou schválí nesmysl. CIPHER-A staví mezi tyto světy most.
Klíčovou novinkou jsou dva mechanismy. První je kontrafaktuální validace: než systém provede nějaký obranný zásah, simuluje si jeho vedlejší dopady. Druhým je adversarial lookahead, tedy předvídání, jak na váš zásah zareaguje útočník. Jinými slovy — AI nehledá jen „co mám teď udělat", ale „co se stane potom, a potom co udělá protivník".
Šachy místo reflexu: jak to funguje zevnitř
Nejlepší přirovnání je šachová partie. Slabá automatika hraje jako začátečník, který vidí jen jeden tah dopředu — sebere pěšce a nevšimne si, že za tři tahy přijde mat. CIPHER-A naopak každý obranný krok prověřuje z pohledu „co kdyby" (kontrafaktuálně) a zároveň modeluje, kam protihráč povede další útok.
V praxi to znamená, že systém uvažuje nad pokročilými trvalými hrozbami, takzvanými APT. To jsou sofistikovaní útočníci, kteří se nenechají odradit jedním zablokovaným serverem. Studie uvádí konkrétní číslo: v simulacích dokázal adaptivní útočník přepnout na záložní řídicí kanál za pouhých 4,7 sekundy poté, co mu byl zablokován ten primární. Tady se ukazuje, proč klasické pevné scénáře selhávají — útočník se přizpůsobí rychleji, než stihnete spustit další krok z playbooku.
Důležité je, že rámec nefunguje na plný automat. Běží v režimu human-in-the-loop, tedy lidští analytici do hry vstupují, ale jen u vybraných, vysoce rizikových akcí. Systém je tedy spíš chytrý filtr, který odfiltruje rutinu a lidem přihraje přesně ty případy, kde se může něco rozbít.
Čísla, která stojí za pozornost
Autoři rámec otestovali na 143 simulovaných incidentech napříč třemi veřejnými datovými sadami kybernetických útoků. Výsledky jsou konkrétní a dají se porovnat:
Nejvýraznější skok je v míře chybných schválení nebezpečných akcí. CIPHER-A vykázal 3,2 %, zatímco konvenční automatizační platformy 22,7 %. To je zhruba sedminásobek — a když si to přepočítáte, mluvíme o relativním poklesu chybovosti kolem 86 %. Přeloženo do běžné řeči: ze sta riskantních kroků by běžná automatika třiadvacetkrát pustila něco, co měl zadržet člověk. CIPHER-A jen třikrát.
Druhý klíčový údaj je doba izolace incidentu. Průměrný čas k zastavení útoku klesl z 14,3 na 8,9 minuty, tedy o více než třetinu. V reálném provozu je rozdíl pěti minut podstatný — právě v nich se rozhoduje, jestli útočník stačí exfiltrovat data, nebo ne.
A třetí číslo ukazuje, že systém umí efektivně rozlišit, kdy má mluvit do hry člověk. K lidskému přezkumu bylo přesměrováno jen 8,3 % akcí, přičemž přesnost tohoto směrování dosáhla 91,7 %. Když se navíc systém utkal s adaptivním protivníkem, který na jeho zásahy reagoval, degradace obranných plánů klesla o 59,2 %.
Proč na tom záleží i u nás
Pro české firmy má tohle téma blízko k realitě. Nová směrnice NIS2 a navazující český zákon o kybernetické bezpečnosti nutí tisíce organizací, aby si nastavily pořádný proces reakce na incidenty. Jenže kvalifikovaných bezpečnostních analytiků je v Česku dlouhodobě málo. Agentní systémy, které zvládnou rutinu a lidskému týmu předloží jen to podstatné, jsou přesně ten typ technologie, který může kapacitní mezeru zmenšit.
Zároveň je třeba být upřímný k limitům. Studie běžela na simulovaných datech, nikoli v ostrém provozu reálného SOC. Tři veřejné datové sady a 143 incidentů je solidní vzorek pro vědecký článek, ale do nasazení u banky nebo výrobního podniku je daleko. A z pohledu EU AI Act spadá autonomní reakce na kyberbezpečnostní incidenty mezi vysoce rizikové systémy — právě proto autoři zdůrazňují lidský dohled jako nutnou podmínku, ne jen marketingovou frázi.
Co si z toho odnést
CIPHER-A nepřichází jako hotový produkt, který si zítra nainstalujete. Je to výzkumný rámec a jeho hlavní hodnota je v něčem jiném: pojmenovává konkrétní minimum pro to, aby autonomní AI směla vůbec sahat na bezpečnostní systémy. A tím minimem je kombinace kontrafaktuálního hodnocení následků před zásahem a modelování útočníka po zásahu.
V souvislosti s aktuálním vývojem agentní AI — kdy modely postupně přestávají jen odpovídat a začínají samostatně plánovat více kroků — je tohle směr, který dává smysl. Ne slepá automatizace, ale AI, která si každý zásah „rozmyslí" a u rizikových kroků se zeptá. Bezpečnostní týmy by si z této studie měly odnést hlavně to, že klíčová otázka není „jak rychle zablokovat", ale „co se stane, až to zablokujeme".
Je CIPHER-A volně dostupný nástroj, který si můžu nainstalovat?
Ne, CIPHER-A je výzkumný rámec popsaný v odborné studii, nikoli komerční produkt. Slouží jako návrh architektury a metoda testování, na které mohou bezpečnostní firmy a výzkumné týmy stavět vlastní implementace.
Může autonomní AI úplně nahradit bezpečnostního analytika?
Podle autorů ne. Rámec běží v režimu human-in-the-loop a lidský dohled nad vysoce rizikovými akcemi je nutnou podmínkou bezpečného nasazení — souhlasí s tím i klasifikace podle EU AI Act, která autonomní reakci na kyberincidenty řadí mezi vysoce rizikové systémy.
Proč je adversarial lookahead tak důležitý?
Protože sofistikovaní útočníci (APT) se adaptují. Studie ukázala, že simulovaný útočník přešel na záložní kanál už za 4,7 sekundy po zablokování toho primárního. Systém, který nepočítá s reakcí protivníka, proto proti nim dlouhodobě selhává, i když je rychlý.
