72 % nemocnic nasazuje AI nástroje bez schválení IT oddělení

Nejdřív si ujasněme, co je „agentní AI“

Běžná umělá inteligence, se kterou si dnes píšete v chatu, odpovídá na dotaz a je hotovo. Agentní AI (anglicky agentic AI) je o krok dál: dostane cíl a sama rozhoduje o jednotlivých krocích, jak ho splnit. Nejen napíše shrnutí, ale rovnou zruší schůzku, odešle objednávku nebo doplní záznam do systému — s minimálním zásahem člověka.

V nemocničních systémech (takzvaných EHR, elektronických zdravotních záznamech) to zní lákavě. Lékaři tráví hodiny administrativou, kterou by mohl odvést automat. Jenže zrovna tady se kouzlo mění v riziko: agent se pohybuje v datech o vašem zdraví a jeho chyba nemusí být jen nepříjemná, ale rovnou nebezpečná.

Čísla, která by měla zneklidnit

Průzkum agentur Vanson Bourne a Imprivata, zveřejněný 15. září 2026 pod názvem „The Agentic AI Trust Gap“, se ptal 250 amerických vedoucích pracovníků ve zdravotnictví. Výsledky ukazují, jak rychle se nástroje šíří — a jak pomalu za nimi dohání kontrola.

Celkem 28 % organizací už má agentní AI v ostrém provozu a dalších 44 % ji pilotuje. 88 % dotázaných očekává, že agenti budou jednat s určitou mírou autonomie v klinických i provozních procesech. Paradoxní je, že 86 % z nich tvrdí, že si je „docela jistých“, že činnost agentů dnes umí plně řídit — a přitom 72 % přiznává, že některé nástroje běží bez souhlasu IT.

Více než polovina (57 %) řadí bezpečnost mezi tři hlavní obavy. Konkrétně jim vadí, že agenti, kteří komunikují s klinickými systémy, mívají přehnaný nebo zbytečný přístup k datům.

Shadow AI — nástroj, o kterém IT vůbec neví

Tomuhle jevu se říká shadow AI, tedy „stínová AI“: zaměstnanci si nástroj nasadí sami, protože jim ušetří práci, a obejdou přitom firemní pravidla. Ve zdravotnictví je to dvojnásob citlivé, protože agent se může opřít o veřejné AI platformy a odnést část citlivých dat mimo zabezpečenou síť nemocnice.

Jeden z účastníků průzkumu, vedoucí z nemocnice se 500 až 749 lůžky, popsal reálnou příhodu: jejich systém autonomně exportoval údaje o pacientech v dávkách. Na anomálii se přišlo jen díky auditním záznamům. „Proto si troufneme nasazení AI rozšiřovat, až když je náš monitoring dostatečně zralý,“ citovala zpráva.

Není to jen americký problém. Garry Edwards z nakladatelství Wolters Kluwer Health upozornil, že AI nástroje pronikají do klinik rychleji, než je organizace stačí řídit. A Lily Liu ze západní nemocnice v australském Melbourne prozradila, že zhruba 800 jejich zaměstnanců používalo neschválenou AI.

Co agenti v nemocnicích skutečně umí

Abyste viděli, že nejde jen o hypotetické obavy, stačí se podívat, co dodavatelé předváděli už na konferenci HIMSS25. Společnost Epic ukázala asistenta po operaci zápěstí: kontaktuje pacienta hlasem i obrazem, zeptá se na hojení, nechá si poslat fotku nebo video, a porovná rozsah pohybu s podobnými pacienty ve své databázi Cosmos. Když zjistí, že se pacient hojí skvěle, navrhne zrušit kontrolní termín — ale zrušení pošle k potvrzení člověku.

InterSystems ve svém systému IntelliCare nechává AI automaticky psát souhrny z anamnézy a předvyplňovat kódy pro účtování. eClinicalWorks nasadil nástroj, který vytahuje údaje z příchozích dokumentů (PDF, fax) — s přesností 75 až 85 %. athenahealth zase sází na agenty Salesforce Agentforce pro shrnutí z hospitalizace, zmeškané návštěvy a objednávky léků.

Všimněte si společného jmenovatele: dodavatelé nechávají agenty zatím hlavně u administrativy a provozu, nikoli u klinických rozhodnutí. Právě tam je největší úspora času a zároveň nejmenší riziko pro pacienta.

Proč to řeší i Evropa a Česko

Průzkum je sice americký, ale otázka „kdo hlídá AI ve zdravotnictví“ platí i u nás. Evropský akt o umělé inteligenci (AI Act) řadí řadu zdravotnických systémů mezi vysoce rizikové: konkrétně nástroje pro třídění pacientů na urgentním příjmu, hodnocení nároku na zdravotní služby nebo oceňování rizika ve zdravotním pojištění.

Pro takové systémy platí přísné povinnosti — dokumentace, řízení rizik, vedení záznamů o činnosti a především možnost lidského dohledu. Povinnosti pro vysoce rizikovou AI podle seznamu v příloze III začnou platit od 2. prosince 2027. Pro české nemocnice a firmy, které by chtěly agenty nasadit, to znamená: počítat s tím, že u citlivých úkonů bude nutné doložit, kdo má přístup k čemu a jak se činnost agenta kontroluje.

Sean Kelly, hlavní lékařský ředitel Imprivaty, to shrnul do jedné věty, která platí i mimo nemocnice: „S agentem by se mělo zacházet jako s řízenou digitální identitou — s přístupem odpovídajícím jeho roli, jasnými limity a záznamem činnosti, který lze sledovat a auditovat.“

Co si z toho vzít

Jako pacient nejspíš neovlivníte, jaké systémy vaše nemocnice nasadí. Můžete ale dát pozor na jednu věc: když vám jakýkoli AI nástroj slíbí rychlejší vyřízení, ptejte se, kde končí vaše data a kdo k nim má přístup. Slušná instituce na tuhle otázku umí odpovědět.

Pokud AI agenty používáte v práci — klidně v grafickém studiu, e-shopu nebo účetnictví — platí stejná logika jako v nemocnici, jen v menším měřítku. Dejte agentovi jen tolik práv, kolik skutečně potřebuje ke konkrétnímu úkolu, a nenechávejte ho pracovat s citlivými daty, aniž byste měli možnost zpětně vidět, co dělal. Úspora času za to stojí, ale jen tehdy, když víte, co se děje pod kapotou.