AI asistenti pro lékaře mají jednoduchý úkol: poslouchat rozhovor mezi lékařem a pacientem, vytvořit přepis a následně z něj připravit strukturovaný zápis do zdravotní dokumentace. Lékař tak nemusí po každé návštěvě několik minut ručně sepisovat, co se řešilo, jaké léky pacient užívá a jaký bude další postup.
V praxi ale nejde jen o obyčejné diktování. Moderní AI scribe, tedy „digitální zapisovatel“, se pokouší z rozhovoru vybrat podstatné informace, rozdělit je do částí lékařského záznamu a někdy je propojit s konkrétními poli v elektronické kartě. Právě tady vzniká další prostor pro chyby. Systém nejen přepisuje slova, ale také interpretuje jejich význam.
Jeden chybný výraz může změnit význam celého nálezu
Healthwatch England popsal případ, kdy AI v lékařském zápisu zaměnila formulaci „null demyelination“, tedy informaci o negativním nálezu, za slovo „demyelination“. Z věty, která měla říkat, že se určitý nález nepotvrdil, tak vznikla informace naznačující závažnou diagnózu.
V jiném případu AI scribe zaměnil lék předepsaný praktickým lékařem za jiný přípravek s podobně znějícím názvem. Chybu odhalil až pacient. Podobně byly zaznamenány případy, kdy systém vynechal instrukce týkající se opakovacího receptu.
To je důležitý detail. Nejde pouze o chybu v dokumentu, který zůstane někde v archivu. Zdravotní záznam může být použit při další návštěvě, v nemocnici nebo při předávání pacienta jinému specialistovi. Nesprávný údaj se pak může chovat jako špatně nastavená proměnná v programu: jednou se do systému dostane a začne ovlivňovat další kroky.
Celé zjištění zveřejnil deník The Guardian na základě upozornění Healthwatch England. Podle článku se v Anglii používá už 27 různých AI přepisovacích nástrojů v ordinacích praktických lékařů i v nemocnicích.
Proč lékaři chyby někdy neodhalí
Oficiální pravidlo je zdánlivě jednoduché: lékař musí výstup AI zkontrolovat a ověřit předtím, než se použije v péči o pacienta. Potvrzuje to také britská Medicines and Healthcare products Regulatory Agency.
Jenže kontrola v reálném provozu není totéž jako důkladná jazyková korektura. Lékaři pracují pod časovým tlakem, mezi jednotlivými pacienty řeší administrativu a často předpokládají, že nástroj správně zachytil alespoň základní fakta. Healthwatch upozorňuje, že chyby ve výsledku odhalují především samotní pacienti, zatímco zdravotníci někdy zápis podepíší bez podrobného čtení.
Je to trochu podobné jako automatický přepis porady ve firmě. Pokud AI špatně zapíše název projektu, může vzniknout nepříjemný zmatek. V medicíně však podobná chyba nemusí znamenat jen další e-mail. Může změnit informaci o léčbě, diagnóze nebo dalším vyšetření.
AI scribe není zdravotnický prostředek v každém případě
Regulační problém spočívá v rozdílu mezi administrativní a klinickou funkcí. Pokyny MHRA rozlišují nástroje, které pouze přepisují, sumarizují rozhovor, připravují návrh dopisu nebo navrhují klinické kódy k následné kontrole, a systémy, které přímo podporují diagnostiku, léčbu či prevenci.
Čistě administrativní AI scribe není podle současného britského rámce automaticky klasifikován jako zdravotnický prostředek. To znamená, že na něj nedopadá stejný typ celostátního dohledu nad bezpečností a účinností jako na nástroj určený přímo k diagnostice nebo léčbě. Pokud ale systém sám doporučuje léčebný postup nebo provádí automatické akce bez kontroly lékaře, jeho regulační status se mění.
MHRA zároveň zdůrazňuje, že odpovědnost za kontrolu výstupů zůstává na zdravotníkovi. Pokyny tedy neříkají, že lékař může zápis bez kontroly převzít. Spíše vymezují, kde končí administrativní pomoc a začíná klinický nástroj.
Kanadský test: chyby se objevily u všech prověřovaných systémů
Nejde přitom o izolovaný britský případ. V kanadském Ontariu úřady v květnu 2026 upozornily na výsledky testování AI přepisovačů. Riziko halucinací, tedy vytváření neexistujících nebo zkreslených informací, bylo zjištěno u 20 z 20 prověřovaných nástrojů.
Podle zveřejněných zjištění se v testech objevovaly mimo jiné nesprávné informace, chybějící části záznamu nebo návrhy kroků, které v původní simulované konzultaci vůbec nezazněly. Výsledek neznamená, že každý zápis každého nástroje je chybný. Znamená ale, že žádný z testovaných systémů nebyl bez rizika.
Ontarijská pravidla proto zdůrazňují informovaný souhlas pacienta, ochranu osobních zdravotních údajů, lidskou kontrolu a odpovědnost lékaře. Úřad Information and Privacy Commissioner of Ontario vydal doporučení, která se zaměřují na soukromí, bezpečnost, správu systému a omezení nepřesností. Podobně ontarijská lékařská komora CPSO požaduje, aby lékaři všechny výstupy AI ověřovali.
Zároveň je fér dodat, že přínos těchto nástrojů není vymyšlený. CPSO odkazuje na výsledky OntarioMD, podle nichž AI scribes v určitém nasazení snížily čas věnovaný administrativě o 70 procent a ušetřily lékařům více než tři hodiny týdně. Právě proto se technologie šíří: ne proto, že by byla bezchybná, ale protože řeší skutečný problém s administrativou.
Chyby mohou mít i právní následky
Vedle bezpečnosti pacientů se otevírá otázka odpovědnosti. Medical Protection Society v červnu 2026 varovala, že lékaři a NHS mohou být v současném právním systému hlavním cílem žalob, pokud pacientovi vznikne újma v důsledku chyby AI.
Podle stanoviska Medical Protection nejsou AI systémy v britském právu jasně definovány jako výrobky. Vývojáři a dodavatelé tak mohou být v některých situacích méně přímo vystaveni pravidlům odpovědnosti za vadný produkt, zatímco lékař zůstává osobou, která výstup použila.
To neznamená, že každý chybný zápis automaticky povede k žalobě. Ukazuje to ale na mezeru mezi tím, co software technicky dělá, a tím, jak je rozdělená právní odpovědnost. Pokud nemocnice nasadí nástroj, který zpracovává citlivé zdravotní údaje a vytváří dokumentaci, neměla by se spokojit s tvrzením dodavatele, že jde jen o „administrativního asistenta“.
Co z toho plyne pro české zdravotnictví
Aktuální případ se týká britského NHS, nikoli konkrétního českého produktu nebo českého regulačního rozhodnutí. Nejde tedy tvrdit, že stejná situace už nastala v českých ordinacích. Princip je však přenositelný do celé Evropské unie: zdravotnické údaje jsou mimořádně citlivé a návrh zápisu nesmí být považován za hotový lékařský záznam jen proto, že vznikl automaticky.
Na českém trhu navíc nejde o jeden jednotný nástroj s pevně danou dostupností a českou lokalizací. AI scribes mohou být součástí různých nemocničních informačních systémů nebo samostatných služeb. U každého řešení je proto nutné ověřit, zda podporuje češtinu, kde se data zpracovávají, jak dlouho se uchovávají, zda se používají pro další trénování modelu a jak se dokumentují opravy chyb.
Rozumné nasazení by mělo zahrnovat přinejmenším souhlas pacienta s nahráváním či zpracováním rozhovoru, jasné označení textu vytvořeného AI, kontrolu léků a diagnóz proti původní dokumentaci a snadný způsob opravy chyb. Pacient by měl vědět, že se při návštěvě používá AI, a měl by mít možnost upozornit na nesrovnalost.
AI přepisovač může lékaři ušetřit čas. Neměl by ale dostat poslední slovo. V medicíně je lidská kontrola méně efektní než automatizace, ale zatím je to právě ona, co odděluje užitečného asistenta od velmi rychlého výrobníku problémů.
FAQ
Může pacient odmítnout použití AI přepisovače při návštěvě lékaře?
V praxi by měl být pacient o použití nástroje informován a u nahrávání či zpracování rozhovoru by měl být řešen odpovídající souhlas podle místních pravidel. Konkrétní postup se může lišit podle země, zdravotnického zařízení a způsobu zpracování dat.
Je AI scribe totéž jako obyčejný software pro převod řeči na text?
Ne. Převod řeči na text pouze zachytí vyslovená slova. AI scribe se snaží rozhovor také shrnout, vybrat důležité údaje a uspořádat je do struktury lékařského záznamu. Právě tato interpretace přidává nástrojům užitečnost, ale také další možnost chyby.
Může AI scribe sám změnit léčbu nebo objednat vyšetření?
Záleží na konkrétním systému. Nástroje, které pouze připravují přepis nebo návrh zápisu ke kontrole, mají jiný účel než systémy, které podporují diagnózu, léčbu nebo provádějí automatické akce. U klinických rozhodnutí musí zůstat zapojený a odpovědný zdravotník.
