Představte si algoritmus, který na datech z Fakultní nemocnice v Motole diagnostikuje zápal plic s 95% přesností. Přesunete ho do nemocnice v Brně — a najednou je z něj věštec z křišťálové koule. Proč? Protože se místo hledání skutečných příznaků nemoci naučil poznávat konkrétní rentgenový přístroj. Přesně tento problém teď řeší výzkumníci z Oxfordské univerzity v přelomové studii publikované v Nature Biomedical Engineering. Jejich odpovědí jsou kauzální grafové neuronové sítě — architektura AI, která se nespoléhá na statistické shody okolností, ale snaží se pochopit, co skutečně způsobuje nemoc.
Past na korelace: proč chytrá AI v cizí nemocnici zhloupne
Běžné systémy strojového učení fungují jako mimořádně výkonné detektory vzorů. Podíváte-li se na problém zblízka, odhalíte zásadní slabinu: učí se statistické asociace, nikoliv biologické mechanismy. Algoritmus může spojit diagnózu s konkrétním skenerem, nemocničním oddělením nebo demografickou charakteristikou pacienta — jednoduše proto, že tyto rysy v trénovacích datech korelovaly s výsledkem. Když se změní podmínky — jiná nemocnice, jiné vybavení, jiná populace pacientů — spojení se rozpadne. Profesor Ziad Obermeyer z UC Berkeley už v roce 2019 zdokumentoval, jak algoritmus používaný v amerických nemocnicích systematicky podceňoval zdravotní potřeby černošských pacientů, protože se naučil používat výdaje na zdravotní péči jako zástupný ukazatel nemocnosti. Rasově podmíněné rozdíly v přístupu k péči se propsaly přímo do "inteligentního" rozhodování. Kauzální přístup jde jinou cestou. Místo otázky "co predikuje daný výsledek" se ptá: "co daný výsledek způsobuje". A právě v tom je zásadní rozdíl.Grafo-neuronové sítě: síť vztahů místo ploché tabulky
Kauzální grafové neuronové sítě (Causal GNNs) spojují dvě výkonné myšlenky do jednoho rámce. Grafové neuronové sítě reprezentují složité systémy jako propojené entity — uzly mohou být geny, proteiny, mozkové oblasti, léky nebo samotní pacienti, zatímco hrany popisují jejich vzájemné interakce. Informace mezi uzly proudí podobně jako signály mezi neurony. Druhou složkou jsou strukturální kauzální modely — formální popis toho, jak proměnné vznikají. Pomocí rovnic rozlišují přímé příčiny od pozorovaných efektů a neměřených vlivů. Výsledkem není plochá tabulka příznaků, ale dynamická mapa mechanismů. Autoři studie — Munib Mesinovic, Max Buhlan a Tingting Zhu z Oxfordské univerzity — ve svém přehledovém článku v Nature Biomedical Engineering (srpen 2026) popisují tři klíčové schopnosti, které tato architektura přináší.Disentanglement: rozplétání zamotaných dat
První schopností je disentangled causal representation learning — schopnost oddělit od sebe různé faktory, které jsou v surových lékařských datech smíchány dohromady. Sken mozku například zachycuje současně anatomii, chorobný stav, věk pacienta, pohyb během snímání i artefakty konkrétního přístroje. Disentanglovaný model se snaží tyto vlivy reprezentovat odděleně — a určit, které jsou klinicky významné a které jsou jen šumem ze sběru dat.Intervenční predikce: co se stane, když zasáhnu?
Běžná predikce odpovídá na otázku "co se pravděpodobně stane při současném stavu". Intervenční predikce se ptá jinak: "co by se stalo, kdybych aktivně změnil určitou proměnnou?" V medicíně to znamená odhadnout efekt změny medikace, úpravy léčebného plánu nebo zásahu do konkrétní biologické dráhy. Grafové kauzální modely dokážou tyto hypotetické zásahy zakódovat tak, že "zasáhnou" vybrané uzly a nechají důsledky propagovat sítí.Kontrafaktuální uvažování: co by se stalo, kdyby...
Ještě o krok dál jde kontrafaktuální uvažování — co by se stalo konkrétnímu pacientovi za alternativního scénáře? Model může simulovat, jak by se vyvíjel fyziologický stav pacienta, kdyby nedostal určitý lék, nebo zda by jiná intervence snížila riziko. Autoři studie ale důrazně varují: kontrafaktuální výstupy nejsou ověřená klinická fakta, ale simulace postavené na struktuře modelu, datech a předpokladech.Digitální dvojče pacienta: simulace nemoci na míru
Spojením těchto technologií vzniká vize pacientsky specifického kauzálního digitálního dvojčete — výpočetní reprezentace navržené tak, aby simulovala progresi nemoci a testovala možné intervence ve virtuálním prostředí dříve, než jsou aplikovány na živého pacienta. Takový systém by mohl pomoci výzkumníkům testovat léčebné strategie, identifikovat pacienty, kteří budou na léčbu reagovat, a omezit zbytečné experimentování na lidech. Aplikace sahají od psychiatrie, kde by kauzální GNN propojily symptomy, aktivitu mozkových sítí a odpovědi na léčbu, přes výzkum rakoviny (integrace genomických a transkriptomických dat pro identifikaci regulačních vztahů u nádorových subtypů) až po kontinuální monitorování vitálních funkcí — srdečního tepu, krevního tlaku, saturace kyslíkem — pro včasnou detekci zhoršení klinického stavu.Nebezpečí "causal-washingu": když kauzalita není to, co si myslíte
Autoři zavádějí pojem, který stojí za pozornost: causal-washing. Označuje praxi, kdy vývojáři použijí kauzální slovník pro metody, které ve skutečnosti žádnou kauzální důvěryhodnost nemají. Navrhují proto třístupňový rámec: kauzálně inspirované architektury → modely s explicitními kauzálními předpoklady → kauzálně validované objevy podložené nezávislými důkazy. Teprve třetí stupeň si zaslouží být brán jako kauzální poznatek. Vše ostatní je — slovy autorů — jen inspirace. Validace musí jít daleko za běžnou křížovou validaci. Je třeba testovat napříč nemocnicemi, populacemi, přístroji a časovými obdobími a porovnávat predikce s výsledky randomizovaných nebo pečlivě navržených observačních studií. Výpočetní náročnost kauzálního objevování zůstává překážkou pro nasazení v reálném čase — grafy s tisíci biologických proměnných jsou výpočetně extrémně drahé.Co to znamená pro Česko a Evropu
Pro české zdravotnictví, kde digitalizace postupuje, ale nasazení pokročilé AI ve většině nemocnic je zatím v plenkách, představuje tento výzkum spíše strategický směr než okamžitou implementaci. Kauzální GNN jsou stále ve fázi akademického výzkumu a jejich plné klinické nasazení je otázkou let, nikoliv měsíců. Z regulačního hlediska je téma vysoce relevantní. EU AI Act, který vstoupil v platnost v srpnu 2024, klasifikuje zdravotnickou AI jako vysoce rizikovou. Požaduje transparentnost, validaci a lidský dohled — přesně to, co se kauzální GNN snaží zabudovat přímo do architektury modelů. České nemocnice, které v budoucnu plánují nákup AI diagnostických systémů, by měly sledovat nejen procenta přesnosti, ale i to, zda systém pracuje s kauzálními mechanismy, nebo jen se statistickými asociacemi. Evropská unie navíc prostřednictvím programu Horizon Europe financuje výzkum v oblasti důvěryhodné AI ve zdravotnictví. Oxfordská studie — byť z Velké Británie — rezonuje s evropským důrazem na vysvětlitelnost a robustnost medicínských algoritmů.Jaký je rozdíl mezi korelací a kauzalitou v medicínské AI?
Korelace znamená, že dvě věci se v datech vyskytují společně — například pacienti s určitým příznakem častěji dostávají určitou diagnózu. Kauzalita znamená, že jedna věc skutečně způsobuje druhou. Problém nastává, když si AI splete korelaci s příčinou: algoritmus může spojit diagnózu rakoviny s konkrétním rentgenovým přístrojem, protože na něm bylo snímáno více onkologických pacientů. Když pak dostane snímek z jiného přístroje, selže.
Jsou kauzální grafové neuronové sítě už používané v českých nemocnicích?
Ne, kauzální GNN jsou zatím ve fázi akademického výzkumu. Studie v Nature Biomedical Engineering je přehledovým článkem (Perspective), nikoliv oznámením hotového produktu. V českých nemocnicích se dnes používají jednodušší AI systémy pro analýzu obrazu nebo predikci, ale žádný z nich nepracuje s plnohodnotnými kauzálními modely. Širší klinické nasazení lze očekávat nejdříve za 3–5 let.
Co je to "causal-washing" a jak ho poznat?
Causal-washing je označení pro marketingovou nebo vědeckou praktiku, kdy výrobce či výzkumník použije kauzální slovník („rozumíme příčinám“, „kauzální AI“) pro systém, který ve skutečnosti pracuje pouze se statistickými asociacemi. Autoři oxfordské studie navrhují třístupňový validační rámec: inspirovaný kauzalitou → s explicitními kauzálními předpoklady → kauzálně validovaný. Teprve třetí stupeň je skutečná kauzální AI. Pokud produkt neprošel nezávislou validací napříč různými nemocnicemi a populacemi, mělo by vám to zvednout obočí.
