Klon hlasu i obličeje vznikne z pěti vteřin nahrávky. Český vědec: brzy nepoznáme realitu

Mladý Čech, jehož modely používají miliony lidí

Matyáš Boháček je přesně ten případ, u kterého česká média ráda nasadí nálepku „génius z Česka“. Je trochu líná, ale v jeho případě není daleko od pravdy. Už ve čtrnácti napsal vědcům ze Západočeské univerzity v Plzni a společně vyvinuli model, který tlumočí znakový jazyk do vět. Dnes je ve třetím ročníku na Stanfordu a na Google Scholar má už 39 vědeckých publikací. Jeho modely — ať už na detekci deepfaků, nebo překlad znakového jazyka — dnes používají miliony lidí po celém světě. Proč na tom záleží? Protože Boháček nepatří ani k táboru, který AI slepě oslavuje, ani k tomu, který ji démonizuje. Na jednom konci debaty stojí Geoffrey Hinton, který varuje, že tvoříme bytosti, jež by se jednou mohly obrátit proti nám. Na druhém Gary Marcus, podle nějž jazykové modely ve skutečnosti inteligentní nejsou. Boháček se pohybuje mezi nimi: AI je podle něj soubor nástrojů, které řeší problémy efektivně, a vedle rizik umí být i prospěšná. Více říká v celém rozhovoru pro Český rozhlas.

Jak se dnes deepfake vyrábí

Když Boháček s deepfaky začínal, potřeboval útočník na věrohodné video hodiny materiálu a výkonný hardware. Dnes je to jinak. Pět až deset vteřin čistého hlasu stačí na klon, který vám v telefonu řekne, že volá váš syn. Jedna fotka obličeje stačí na video, kde říkáte věci, které jste nikdy neřekli. Ten posun má dva důsledky, které málokdo čekal. Za prvé je deepfake skoro zadarmo — podvodník nemusí být technik, stačí mu nástroj a šablona. Za druhé se dá neomezeně škálovat. Kde dřív jeden člověk obvolal deset lidí za hodinu, dnes automat zavolá všem na seznamu a žádnou pauzu nepotřebuje. V Americe už takhle podvodníci získávají miliony dolarů přes falešné telefonáty, a Boháček upozorňuje, že se to postupně dostává i do Česka. Dovolím si jednu poznámku z praxe. Při běžném tempu řeči, tedy kolem 150 slov za minutu, je pět až deset vteřin hlasu zhruba dvanáct až pětadvacet slov — tolik stačí říct do sluchátka, aby model pochytil barvu, rytmus i intonaci. Pro srovnání: tenhle odstavec, který právě čtete, je delší.

Černá skříňka, do které nevidíme

Boháček v rozhovoru srozumitelně vysvětluje i to, proč je dnešní AI tak obtížné kontrolovat. Neuronová síť je v jádru jenom sada matic — tabulek čísel, které se násobí a sčítají. My nedefinujeme, jak má problém vyřešit. Řekneme jen: tady jsou data, tady jsou správné příklady, a síť si cestu najde sama přes optimalizaci. Výsledkem je takzvaný black box. Vidíme vstup a výstup, ale vnitřek — tedy proč se model rozhodl zrovna tak — čteme jen velmi omezeně. Trochu se to podobá studiu mozku: víme přibližně, která část se aktivuje při jaké úloze, ale pořád je to minimum. A u deepfaků je to přesně ten problém. Když nevíme, jak generátor uvnitř funguje, těžko proti němu postavíme spolehlivou obranu.

Dnes hledáme fake, zítra realitu

Nejsilnější myšlenka rozhovoru přijde v momentě, kdy se Boháčka zeptáte na budoucnost. Nejlepší generátory videa a audia už dnes produkují obsah, který je lidským okem prakticky nerozpoznatelný — a to i pro lidi, kteří se tím zabývají denně. Staré triky, tedy dívat se na pohyb rtů, na počet prstů nebo na stíny, už spolehlivě nefungují. Dnešní detektory deepfaků ještě fungují, protože hledají signály v nižších frekvencích, které lidské oko nevidí. Boháček ale odhaduje, že jde o dočasné řešení na dalších pět šest let. Pak podle něj budeme potřebovat silnější nástroj: kryptografické ověření obsahu a digitální identity, jakýsi podpis, který u každého videa řekne, kdy a kde vzniklo a jestli bylo upravováno. Pro běžného uživatele z toho plyne nepříjemná lekce: přestat důvěřovat vlastním očím a začít ověřovat původ. Jsme zvyklí videu věřit automaticky, a právě tenhle zvyk je dnes největší slabina.

Česká stopa: AISLE i znakový jazyk

Boháček připomíná i to, že Česko v téhle oblasti nezaspalo. Zmiňuje český startup AISLE, který založili Ondřej Vlček a Stanislav Fort a který dělá podobnou práci jako velké americké modely — odhaluje bezpečnostní díry v softwaru s pomocí AI — přičemž v benchmarcích často dosahuje lepších výsledků. A jeho vlastní model pro překlad znakového jazyka, který vznikl ve spolupráci se Západočeskou univerzitou, zaujal i v OSN. Je to užitečná připomínka, že prospěšná AI neznamená jenom chatbota. AlphaFold předpovídá strukturu proteinů a urychluje hledání léků, modely na znakový jazyk pomáhají neslyšícím, detektory chrání před podvody. Boháček sám říká, že hype kolem velkých jazykových modelů vytvořilo pár firem ze San Franciska — OpenAI, Anthropic, DeepMind — a kvůli tomu se opomíjejí jiné, někdy užitečnější směry. To je vlastně ta nejpragmatičtější zpráva celého rozhovoru. AI není ani spasitel, ani apokalypsa. Je to nástroj, který mění, jak nakládáme s informacemi. A čím dřív se naučíme ověřovat, co je skutečné, tím líp pro nás všechny.