Když jeden model nestačí
Vision-language modely (VLM) — tedy AI, která umí zároveň číst obrázek i text — se čím dál častěji nasazují tam, kde chyba něco stojí: v medicíně nebo u autonomních robotů. Aby si vývojáři zvýšili šanci na správnou odpověď, nechají na stejnou otázku odpovědět hned několik modelů a výsledky zkombinují. Tomu se říká ensembling a opravdu to v průměru zlepšuje přesnost.
Problém je jinde. Ani sebejistota jednoho modelu, ani sebejistota finální agregované odpovědi nevypovídá o tom, jak spolehlivý je systém jako celek. Klasické přístupy k měření nejistoty navíc chtějí přístup k logitům — vnitřním pravděpodobnostem tokenů — které vám uzavřená API jako ChatGPT nebo Gemini prostě nedají. A vzorkování se musí počítat zvlášť pro každý model. Právě tuhle mezeru se snaží zaplnit nová práce publikovaná na arXiv.
Jak to funguje? Představte si pět mechaniků
Autoři navrhují metodu CUSP (Collective Uncertainty through Semantic Opinion Pooling). Princip je jednoduchý a dá se vysvětlit na něčem, co znáte z dílny.
Dejte rozbitý motor pěti mechanikům. Každý napíše vlastní diagnózu — volnými slovy, každý jinak. Než odpovědi porovnáte, musíte je přeložit do společného jazyka. „Má rozbité ložisko" a „ložisko je v háji" znamenají totéž, i když znějí jinak. CUSP přesně tohle dělá: seskupí odpovědi podle významu do takzvaného sémantického prostoru.
Z takto „přeložených" odpovědí pak pro každý model spočítá rozdělení pravděpodobností a změří dvě čísla. První je kolektivní nejistota — jak moc se seskupené odpovědi rozptylují. Druhá je konflikt, měřený takzvanou Jensen-Shannonovou divergencí (JSD) — jak moc si modely navzájem protiřečí.
A tady přichází ta elegantní část. Celková entropie se dá přesně rozložit na součet průměrné nejistoty jednotlivých modelů plus konfliktu mezi nimi. Díky tomu CUSP pozná dva úplně jiné scénáře, které na první pohled vypadají stejně: všechny modely váhají (nízká jistota, žádný spor), anebo je každý model skálopevně přesvědčený — jen každý o něčem jiném (vysoký konflikt).
„Nízký konflikt ještě neznamená správnost: všechny modely se můžou shodnout na stejně špatné odpovědi," přiznávají autoři poctivě. Je to tedy doplňkový signál, ne razítko pravdy.
Čísla, která mluví
Autoři metodu otestovali na dvou benchmarcích — ScienceQA (400 úloh) a obtížnějším MMMU-Pro (200 úloh) — a ve třech režimech: malé open-source modely (1–4 miliardy parametrů), velké (27–35 miliard) a komerční modely včetně Claude Sonnet 5, Gemini 3.1 Pro a GPT-5.6 Terra.
Výsledky měří dvěma metrikami. AUROC říká, jak dobře metoda seřadí chybné odpovědi před správné (hodnota 0,5 znamená házení mincí). AUARC zase ukazuje, jak dobře funguje strategie „když si nejsem jistý, radši odpověď zamlčím".
| Režim modelů | Průměrný model | CUSP | Majoritní hlasování | Naivní výběr |
|---|---|---|---|---|
| Malé open-source | 66,28 % | 79,29 % | 71,86 % | 78,54 % |
| Velké open-source | 88,42 % | 93,98 % | 91,51 % | 89,14 % |
| Komerční modely | 71,00 % | 79,70 % | 73,98 % | 71,60 % |
Klíčové zjištění: u malých modelů je nejsilnějším signálem kolektivní nejistota (0,764 AUROC, 0,889 AUARC), u komerčních naopak konflikt JSD (0,819 AUROC, 0,910 AUARC). Obojí poráží dosavadní baseliny o 4,7 až 15,8 bodu. JSD navíc pozná, kdy si modely protiřečí, s AUROC až 0,982 — tedy skoro dokonale.
Podstatné je i to, že samotná agregace je prakticky zadarmo: trvá mikrosekundy, zatímco vzorkování odpovědí modelů zabere 2–8 sekund. Režie CUSP je na tom celkovém čase zanedbatelná — platíte jen za to, že necháte každý model odpovědět vícekrát.
Multi-agentní systémy: tam to teprve začíná být zajímavé
Nejzajímavější část práce se netýká statického součtu modelů, ale multi-agentních systémů — sestav, kde jeden textový orchestrátor řídí několik vizuálních sub-agentů, kteří postupně sbírají důkazy. Přesně takhle vypadá řada dnešních „agentních" AI řešení.
Tady jsou čísla skromnější: kolektivní nejistota sub-agentů seřadí selhání systému nad úroveň náhody (0,619 AUROC) a dává nejlepší pořadí pro abstention (0,699 AUARC). Není to ohromující, ale v tomhle terénu je i „lépe než náhoda" měřitelný pokrok. Prakticky to znamená, že před nasazením agentního systému do ostrého provozu dokážete zpětně poznat, které odpovědi stály za kontrolu člověkem.
Co z toho plyne pro Evropu a Česko
CUSP není produkt, který byste si stáhli — je to výzkumná práce. Žádná česká lokalizace, žádné předplatné. Přesto má přímou vazbu na evropskou regulaci.
EU AI Act u vysoce rizikových systémů — v medicíně, kritické infrastruktuře nebo náboru — vyžaduje doložitelnou přesnost, robustnost a spolehlivost. Metoda, která umí říct „teď systému nevěř" bez přístupu k vnitřnostem modelu, je přesně ten typ nástroje, který firmám pomůže tyhle povinnosti splnit. A klíčové je, že funguje i s uzavřenými cloudovými modely, které české firmy běžně kombinují — u nich logity nikdy nedostanete.
Limity, poctivě
CUSP není všelék. Kvalita celé metody stojí a padá se sémantickým shlukováním — tedy s tím, jak dobře soudce (sám LLM) pozná, že dvě odpovědi znamenají totéž. Vícenásobné vzorkování každého modelu taky není zadarmo. A hlavně: když mají všechny modely stejný mylný předpoklad, nebo když orchestrátor integruje správné důkazy špatně, CUSP to neodhalí. Autoři sami zdůrazňují, že jde o doplňkový signál v širším monitorovacím rámci, ne o certifikát správnosti.
Je CUSP dostupný jako nástroj, který si můžu rovnou použít?
Ne. Jde o akademickou práci na arXiv, ne o veřejně dostupný produkt. Kdo si ji ale chce vyzkoušet, najde v textu kompletní popis metody včetně vzorců a algoritmu. Pro experimentátory s open-source VLM (třeba Qwen nebo Gemma) je postup reprodukovatelný.
Pozná to, kdy mi ChatGPT nebo Claude lže?
Ne přímo. CUSP neměří pravdivost jedné odpovědi, ale shodu a konflikt mezi více modely. U jednotlivého modelu a jedné odpovědi vám nepomůže. Pomáhá, když na stejnou otázku necháte odpovídat víc modelů najednou a chcete vědět, jestli jejich kombinaci věřit.
Proč nestačí sebejistota, kterou model sám uvádí?
Protože sebejistota modelu ne vždy koreluje se správností — model může být skálopevně přesvědčený o špatné odpovědi. CUSP navíc nepotřebuje přístup k vnitřním pravděpodobnostem, které uzavřená API neposkytují.
