FlashProve dokáže, že vám AI nepodstrčila levnější model
Anthropic zveřejnil prototyp FlashProve. Pomocí kryptografických důkazů ověří, že odpověď pochází z vah modelu, za který platíte, aniž by je prozradil. Důkaz pro 1024 tokenů má 19 MB a na jedné H100 vzniká rychlostí zhruba 110 tokenů za sekundu.
Proč se ověření modelu řeší právě teď
Problém se jmenuje ověřitelná inference. U klasického chatbota máte dvě možnosti, jak získat odpověď: věřit, že ji napsal model z inzerované nabídky, nebo si spustit model sám. Ta druhá cesta je u špičkových systémů nereálná – jejich váhy jsou uzavřené a běh na vlastním železe stojí hodně peněz. Zbývá slepá důvěra.
Anthropic teď popisuje tři scénáře, kdy tahle důvěra nestačí. Firma může zákazníkovi tiše podsunout levnější model. Útočník může odpověď po cestě pozměnit, aniž by si toho kdokoli všiml. A u agentů, kteří sami plánují kroky a volají další nástroje, se nikdo nepodívá na to, který model který krok udělal. FlashProve míří právě sem.
Pro evropské firmy to není akademická otázka. Když AI dělá rozhodnutí, která se musejí dát zpětně vysvětlit, hodí se doklad, že daný výstup pochází z konkrétního modelu. Kryptografické potvrzení by takové audity zjednodušilo. Zatím jde ale jen o experiment.
Jak důkaz funguje, aniž by prozradil váhy
FlashProve staví na technologii zkSNARK, tedy na zero-knowledge důkazech. Princip je podobný situaci, kdy chcete prokázat, že znáte heslo, ale nechcete ho vyslovit. Provedete výpočet, který může kdokoli zkontrolovat, a výsledek potvrdí, že heslo opravdu znáte. Váhy modelu v téhle analogii fungují jako heslo.
Konkrétně: protokol se nejdřív „zaváže" k určitým vahám modelu. Pak vygeneruje krátký důkaz, že odpověď vzešla z výpočtu právě nad těmito váhami. Kdo důkaz kontroluje, ověří matematickou platnost, ale k vahám samotným se nedostane. Poskytovatel tak může dokázat, že běží slíbený model, a nemusí přitom zveřejnit jediný parametr.
Na návrhu protokolu se podle Anthropicu podílel i samotný model Claude. Kód i formální důkazy v jazyce Lean jsou uvolněné pod licencí Apache 2.0, takže je lze prozkoumat a rozebrat. To je u kryptografie důležité – správnost důkazu nemá být tvrzení firmy, ale něco ověřitelného v kódu.
Čísla, která určují, jestli to dává smysl
Anthropic prototyp otestoval na modelu Llama 4 Maverick, tedy na architektuře Mixture-of-Experts se 400 miliardami parametrů, se 4bitovou kvantizací vah a celočíselnou aritmetikou při prefillu. Výsledky ukazují, kde metoda dnes stojí.
Generování důkazu běží rychlostí zhruba 110 tokenů za sekundu na jediné grafice Nvidia H100. Důkaz pro požadavek o délce 1024 tokenů má kolem 19 MB. Když si to přepočítáte, jeden takový 1024tokenový požadavek se ověří zhruba za 9 sekund výpočtu. To je cena na straně poskytovatele.
Největší překážku ale vidíte v jiném čísle: vygenerování důkazu trvá 70–95× déle, než standardní běh téhož modelu v knihovně vLLM. Jinými slovy, každá odpověď vyjde poskytovatele na mnohonásobek výpočetního času. Na druhé straně je to asymetrické – kontrolu důkazu zvládne koncový uživatel na obyčejném procesoru za několik sekund. Drahé je důkaz vyrobit, levné je zkontrolovat, že neobsahuje chybu.
Oproti dřívějším open-source projektům z oboru zkML je FlashProve výrazně efektivnější. Anthropic tvrdí, že posunul výkon na úroveň, kde se o praktickém nasazení dá aspoň uvažovat. Pořád je to daleko od toho, co by snesl běžný chat s miliony uživatelů.
Co FlashProve zatím nedokáže
Je potřeba to říct nahlas: FlashProve je experimentální výzkumný prototyp, ne produkt. Anthropic ho sám označuje za nástroj, který zatím nepatří do produkčního provozu. Režie 70–95× znamená, že provozovat chat s důkazy u každé odpovědi by dnes byl ekonomický nesmysl.
Prototyp je navíc svázaný s konkrétním modelem a nastavením – Llama 4 Maverick s danou kvantizací. Nasazení na jiný model vyžaduje znovu postavit důkazní systém pro jeho architekturu. A zero-knowledge důkaz potvrdí, že výstup vzešel z určitých vah. Nepotvrdí, že ty váhy dělají správnou věc. Model může být věrně použitý, a přesto odpovědět špatně.
Datumová stopa je u Anthropicu krátká: interní cíl pro prototyp měl platit do 30. září 2026, 19. října firma termín přejmenovala na „inference verification" a 2. listopadu zveřejnila zprávu i prototyp ve verzi 0.16.0. Z původního „ověřitelné inference" se tak stává směr, na kterém firma pokračuje dál.
Funguje FlashProve i pro jiné modely než Llama 4 Maverick?
Zatím byl prototyp otestován na Llama 4 Maverick se 4bitovou kvantizací. Důkazní systém je vázaný na konkrétní architekturu a váhy, takže pro jiný model by se musel přizpůsobit. Jde o výzkumný prototyp, ne o univerzální nástroj.
Musím kvůli ověření důkazu vlastnit výkonnou grafiku?
Ne. Kontrola důkazu probíhá na straně uživatele a zvládne ji běžný procesor za několik sekund. Drahá část – samotné generování důkazu – leží na poskytovateli modelu.
Zaručí důkaz, že je odpověď správná?
Ne. Zero-knowledge důkaz potvrdí, že výstup vzešel z konkrétních vah modelu, nikoli že je obsah věcně správný. Model může být použitý věrně, a přesto se mýlit.
