Co se měřilo a jak
Studie Zeyua Yanga a Wese Armoura z Oxfordské univerzity (zveřejněná 9. října 2026) pracuje se 134 servírovacími konfiguracemi. Pod nimi je 86 otevřených modelů z jedenácti rodin – Qwen, DeepSeek, Llama, Gemma, GLM, IBM Granite, Mistral, Phi, Nemotron, MiniMax a gpt-oss. Velikostně sahají od 0,8 do 400 miliard parametrů a rovnoměrně se dělí na klasické husté modely a architekturu mixture-of-experts (43 a 43).
Modely běžely na sedmi benchmarcích, které pokrývají řízení se podle instrukcí, znalosti, přírodní vědy, matematiku, programování i práci s nástroji. Klíčový je způsob měření energie: autoři nepřidělili každému modelu jedno číslo „energie na token“, ale odečítali spotřebu GPU přímo při vyřizování reálných dotazů z každého benchmarku, včetně všech tokenů, které vygeneruje režim uvažování. Měřilo se na šesti platformách – od spotřební GeForce RTX 5090 přes pracovní stanici RTX PRO 6000, DGX Spark (GB10) a GH200 až po osmigrafický server 8×H100.
Hranice schopnost–energie
Autoři vynášejí každý model do grafu, kde je na jedné ose skóre a na druhé spotřeba. Logicky chceme co nejvyšší skóre za co nejméně energie. Hranici, kde už žádný model není v obojím horší, označují za Paretovu frontu. A tady přichází první zjištění: na frontě leží jen 21 z 82 konfigurací. Zbytek spotřebuje v mediánu 2,6 až 4,8násobek energie alternativy, která boduje přinejmenším stejně, a v krajním případě až 27násobek.
Nejostřejší příklad pochází z platformy RTX PRO 6000. Granite-4.2-30b v režimu uvažování dosáhne 77,6 bodu při 1307 watthodinách. Gemma-4-26B-A4B bez uvažování má 79,5 bodu při 49 watthodinách. Vyšší skóre, zhruba 27× méně energie. Podobný rozptyl autoři vidí i u modelů nad 80 % v soutěžní matematice AIME: energie na jednu správnou odpověď se tam pohybuje od 1,5 do 50 watthodin, tedy zhruba 33násobný rozdíl.
Nejvyšší skóre přitom stojí neúměrně draho. V každé ze tří paměťových tříd se najde model bez uvažování, který zaostává o méně než pět bodů za špičkou, ale spotřebuje jen čtvrtinu až šestinu její energie. Z 21 modelů na frontě je 15 bez režimu myšlení – ačkoli právě ty „přemýšlivé“ dosahují absolutního maxima.
Uvažování je drahé, ale ne vždy k užitku
Režim uvažování (thinking) autoři izolovali na 44 párech, kde běžel tentýž model se stejným hardwarem, jednou s myšlením a jednou bez něj. Zapnutí myšlení zvedne skóre v mediánu o 4,5 bodu, ale energii jednoho průchodu sadou násobí v průměru 3,7×. A u osmi ze 44 párů skóre i přes vyšší spotřebu dokonce kleslo.
Přínos se přitom dramaticky liší podle rodiny modelů. Hybridy Nemotron si polepší v mediánu o 20,6 bodu a žádný si nepohorší, GLM o 12 bodů. Qwen naopak v mediánu o 0,7 bodu klesá a osm ze čtrnácti jeho párů s myšlením boduje níž. Část té ztráty jde na vrub rozpočtu výstupu: zapnutí myšlení zvýší podíl odpovědí useknutých na limitu ze 3 na 17 procent a u nejhůře postižených modelů Qwen je useknutá čtvrtina až 62 procent odpovědí. Uvažování tak nepomáhá samo o sobě – záleží na modelu i na tom, kolik tokenů mu dovolíte vygenerovat.
Tokeny jako měřítko selhávají
Pohodlný odhad „čím víc tokenů, tím víc energie“ nefunguje. Počet vygenerovaných tokenů vysvětlí 60 až 85 procent rozptylu spotřeby, ale jako žebříček řadí modely špatně v 18 až 24 procentech případů. Dva modely bez uvažování s prakticky stejným počtem tokenů – Gemma-3-12B a Gemma-4-E2B na RTX 5090 – se ve spotřebě liší 23×. Počet parametrů je ještě slabší prediktor: korelace se spotřebou je jen 0,28 až 0,52, u počtu tokenů pak 0,70 až 0,79.
Důvod je prostý. Celková energie je součin dvou nezávislých veličin – počtu tokenů a energie na token – a ty spolu skoro nekorelují. Pozdní tokeny dlouhých odpovědí navíc stojí 2,0 až 4,9násobek energie prvních, protože s rostoucím kontextem se plní cache stavu a klesá paralelismus zpracování.
Co energii reálně snižuje
Nasazení modelu s vahami ve formátu FP8 místo BF16 je podle měření nejjednodušší úspora: 27 z 28 porovnaných párů spotřebuje méně energie, v geometrickém průměru 0,73násobek, tedy úspora zhruba čtvrtina – a skóre se změní o zanedbatelných −0,15 bodu. Úspora roste s velikostí modelu: od méně než 0,5 kWh na průchod sadou u 3–4miliardových modelů na RTX 5090 po 7,8 kWh u Qwen3-235B na osmi H100.
Výběr hardwaru naopak pořadí modelů podle efektivity skoro nezmění. Stejné konfigurace mají napříč čtyřmi platformami korelační koeficient 0,99 a skóre se liší jen o 0,4 až 0,7 bodu. Mění se jen absolutní spotřeba: GH200 spotřebuje 0,61–0,77násobek RTX PRO 6000, DGX Spark 0,53–0,62násobek (za cenu delšího běhu), dvojice RTX A6000 naopak 1,9–2,2násobek.
Kolik to stojí v penězích
Autoři přidávají i orientační cenové srovnání. Při propustnosti jedné RTX PRO 6000 vyjde potřebný akcelerátor zhruba na 24–34 tisíc dolarů (v přepočtu kolem 550–780 tisíc korun), zatímco elektřina pro něj činí jen 0,5–1,7 tisíce dolarů ročně (11–39 tisíc korun) při sazbě 0,20 dolaru za kWh. Nákup železa tak výrazně převyšuje náklady na proud.
To ale neznamená, že na efektivitě nezáleží. Při velkém provozu – datová centra globálně spotřebovala podle IEA v roce 2024 kolem 415 TWh a do roku 2030 se má objem víc než zdvojnásobit – se 27násobné rozdíly mezi stejně schopnými modely okamžitě promítnou do účtu i do uhlíkové stopy. Google podle starších měření přičítá zhruba tři pětiny energie, kterou spotřebuje strojové učení, právě inference – tedy samotnému odpovídání, ne tréninku.
Pro české čtenáře má téma i regulativní rozměr. EU AI Act ukládá poskytovatelům obecných modelů vést technickou dokumentaci a v dobrovolném Kodexu zásad, který podepsalo přes 20 firem, figuruje i reportování energetické náročnosti. Argument oxfordských autorů – že benchmarkové skóre by se mělo uvádět společně s naměřenou spotřebou za konkrétního provozního režimu – tak míří stejným směrem jako evropská regulace. A pro kohokoli, kdo si otevřený model provozuje lokálně na vlastní grafice, je zjištění docela praktické: volba modelu ovlivní účet za proud víc, než by napovědělo skóre v tabulce.
Limity měření
Studie má jasně vytyčené hranice. Měří energii samotných akcelerátorů, ne celého systému ani datového centra – Google u produkčního provozu uvádí, že kompletní servírování stojí zhruba 1,7násobek energie aktivních akcelerátorů. Všechny hlavní experimenty probíhají v režimu saturovaného dávkování, tedy při vysokém vytížení, a hodnoty neplatí pro lehký provoz. Skóre jsou navíc podmíněná pevným rozpočtem výstupu 32 tisíc tokenů: jeho zvýšení může modelům dodat dalších 7 až 25 bodů v AIME a 6 až 21 bodů v LiveCodeBench, ale za 1,1 až 6,1násobek energie.
Jsou tyto modely dostupné v češtině?
Ano, většina měřených rodin – Llama, Qwen, Mistral nebo Gemma – zvládá češtinu dobře a jde je stáhnout zdarma z Hugging Face a provozovat lokálně. Studie neměří jazykové schopnosti, ale energetickou náročnost, takže při výběru modelu pro češtinu je rozumné kouknout i na efektivitu rodiny, ne jen na benchmark.
Jak si zjistím spotřebu vlastního modelu?
Nejjednodušší cesta je odečíst spotřebu GPU přímo při provozu, podobně jako to dělají autoři – nástroje jako nvidia-smi ukazují aktuální příkon průběžně. Počítejte ale s tím, že hodnota závisí na dávkování, délce odpovědí i formátu vah, takže jediné číslo z katalogu vám přesný účet nedá.
Platí výsledky i pro komerční API jako GPT nebo Claude?
Ne přímo. Studie měří jen otevřené modely, u nichž má přístup k vahám a hardwaru. U uzavřených komerčních API nelze spotřebu změřit stejným způsobem a poskytovatelé ji nezveřejňují jednotně – právě to je jeden z důvodů, proč autoři vyzývají k tomu, aby se energie uváděla u benchmarků.
