Anthropic naučil Claude běžet na AMD. Nvidia může přijít o část výhody
Anthropic tvrdí, že jeho model Mythos převedl Claude na grafické čipy AMD za tři dny místo obvyklých šesti až dvanácti měsíců. Výsledek zatím pochází z firemní prezentace a nebyl nezávisle ověřen.
AI pomohla obejít část práce kolem CUDA
Největší výhoda Nvidie v oblasti AI neleží pouze v samotných grafických procesorech. Stejně důležitý je software CUDA, rozsáhlý ekosystém knihoven, nástrojů a postupů, na kterém vývojáři trénují a provozují modely.
Přechod z Nvidie na jiný hardware proto obvykle neznamená jen vyměnit jednu kartu za druhou. Vývojáři musí upravit výpočetní kernely, tedy nízkoúrovňové části kódu, které zajišťují například násobení matic nebo práci s pamětí. U velkých modelů jde o tisíce detailů. Jeden špatně optimalizovaný kernel může z drahého akcelerátoru udělat velmi drahé topení.
Anthropic nyní tvrdí, že část této práce převzal jeho vlastní model Mythos. Podle zjištění webu The Decoder napsal nebo převedl téměř 100 procent potřebných kernelů a dostal Claude do provozu na AMD Instinct MI355X za tři dny.
Anthropic uvádí, že šlo o zpracování promptů, tedy fázi inference, při níž model přijímá vstup a vytváří odpověď. Nejde proto o univerzální důkaz, že každý typ trénování bude možné stejně rychle převést na jiný hardware. Je to konkrétní test jedné části provozu modelu.
Čtyři rodiny čipů v jednom výpočetním fondu
Anthropic podle svých materiálů neprovozuje Claude pouze na jednom typu akcelerátoru. Firma uvádí kombinaci Nvidia GPU, AMD GPU, Google TPU a AWS Trainium. Výpočetní kapacitu se snaží spravovat jako jeden společný fond, ze kterého přiděluje hardware podle konkrétní úlohy.
V praxi to může znamenat, že jedna platforma slouží pro výzkum, jiná pro trénování a další pro odpovědi zákazníkům. Každý typ čipu má jiné vlastnosti, dostupnost i cenu. Pokud software dokáže rozdíly skrýt, nemusí být firma při každém rozšíření datového centra odkázaná na jediného dodavatele.
Tento přístup Anthropic rozvíjí už delší dobu. CRN Asia uvádí, že společnost spolupracuje s AMD také na ladění úloh pro čipy Instinct a na vývoji softwarové platformy ROCm. Ta je obdobou softwarového zásobníku, který Nvidia vybudovala kolem CUDA.
Rozdíl je v tom, že CUDA těží z dlouhého náskoku, dokumentace, nástrojů a zvyku vývojářů. AMD může nabídnout alternativní hardware, ale bez dobře fungujícího softwaru zůstává část jeho výkonu obtížně využitelná. Právě zde může automatizované psaní a ladění kernelů změnit ekonomiku celého procesu.
Tři dny nejsou důkazem úplného konce CUDA
Číslo tři dny zní výrazně. Je však potřeba číst ho přesně. Anthropic neoznámil, že libovolný model lze kdykoli převést na jakýkoli čip bez lidské práce. Firma popsala konkrétní interní test, při kterém využila vlastní model Mythos, existující zkušenosti s provozem Claude a hardware AMD Instinct MI355X s 288 GB paměti HBM.
Výsledky pocházejí z prezentace pro investory k IPO Anthropicu. Samotný oficiální web IPO zveřejňuje roadshow a finanční materiály firmy, zatímco The Decoder upozorňuje, že technické údaje nebyly nezávisle ověřeny.
To je podstatné omezení. Interní prezentace může věrně popisovat výsledek, současně však nemusí obsahovat všechny podmínky testu. Nevíme například, jak dlouho trvalo připravit podpůrné nástroje, kolik lidského dohledu bylo potřeba při validaci nebo jak se výkon choval při dlouhodobém zatížení.
Přesto jde o zajímavý posun. CUDA měla mimo jiné hodnotu proto, že migrace na jinou architekturu byla drahá a pomalá. Pokud část této práce zvládne model určený pro programování, konkurenční výhoda se může zmenšit. Nezmizí automaticky, protože software tvoří také ovladače, kompilátory, knihovny, monitorování, bezpečnostní nástroje a provozní zkušenosti.
Anthropic rozšiřuje odběr AMD
Technický test zapadá do širší dohody mezi oběma firmami. AMD se zavázalo investovat do Anthropicu až 5 miliard dolarů. Anthropic současně plánuje nasadit až 2 gigawatty výpočetní kapacity založené na akcelerátorech AMD Instinct MI455X v rackových systémech Helios. První gigawatt má být uveden v první polovině roku 2027.
Dřívější informace o dohodě popisují také několikaletou spolupráci na ROCm a optimalizaci úloh pro čipy Instinct. Nejde tedy jen o nákup akcelerátorů. AMD získává velkého zákazníka, který svůj software používá ve špičkové zátěži, a Anthropic si zajišťuje další zdroj výpočetní kapacity.
Anthropic podle vlastních slov získává z každého dolaru vloženého do výpočetního výkonu více než jakákoli jiná přední AI laboratoř. K dalšímu snižování celkových nákladů na vlastnictví infrastruktury buduje vlastní kapacity v rámci programu Anthropic Direct, kde si čipy přímo pronajímá a provozuje ve specializovaných datových centrech, místo aby se spoléhal pouze na nákup běžných cloudových služeb.
Co změna znamená pro Nvidii
Nvidia si dál drží silnou pozici díky kombinaci čipů, softwaru a dodavatelského řetězce. Hrubé marže u AI hardwaru podle dostupných materiálů přesahují 70 procent. Pokud by velké laboratoře dokázaly jednodušeji přecházet mezi dodavateli, mohl by se zvýšit tlak na ceny i obchodní podmínky.
Problém Nvidie by v takovém případě nebyl jen v tom, že AMD prodá více akcelerátorů. Důležitější je změna vyjednávací pozice zákazníků. Anthropic může porovnávat dostupnost a cenu více platforem, místo aby každou další generaci infrastruktury stavěl kolem jediného softwarového ekosystému.
Situace má přitom neobvyklý finanční rozměr. Nvidia i AMD mají s Anthropicem významné obchodní a investiční vazby. The Decoder uvádí, že Nvidia se účastní podmíněného soukromého umístění akcií v objemu až 26 miliard dolarů a AMD oznámilo investici až 5 miliard dolarů. Dodavatelé čipů tak financují laboratoř, která jejich hardware následně odebírá. To komplikuje jednoduchý obraz souboje dvou firem.
Dopad na uživatele v Česku
Běžný uživatel Claude změnu čipu přímo neuvidí. Nejde o novou funkci aplikace ani o oznámení nového tarifu. Popisovaná změna se odehrává v datových centrech a týká se toho, na jakém hardwaru se model trénuje a provozuje.
Pro české firmy může být důležitější nepřímý dopad. Pokud bude provoz modelů možné rozdělovat mezi více typů akcelerátorů, může se zlepšit dostupnost výpočetní kapacity a vzniknout tlak na příznivější ceny API. Z dostupných materiálů však nelze vyvodit konkrétní zlevnění pro české zákazníky.
Anthropic uvádí, že jeho roadmapa počítá s dalším zvyšováním efektivity výpočtů pomocí takzvaných compute multipliers. Firma popisuje metody, které mají z daného množství hardwaru vytěžit více výkonu. Tvrzení o tom, že by Claude tyto metody jednou hledal sám, patří podle zdroje do oblasti debat o rekurzivním sebezdokonalování a není doloženým provozním výsledkem.
Nejpevnější závěr je zatím užší. Anthropic ukázal, že vlastní AI může pomoci s převodem modelu na konkurenční hardware. Pokud se podobný postup potvrdí i v dalších úlohách, CUDA zůstane velmi silným ekosystémem, její náskok však nebude tak obtížné napodobit jako dříve.
FAQ
Co je CUDA a proč je pro Nvidii tak důležitá?
CUDA je softwarová platforma Nvidie pro programování a využívání jejích GPU. Obsahuje knihovny, nástroje a rozhraní, která vývojářům usnadňují práci s AI. Díky tomu nestačí konkurenčnímu výrobci nabídnout pouze rychlejší nebo levnější čip.
Bude Claude po přechodu na AMD rychlejší nebo levnější?
To z dostupných materiálů nevyplývá. Anthropic popsal rychlost převodu softwaru na AMD, nikoli konkrétní zrychlení odpovědí nebo snížení ceny pro zákazníky. Technický test se týkal především zpracování promptů na AMD MI355X.
Může podobný postup využít běžný vývojář?
Anthropic mluví o vlastním interním modelu Mythos, interních nástrojích a zkušenostech s provozem Claude. Zpráva neuvádí, že by stejný automatizovaný proces byl dostupný veřejnosti nebo běžným vývojářům.
