Proč je klasický zpětný chod noční můrou moderního hardwaru
Pokud se trochu pohybujete kolem strojového učení, víte, že téměř každá dnešní neuronová síť vděčí za své schopnosti algoritmu zpětné propagace chyby, takzvané backpropagation (BP). Základní princip je mechanicky přímočarý: síť provede dopředný průchod (forward pass), spočítá odchylku od požadovaného výsledku a pak pošle chybový signál z poslední vrstvy zpět až k té první, přičemž cestou upravuje váhy jednotlivých neuronů.
Ačkoliv tento matematický aparát stál u zrodu všech současných modelů, z pohledu hardwarové architektury jde o značně nepraktické řešení. Problém se jmenuje aktualizační blokování (update locking). Spodní vrstvy neuronové sítě nemohou upravit svoje váhy, dokud k nim chybový signál nedorazí z horních vrstev. Grafická karta tak musí v paměti VRAM držet mezistavy všech vrstev celého modelu. U obřích sítí to vytváří extrémní nároky na paměťovou propustnost a znemožňuje to efektivní masivní paralelizaci na úrovni jednotlivých chipletů či neuromorfních procesorů.
Jak funguje PC-ALM: Když si každá vrstva řídí vlastní výpočet
Inženýři z výzkumné laboratoře Sakana AI se proto rozhodli jít cestou takzvaného prediktivního kódování (Predictive Coding, PC). Místo globálního chybového signálu se každá vrstva snaží pouze předpovědět aktivaci vrstvy následující a upravuje své váhy lokálně. Až dosud však mělo standardní prediktivní kódování velký problém: u hlubokých a úzkých sítí chybový signál směrem k počátečním vrstvám postupně slábnul a trénování zkolabovalo.
Zde přichází nová metoda PC-ALM (Augmented Lagrangian Predictive Coding). Výzkumníci přidali ke každé vrstvě takzvaný Lagrangeův multiplikátor. Tento matematický prvek drží aktualizace vah na úrovni dané vrstvy, ale zároveň postupně akumuluje chybové signály. Výsledný efekt je ekvivalentní globálnímu backpropagation, aniž by síť musela dělat zastavující celosíťový zpětný průchod.
Pro lepší představu z běžného života funguje každá vrstva sítě na principu klasického PI regulátoru (proporcionálně-integračního), který znáte třeba z chytrých termostatů nebo tempomatů v autě:
- Proporcionální složka: Aktuální chyba předpovědi v dané vrstvě (reaguje ihned na odchylku).
- Integrační složka: Lagrangeův multiplikátor (střádá chyby v čase a zajišťuje, že se vrstva postupně přizpůsobí i dlouhodobému cíli celého modelu).
Tvrdá data z testů: Přesnost 77,75 % a tisícivrstvý experiment
Nová metoda není pouze teoretickým konceptem na papíře. V publikované technické zprávě autoři doložili výsledky z testování na mřížce architektur se šířkou a hloubkou od 8 do 128 vrstev a také na extrémním modelu s tisícem vrstev. Podle podrobného rozboru na serveru MarkTechPost vykazuje PC-ALM následující výsledky:
- Srovnání na datasetu Fashion-MNIST (síť o hloubce 32 vrstev a šířce 32, aktivace ReLU):
- Klasická zpětná propagace (BP): 78,66 %
- Standardní prediktivní kódování (PC): 68,13 % (výrazná ztráta přesnosti kvůli slábnoucímu signálu)
- Nová metoda PC-ALM: 77,75 % (téměř dorovnává klasický backprop)
- Sítě s 1 000 vrstvami: V testu na reziduální síti typu MLP s jedním tisícem vrstev na datasetu MNIST dosáhla metoda PC-ALM přesnosti v rozmezí přibližně 2 procentních bodů od výsledků klasického backpropagation. Standardní prediktivní kódování přitom u takto hluboké sítě selhává úplně.
- Výpočetní rozpočet: Rozpočet lokalizované inference před samotnou aktualizací vah byl v experimentech stanoven přesně podle vzorce T = 2L, kde L představuje celkovou hloubku sítě.
Dostupnost pro vývojáře a licence
Pro české i evropské výzkumníky a vývojáře je podstatné, že Sakana AI vydala referenční kód jako open-source pod licencí MIT. Implementace je napsána v populárním frameworku JAX a součástí vydání je i skript upravený pro běh na běžném CPU, což umožňuje komukoliv reprodukovat publikované experimenty bez nutnosti vlastnit drahý GPU server.
Z praktického hlediska nejde o nástroj, který by zítra nahradil produkční trénovací infrastrukturu u modelů typu GPT-6 Astra nebo Claude Fable 5.1. Dnes dostupné grafické akcelerátory od Nvidie jsou totiž křemíkově optimalizované přímo pro maticové násobení a klasický zpětný chod. PC-ALM je však klíčovým stavebním kamenem pro specializovaný ne-von-Neumannovský hardware a neuromorfní čipy. Ty dokáží zpracovávat informace lokálně s minimální spotřebou energie, což může v budoucnu zásadně zlevnit trénování AI přímo na lokálních zařízeních (Edge AI).
Je metoda PC-ALM okamžitě použitelná v běžných knihovnách jako PyTorch?
Aktuálně je referenční implementace k dispozici v knihovně JAX. Vzhledem k tomu, že současné komerční grafické karty jsou hardwarově zkonstruované primárně pro efektivní provádění klasického backpropagation, nepřináší PC-ALM na běžných GPU ihned rychlostní výhodu. Její přínos spočívá v odstraňování paměťového úzkého hrdla a v budoucí aplikaci na nekonvenčním hardwaru.
Kolik stojí použití metody PC-ALM?
Metoda i veškeré doprovodné zdrojové kódy jsou volně dostupné zdarma pod otevřenou licencí MIT. Libovolná firma nebo výzkumná instituce tak může algoritmus volně upravovat, používat i komerčně implementovat bez jakýchkoliv licenčních poplatků.
V čem konkrétně se PC-ALM liší od staršího prediktivního kódování?
Klasické prediktivní kódování trpělo tím, že u hlubokých nebo úzkých sítí chybový signál cestou slábnul a nedorazil do spodních vrstev. PC-ALM tento problém řeší přidáním Lagrangeova multiplikátoru ke každé vrstvě. Ten funguje jako integrační složka (obdobně jako u PI regulátoru) a udržuje stabilní akumulaci chyby bez nutnosti globálního zpětného průchodu.
