Přejít k hlavnímu obsahu

Beck a Mikolov zrychlili lokální AI: model přemýšlí o polovinu méně a odpovídá až 10× rychleji

Ilustrační obrázek
Jaroslav Beck, kterého Česko zná hlavně jako autora hry Beat Saber, a Tomáš Mikolov, autor slavného algoritmu Word2vec, společně rozjeli startup BottleCap AI. Jejich čerstvý model ThinkingCap ukazuje, že rychlost umělé inteligence se nemusí kupovat jen drahým hardwarem — stačí model naučit, aby zbytečně nepřemýšlel. Počet „přemýšlecích kroků" zkrátili v průměru na polovinu a u některých úloh je generování odpovědi až desetkrát rychlejší.

Kdo za BottleCap AI stojí a proč je to zajímavé

Nejde o další anonymní AI startup. Tomáš Mikolov je jedním z nejcitovanějších českých vědců v oblasti umělé inteligence — ve firmách Google a později Facebook (Meta) stál u zrodu metody Word2vec, která naučila počítače chápat slova jako čísla. Jaroslav Beck zase proměnil ryze český projekt Beat Saber v jednu z nejúspěšnějších VR her, kterou koupila Meta. Třetím do party je vývojář David Herel.

Do firmy letos v lednu přiteklo první externí investiční kolo ve výši 7,5 milionu dolarů, tedy přes 150 milionů korun. Vedl ho britský fond 20VC, přidal se český Rockaway Ventures a řada zakladatelů firem jako Canva, ElevenLabs, Hugging Face, Datadog či Supercell. Investoval také zakladatel Seznamu Ivo Lukačovič. Sám Beck do rozjezdu předtím vložil zhruba čtvrt miliardy korun z prodeje Beat Saberu.

ThinkingCap: méně přemýšlení, stejná odpověď

Abychom pochopili, co BottleCap AI dělá, musíme si nejdřív vysvětlit, co znamená „thinking token". Když dnes pošlete složitou otázku pokročilému modelu, ten si v hlavě — ještě než odpoví — prochází řadu mezikroků. Připomíná to člověka, který si při počítání nahlas opakuje postup. Tyhle kroky se modelům počítají a platí stejně jako výsledný text, takže zpomalují odpověď a žerou výkon.

Model ThinkingCap, postavený na architektuře Qwen3.6-27B od čínské Alibaby, se nesnaží být chytřejší. Snaží se odstranit to, co autoři označují za zbytečné přemýšlení: opakované přeformulovávání téhož argumentu, zacyklení nebo zdlouhavé vysvětlování tam, kde stačí rovnou napsat výsledek. Výsledek? Podle měření BottleCap AI klesl počet thinking tokenů v průměru zhruba na polovinu, při zachované přesnosti. U konkrétních příkladů je generování až desetkrát rychlejší. Model je volně ke stažení na Hugging Face.

To je zásadně jiná filozofie než u velkých laboratoří. OpenAI, Google DeepMind nebo Anthropic sázejí hlavně na masivní výpočetní výkon. BottleCap AI jde opačnou cestou: z téhož modelu vytěžit víc při nižších nárocích na hardware. „Většina velkých laboratoří hraje hru čistě o výpočetní výkon. My se soustředíme na efektivitu algoritmu a testujeme na malých modelech," vysvětluje Beck.

Digitální mozek Bob: AI, která běží v obýváku

Nejlépe se filozofie firmy projevuje na Beckově osobním projektu, kterému říká Bob. Je to jeho „digitální mozek" — soustava tří propojených počítačů, kterou si sám sestavil a která běží čistě lokálně, bez připojení k cizím cloudovým serverům. Hlavním strojem je Mac Studio s 512 GB operační paměti, na kterém běží upravený model qwen3.5-397b-a17b-mlx. Vedle něj stojí starší Mac Mini z roku 2019 pro rychlé, jednoduché dotazy a Nvidia Spark DGX pro méně náročné úlohy, kde už původní model nahradil právě ThinkingCap.

Jak je možné, že model se 397 miliardami parametrů běží na domácím počítači? Klíč je v onom „a17b" v názvu. Jde o takzvanou Mixture-of-Experts architekturu: model sice váží 397 miliard parametrů, ale při každém dalším slově aktivně použije jen zhruba 17 miliard z nich. Je to jako velká firma, kde pro konkrétní úkol zasedne jen úzký tým specialistů, zatímco zbytek odpočívá. Díky tomu se model vejde do paměti, kterou si dnes pořídíte i do pracovny.

Beck do Boba po čtyřech měsících každodenního používání nahrál prakticky celou svou digitální stopu — všechny rozhovory, články i poznámky od osmnácti let. Systém je natrénovaný tak, aby mu oponoval z pohledu „prvotních principů": napadá slabé předpoklady, upozorňuje na nepodložená tvrzení a srovnává nové nápady s chybami z minulosti. Podle Becka mu už třeba doporučil pustit investiční příležitost, protože v jeho historii z roku 2020 našel podobný vzorec, který tehdy nikam nevedl — a Beck si na to sám ani nevzpomněl.

Proč běh bez cloudu není rozmar

Základní argument pro lokální modely je bezpečnost a nezávislost. Beck říká, že není komfortní s tím, aby kompletní otisk jeho myšlení ležel na serverech OpenAI nebo Anthropicu. Nedávná omezení přístupu k cloudovým modelům po zásahu americké vlády podle něj ukázala, jak snadno lze být odříznutý od nástrojů, na kterých firma stojí.

Největší brzda lokálních modelů je ale praktičtější: rychlost. „Když se Boba zeptám na něco složitějšího, trvá mu to i dvě minuty. A čekat dvě minuty na odpověď nikdo nechce," přiznává Beck. Přesně tuhle díru má zaplnit ThinkingCap — zkrátit přemýšlení tak, aby se lokální AI vyplatila i pro běžnou práci. S tím souvisí i nástroj AI scan, který firma vyvíjí pro měření skrytých posunů a předpojatostí v modelech: u cloudových systémů totiž nikdo zvenčí nevidí, kdo a jak odpovědi ručně upravoval.

Robot Jarmil a otázka, kdy přijde AGI

Mimo firmu má Beck ještě jednoho soukromého žáka: humanoidního robota Jarmila, konkrétně model Unitree G1. Po večerech ho trénuje k autonomním úkonům — včetně sbírání vajíček v kurníku. V červnu Jarmil poprvé zvládl plně samostatný úkol: najít plechovku a přemístit ji do označené krabice.

Zajímavý je i způsob, jakým se Beck učí. Původní trénink přes simulaci Nvidia Isaac opustil, protože vyžadovala hardware za přes 100 tisíc korun, trápily ji bugy a hrozilo poškození komponent. Místo toho trénuje přímo na fyzickém robotovi, kterého si dnes koupíte za pár tisíc dolarů. Beck zdůrazňuje, že virální videa robotů dělajících parkour jsou většinou jen teleoperace — stroj ovládá na dálku člověk. Skutečný zlom prý přijde, až robotovi řeknete, ať uklidí myčku, a on to spolehlivě udělá sám. Odhaduje to tak na deset let.

Co si z toho vzít pro Česko

BottleCap AI je pozoruhodný hlavně tím, že jde o fundamentální českou technologii — ne další obal kolem cizího modelu. Beck to zdůrazňuje schválně: „Drtivá většina věcí, co dnes vidíme na trhu, jsou startupy stavějící na modelech od OpenAI nebo Anthropicu. Není to nutně špatně, ale je to ohromně riskantní — nikdy nevíš, kdy model tvoji funkci přidá nativně."

Pro běžného čtenáře to má praktický důsledek: pokud firma uspěje, mohli bychom se dočkat modelů, které běží na dostupném hardwaru, rychle odpovídají a neposílají vaše data do cizího cloudu. Otevřené modely jako Qwen, na kterých BottleCap staví, jsou navíc zdarma — platíte jen vlastní železo. Cesta k lokální AI, která nezdržuje, je přesně to, co dnes schází, a Beck s Mikolovem na ni vsadili celou firmu.

Je ThinkingCap samostatný model, nebo úprava něčeho cizího?

ThinkingCap je vylepšená verze open-source modelu Qwen3.6-27B od čínské Alibaby. BottleCap AI ho netrénoval od nuly, ale upravil tak, aby model zbytečně neplýtval přemýšlecími kroky — výsledkem je zhruba poloviční počet thinking tokenů při srovnatelné přesnosti.

Mohu si něco jako „digitální mozek Bob" postavit doma?

Principiálně ano. Klíčem jsou otevřené modely typu Qwen, které běží lokálně na dostupném hardwaru. Sestava se třemi počítači včetně Mac Studia s 512 GB RAM je ale nadstandard — na běžné úkoly vám dnes stačí podstatně menší lokální model, který zvládne i běžný počítač s výkonnou pamětí.

Bude robot jako Jarmil běžně dostupný?

Humanoidní robot Unitree G1, kterého Beck používá, už koupit lze za částku v řádu tisíců dolarů. Trénink k autonomním úkonům je ale zatím výsada nadšenců a výzkumníků — spolehlivé, bezpečné zvládání běžných domácích prací Beck sám odhaduje zhruba na deset let dopředu.

Diskuze

Zatím žádné komentáře — buďte první, kdo se podělí o svůj názor.
X

Nezmeškejte novinky!

Přihlaste se k odběru novinek a aktualit.