Přejít k hlavnímu obsahu

Mistral posílá předpovědi časových řad na CPU bez grafické karty

Ilustrační obrázek
Mistral AI vydal Timestral, svou první rodinu modelů pro předpovídání časových řad. Nejde o chatbot ani jazykový model. Timestral pracuje s čísly, hledá v nich opakující se vzory a vrací několik možných scénářů budoucího vývoje. Největší varianta má 209 milionů parametrů, podporuje až 32 768 historických kroků a při běhu nepotřebuje grafickou kartu.

Timestral není chatbot

Slovo „model“ dnes často automaticky znamená nástroj, který píše text, generuje obrázky nebo odpovídá na otázky. Timestral patří do jiné kategorie. Je určený pro časové řady, tedy posloupnosti čísel zaznamenávaných v čase.

Může jít například o spotřebu elektřiny, teplotu, návštěvnost webu, pohyb zásob, data ze senzorů nebo počet objednávek. Model se z minulých hodnot pokusí odhadnout další vývoj. Nevrací přitom jedinou sebevědomou čáru, která by se tvářila jako jistota. Generuje pravděpodobnostní předpověď v podobě 21 kvantilů. Uživatel tak získá také informaci o nejistotě odhadu.

To je praktický rozdíl. Pro plánování výroby nebo kapacity serverů nestačí vědět, že zítra bude poptávka například 10 000 jednotek. Důležité je také vědět, jak široké je možné rozpětí. Timestral proto může pracovat s více scénáři najednou.

Mistral model popisuje jako zero-shot nástroj. To znamená, že může vytvářet předpovědi i pro data, na kterých nebyl přímo dotrénovaný. Nejde o záruku dobrého výsledku v každém oboru. Výkon závisí na kvalitě dat a na tom, zda se jejich chování podobá vzorům, které model zná z tréninku.

Čtyři velikosti pro různé nasazení

Rodina Timestral obsahuje varianty s 5 miliony, 28 miliony, 123 miliony a 209 miliony parametrů. Největší model Timestral-209M má podle oficiálního oznámení Mistralu 24 vrstev a embedding o rozměru 768.

Parametry samy o sobě nejsou zárukou přesnosti. V tomto případě ale dávají smysl jako orientační údaj pro volbu modelu. Nejmenší verze se hodí tam, kde je důležitá nízká latence. Větší varianty mají obecně lepší výsledky v testech, i když rozdíl mezi 123M a 209M není podle zveřejněných výsledků velký.

Na benchmarku GIFT-Eval dosáhla varianta 5M skóre MASE 0,705. U modelu 28M se hodnota snížila na 0,678, u 123M na 0,659 a u 209M na 0,658. U metriky MASE platí, že nižší číslo je lepší. Rozdíl mezi dvěma největšími variantami je tedy malý.

Podobný obraz nabízí benchmark TIME. Timestral-5M zde dosáhl skóre MASE 0,652, Timestral-28M 0,638, Timestral-123M 0,628 a Timestral-209M 0,626. Samotné výsledky pocházejí z jednoho checkpointu bez ensemble metod, tedy bez kombinování více modelů.

Srovnání s Googlem a dalšími modely

V porovnání zveřejněném v modelové kartě na Hugging Face má Timestral-209M na GIFT-Eval skóre MASE 0,658. TimesFM-3 od Google Research dosáhl 0,667, Toto-2.0-2.5B od Datadogu 0,696 a Chronos-2 od Amazonu 0,698.

Na benchmarku TIME má Timestral-209M hodnotu 0,626. TimesFM-3 zde dosáhl 0,640, Toto-2.0-2.5B 0,642 a Chronos-2 0,662. Ve zveřejněném srovnání tedy Timestral vychází lépe než uvedené konkurenční modely. Jde však o výsledky převzaté z modelových karet a benchmarkových žebříčků, nikoli o nezávislý test v české firmě nebo na konkrétním českém datasetu.

Za pozornost stojí také menší varianta. Mistral uvádí, že Timestral-28M překonal na GIFT-Eval a TIME model Chronos-2, který má přibližně čtyřikrát více parametrů. Výsledek ukazuje, že velikost modelu není jediný faktor. Důležitá je architektura, trénovací data i způsob, jakým model pracuje s různými časovými řadami.

Provoz bez dedikované GPU

Timestral je navržený tak, aby při inferenci běžel na CPU. Mistral testoval model na serverovém procesoru s osmi vlákny. Úloha spočívala v předpovědi jednoho dne z historie tří týdnů, přičemž data byla zaznamenávána po 15 minutách.

Nejmenší Timestral-5M úlohu zvládl za přibližně 10 milisekund. Největší Timestral-209M potřeboval zhruba 140 milisekund. Varianta 28M byla podle Mistralu pětkrát rychlejší než největší model. Timestral-123M se přitom dostal na výsledek vzdálený pouze 0,2 procenta od 209M při nižší latenci.

To neznamená, že každý notebook automaticky zvládne libovolné nasazení bez omezení. Test probíhal na standardním serverovém CPU, nikoli na náhodném kancelářském počítači. Pro menší interní aplikaci nebo dávkové zpracování číselných dat je ale absence GPU praktická. Náklady na provoz nemusí začínat nákupem akcelerátoru.

Jak model pracuje s daty

Timestral používá patch-based transformer. Historická řada se rozdělí do bloků, které model zpracovává podobně jako textový transformer pracuje s částmi vstupní sekvence. Jeden patch obsahuje 32 časových kroků.

Model podporuje jednorozměrné i vícerozměrné předpovědi. Může tedy sledovat jednu hodnotu, ale také několik souvisejících řad současně. U průmyslového zařízení to může být například teplota, tlak a vibrace. U firemních dat mohou společně fungovat objednávky, skladové zásoby a plánované dodávky.

Timestral umí přijmout také takzvané kovariáty. Jde o další údaje, které mohou předpověď ovlivnit. Mohou být známé pouze z minulosti, nebo je lze znát dopředu. Příkladem druhé skupiny je kalendář svátků, plánovaná odstávka nebo výrobní plán.

Kontextové okno má délku až 32 768 historických kroků. V jediném průchodu dokáže model předpovědět až 1 024 kroků dopředu. Při delším horizontu pracuje po blocích. Tyto parametry nejsou univerzálním příslibem přesnosti. Pokud jsou vstupní data nekvalitní, dlouhé okno samo o sobě problém nevyřeší.

Otevřené váhy a dostupnost v Česku

Modelové váhy jsou dostupné pod licencí Modified MIT. Zdrojový kód pro inferenci je zveřejněný v repozitáři s licencí Apache 2.0. Vývojáři si mohou stáhnout checkpointy z Hugging Face a použít kód z oficiálního GitHubu.

Instalace podle modelové karty vyžaduje Python 3.10 nebo novější a PyTorch 2.4 nebo novější. Největší model má ve formátu FP32 přibližně 837 MB. Menší varianty mají výrazně menší soubory, což usnadňuje lokální testování.

Timestral není jazykový model, takže u něj nedává smysl hodnotit českou lokalizaci stejně jako u ChatGPT nebo Claude. Pracuje s číselnými vstupy a česká data může zpracovat tehdy, pokud jsou převedena do očekávaného formátu. Z pohledu dostupnosti je podstatné, že model lze stáhnout a provozovat lokálně v Česku i v dalších zemích Evropské unie.

Mistral uvádí také možnost nasazení on-premise, ve vlastní VPC nebo v odděleném prostředí bez připojení k internetu. Pro veřejné API nebyla v dostupném oznámení uvedena samostatná cena. Timestral je v dokumentaci Mistralu vedený jako Public Preview. Pro lokální použití se tedy neplatí cena za API, ale je nutné počítat s vlastní infrastrukturou a správou modelu.

Pro koho má Timestral smysl

Největší přínos může mít pro týmy, které už sbírají větší množství číselných dat a potřebují je předpovídat bez trénování modelu od nuly. Typickým příkladem jsou senzory, energetika, logistika, výroba, monitoring služeb nebo plánování kapacit.

Pro běžného uživatele počítače Timestral není přímou alternativou k chatbotu. Neumí vést konverzaci ani vysvětlit výsledek běžným jazykem. Může však fungovat jako numerická část širšího systému, kde jiný model následně převede výsledky do reportu nebo upozornění.

Limit zůstává stejný jako u ostatních předpovědních modelů. Benchmark ukazuje chování na konkrétních testovacích sadách, nikoli přesnost na datech každé firmy. Před nasazením je proto nutné model otestovat na vlastních historických datech a porovnat ho s jednoduššími metodami. Timestral je dostupný, otevřený a technicky úsporný, ale jeho vhodnost se musí ověřit na konkrétní úloze.

FAQ

Potřebuje Timestral ke spuštění grafickou kartu?

Ne. Mistral uvádí, že Timestral lze při inferenci provozovat na CPU. Test největší varianty probíhal na serverovém procesoru s osmi vlákny, kde předpověď testované úlohy trvala přibližně 140 milisekund.

Je Timestral vhodný pro textové dotazy v češtině?

Ne. Timestral není jazykový model a negeneruje běžné textové odpovědi. Je určený pro číselné časové řady, například data ze senzorů, spotřebu nebo objednávky.

Kolik Timestral stojí?

Modelové váhy jsou dostupné ke stažení pod licencí Modified MIT a zdrojový kód pod Apache 2.0. Samostatná cena veřejného API nebyla v dostupném oznámení uvedena. Při lokálním provozu je nutné počítat s náklady na vlastní hardware nebo cloud.

Diskuze

Zatím žádné komentáře — buďte první, kdo se podělí o svůj názor.
X

Nezmeškejte novinky!

Přihlaste se k odběru novinek a aktualit.