Ternary Bonsai 2 27B
Open-weight model pro lokální běh v ternární kvantizaci: 27 miliard parametrů, kontext 262 tisíc tokenů a v našem měření 41,5 tokenu za sekundu.
Porovnat tento model s jinými →
Základní údaje
| Výrobce | Prism ML (Bonsai) |
|---|---|
| Kontextové okno | 262 144 tokenů |
| Parametry | 27.00 mld. |
| Vstup | text,image |
| Výstup | text |
| Provoz | local |
Ceny a licence
Model se neprodává přes API — k dispozici jsou váhy ke stažení, cena je tedy jen za vlastní hardware.
Licence: apache-2.0 komerční použití povoleno · licenční text
Naše měření v AI Aréně
Tohle jsou naše vlastní naměřené hodnoty, ne údaje výrobce. Měřeno na jednom konkrétním hardwaru a s konkrétní kvantizací, proto se čísla nedají přenášet na jiný stroj.
| Dokončených testů | 5 |
|---|---|
| Rychlost (Ø) | 41.5 tokenů/s |
| Špička VRAM | 8,1 GB |
| Ø skóre kvality | 7 |
Co to znamená pro vás
Ternary Bonsai 2 27B od Prism ML je model postavený na Qwen3.8-27B, který místo běžných čtyř nebo osmi bitů na váhu používá ternární hodnoty — zhruba 1,7 bitu na váhu — a přesto si drží použitelnou kvalitu. Kontextové okno má 262 144 tokenů a díky hybridní pozornosti, kde je asi tři čtvrtiny lineární, zůstává na lokálním hardwaru praktický. Váhy jsou pod licencí Apache 2.0, tedy i pro komerční nasazení bez dalších podmínek; běží v llama.cpp s vlastními ternárními hybrid-attention kernely pro CUDA a Metal, vizuální věž se dodává jako samostatný Q8_0 pack, takže model zvládá i obrázky na vstupu. V AI Aréně jsme ho změřili na pěti testech: průměrně 41,5 tokenu za sekundu a skóre kvality 7 z 10 — jde o jedno z nejrychlejších lokálních měření v katalogu při velikosti 27 miliard parametrů.
Model se dá provozovat i lokálně. Spočítejte si potřebnou VRAM v naší kalkulačce →
Alternativy
- Qwen3.8-27B — Alibaba (Qwen), váhy ke stažení
- Qwen3-32B — Alibaba (Qwen), váhy ke stažení
- Gemma 4 12B — Google, váhy ke stažení
Články o tomto modelu
Časté otázky
Co znamená ternární model?
Váhy nabývají jen tří hodnot místo obvyklých šestnácti nebo sta. Model tak zabere zhruba 1,7 bitu na váhu, tedy několikrát méně paměti než čtyřbitová kvantizace, a při stejném hardwaru se vejde víc kontextu.
Je licence opravdu volná?
Ano. Prism ML vydává váhy pod Apache 2.0, tedy včetně komerčního použití a bez podmínek na obrat nebo atribuci v uživatelském rozhraní.
Údaje o modelu pocházejí z dokumentace výrobce; ceny z oficiálního ceníku (odkaz výše, datum ověření uvedeno). Naměřené hodnoty jsou naše vlastní měření v AI Aréně na konkrétním hardwaru — u každého testu je uvedena metodika. Našli jste chybu nebo změnu ceny? Napište nám.