Přejít k hlavnímu obsahu

Perplexity uvolňuje Numbat: Nový open-source nástroj pro ochranu před nebezpečným chováním AI agentů

Ilustrační obrázek
Společnost Perplexity právě učinila zásadní krok v oblasti bezpečnosti autonomních systémů. Uvolněním open-source nástroje Numbat reaguje na rostoucí rizika spojená s tzv. „accidental meltdowns“ – situacemi, kdy AI kódovací agenti, i když nejsou záměrně škodliví, v rámci své autonomní improvizace překročí bezpečnostní hranice a způsobí reálné škody v produkčních systémech.

Svět vývoje softwaru se během posledních měsíců dramaticky změnil. Už nestačí jen generovat kusy kódu pomocí chatbota; nyní delegujeme celé pracovní postupy na autonomní agenty. Ti dokážou plánovat, volat nástroje a opravovat chyby v reálném čase. Tato nová éra agentních pracovních postupů (Agentic Workflows) však přináší nový druh nebezpečí. Právě proto Perplexity 29. července 2026 představila nástroj Numbat.

Rizika autonomie, která mění pravidla hry

Potřebujeme pochopit kontext. Vzhledem k rostoucímu nasazování autonomních AI agentů v reálném vývoji se odborníci stále častěji setkávají s fenoménem zvaným „accidental meltdowns“. Nejde o cílené útoky hackerů, ale o selhání autonomního procesu: AI kódovací agent dostane úkol, ale při hledání jeho řešení zvolí postup, který překročí bezpečnostní mantinely – například neúmyslně smaže databázi, modifikuje systémová oprávnění nebo otevře nebezpečné síťové spojení.

Tato situace ukázala, že tradiční zabezpečení zaměřené na prompt injection (snaha přimět AI k porušení pravidel pomocí textového vstupu) už nestačí. Dnešním problémem není jen to, co člověk řekne modelu, ale co si model udělá sám, když dostane přílišnou svobodu.

Co je Numbat a jak funguje?

Numbat není komplexní cloudová platforma, ale praktický, přímočarý nástroj. Jde o statický binární soubor napsaný v jazyce Go, který lze spustit na operačních systémech macOS, Linux i Windows (podpora pro architektury amd64 i arm64). To z něj činí ideálního společníka pro lokální vývojáře.

Hlavní vlastnosti Numbatu zahrnují:

  • Pre-action hooks (Předakční záchytné body): Nástroj dokáže v reálném čase zachytit pokus o nebezpečnou akci (např. pokus agenta o smazání systémových souborů nebo neoprávněný síťový provoz) a tuto akci okamžitě zablokovat, než k ní dojde.
  • Lokální forenzní analýza: Na rozdíl od mnoha jiných bezpečnostních řešení Numbat neodesílá vaše citlivé kódy ani transkripty konverzací na cloud. Veškerá data zůstávají na vašem zařízení. Pro potřebu analýzy generuje strukturované záznamy ve formátu NDJSON s využitím kontrolních součtů SHA-256 pro zajištění integrity.
  • Široká podpora agentů: Numbat je přímo kompatibilní s předními kódovacími agenty, jako jsou Claude Code, Codex, OpenCode nebo Pi.

Nástroj pracuje ve dvou režimech. Výchozí nastavení je monitor-only, což znamená, že pouze sleduje chování a reportuje podezřelé aktivity. Pro skutečnou ochranu musí vývojář explicitně nastavit parametr enforce: true, čímž povolí aktivní blokování rizikových příkazů.

Technické parametry v kostce

Parametr Hodnota
Licence Apache 2.0 (Zcela zdarma / Open-source)
Počet pravidel 52 detekčních pravidel v 11 kategoriích
Podporované OS macOS, Linux, Windows

Dopad na český a evropský trh

Pro české vývojáře, startupy i velké technologické firmy v rámci EU je vydání Numbatu velmi důležité. S příchodem EU AI Act se bezpečnostní aspekty autonomních systémů stávají zákonnou povinností. Firmy, které implementují agentní systémy do svých procesů, budou muset prokázat, že mají mechanismy pro kontrolu a monitorování těchto modelů.

Numbat, jako open-source nástroj, nabízí českým firmám cestu, jak splnit nároky na bezpečnost bez nutnosti platit drahé licence za uzavřená komerční řešení. Jelikož je nástroj dostupný globálně a jeho dokumentace je v angličtině (což je standard pro vývojáře v ČR), jeho implementace je okamžitě možná. Pro českou scénu to znamená, že můžeme experimentovat s pokročilými agenty (jako je Claude Code) s mnohem vyšší mírou kontroly nad tím, co se děje na našich lokálních serverech a vývojářských strojích.

Numbat vs. Tradiční bezpečnost

Je důležité rozlišit rozdíl mezi starým a novým přístupem. Tradiční kybernetické zabezpečení se snaží chránit síť před vniknutím neoprávněné osoby. Numbat se však zaměřuje na univerzální selhání autonomního agenta. Agent může mít legitimní oprávnění k práci, ale jeho logické uvažování (reasoning) může vést k rozhodnutí, které je z hlediska bezpečnosti katastrofální. Numbat tedy nehlídá identitu uživatele, ale intenci a chování autonomního procesu.

Tento přístup je součástí širší architektury SPACE, kterou Perplexity představila v polovině července 2026, a která se zaměřuje na izolované spouštění dlouhoběžících agentů v bezpečném prostředí. Projekt byl nyní předán do správy organizace Open Secure AI Alliance ve spolupráci s giganty jako NVIDIA AI, což dodává nástroji vysokou míru důvěryhodnosti.

Je Numbat bezpečný pro můj soukromý kód?

Ano. Jednou z hlavních předností Numbatu je, že všechno zpracování probíhá lokálně na vašem zařízení. Žádné kódy, transkripty nebo data nejsou odesílány do cloudu Perplexity ani jiným třetím stranám.

Kolik stojí implementace Numbatu do firemního prostředí?

Nástroj je vydán pod licencí Apache 2.0, což znamená, že je zcela zdarma pro komerční i osobní využití. Neexistuje žádné předplatné ani skryté poplatky za počet agentů.

Může Numbat zastoupit lidského revizora kódu?

Ne. Numbat je bezpečnostní monitorovací nástroj, nikoliv nástroj pro kontrolu kvality nebo logiky kódu. Jeho úkolem je zabránit nebezpečným akcím (např. smazání dat), ale nenahrazuje lidskou potřebu prověřovat, zda je kód funkční a bez chyb.

X

Nezmeškejte novinky!

Přihlaste se k odběru novinek a aktualit.