Obrázek
Perplexity uvolňuje Numbat: Nový open-source nástroj pro ochranu před nebezpečným chováním AI agentů
Společnost Perplexity právě učinila zásadní krok v oblasti bezpečnosti autonomních systémů. Uvolněním open-source nástroje Numbat reaguje na rostoucí rizika spojená s tzv. „accidental meltdowns“ – situacemi, kdy AI kódovací agenti, i když nejsou záměrně škodliví, v rámci své autonomní improvizace překročí bezpečnostní hranice a způsobí reálné škody v produkčních systémech.
Svět vývoje softwaru se během posledních měsíců dramaticky změnil. Už nestačí jen generovat kusy kódu pomocí chatbota; nyní delegujeme celé pracovní postupy na autonomní agenty.