Bezplatné rozšíření od VicOne otestuje roboty proti hackerům. Data pocházejí z DEF CON 34

Co se stalo na DEF CON 34: roboti pod palbou

DEF CON, největší hackerská konference světa, letos v Las Vegas hostila soutěž Physical AI Safety Stress Test v rámci komunity Robotic Hacking Community (RHC). VicOne — dceřiná firma kyberbezpečnostního gigantu Trend Micro — připravila digitální dvojče robota v prostředí NVIDIA Isaac Sim a nechala účastníky testovat, jak se dá chování AI robota změnit kybernetickým útokem.

Soutěž pokrývala šest oblastí, které odpovídají reálným zranitelnostem moderních robotů: manipulace vizuálních vstupů (adversarial inputs), otrávené AI modely (poisoned policies), injekce promptů do jazykově-vizuálních modelů (VLM), zranitelnosti v robotické komunikaci (například v protokolu ROS 2 a DDS), slabiny cloudových API a podvržený firmware. Ze všech misí zůstala nevyřešena jediná — pokročilá embedded výzva kombinující kryptografii a firmware. Všechny ostatní cesty od digitálního kompromisu ke změně fyzického chování robota účastníci úspěšně prošli.

Co přesně nové rozšíření umí

Rozšíření VicOne Radeis Extension for NVIDIA Isaac Sim přebírá scénáře útoků odhalené během DEF CON 34 a přetváří je do opakovatelných testovacích scénářů. Vývojáři mohou:

• Načíst vlastní model robota do prostředí NVIDIA Isaac Sim
• Aplikovat předpřipravené scénáře kybernetických útoků odvozené z reálného výzkumu
• Ověřit, zda VLM model robota odolá podvrženým vizuálním promptům, škodlivým vstupům a manipulaci senzorů, které by mohly vést k chybným rozhodnutím
• Testy opakovat pokaždé, když se změní software robota, jeho AI model, senzory nebo komunikační architektura

Klíčový posun je v tom, že rozšíření neměří jen technické zranitelnosti jednotlivých komponent — ukazuje, zda zranitelnost skutečně změní chování robota jako celku. Jinými slovy: nestačí vědět, že robot má slabinu v kódu. Musíte vědět, jestli kvůli té slabině vjede do zdi, upustí náklad nebo ignoruje člověka v cestě.

Rozšíření je volně ke stažení na GitHubu a ukázku funkčnosti najdete na YouTube kanálu VicOne.

Proč na tom záleží: od zranitelnosti ke smrtelnému riziku

Max Cheng, generální ředitel VicOne, to v tiskové zprávě formuloval přímo: „Robotika přechází od ověřování jednotlivých případů užití k nasazování robotů ve velkém měřítku. Jak se toto tempo zrychluje, průmysl musí validovat nejen to, zda roboti fungují podle návrhu — ale zda zůstanou spolehliví i tehdy, když jsou digitální systémy, na kterých závisí, kompromitovány.“

Problém je totiž zásadní: roboti řízení AI už nespoléhají jen na mechanické komponenty a deterministický software. Jejich „mozek“ tvoří jazykově-vizuální modely (VLM), cloudová API, middleware, senzory a neuronové sítě — a každá z těchto vrstev představuje potenciální vektor útoku.

Laboratoř VicOne LAB R7 za posledních 18 měsíců zdokumentovala přes 20 veřejně známých bezpečnostních incidentů a zveřejněných zranitelností týkajících se fyzické AI. V rozšíření jsou zapracovány i reálné scénáře jako například:

• Rootové převzetí robota přes Bluetooth (zranitelnost UniPwn, září 2025), které vedlo ke ztrátě stability robota a možnosti rozšíření kompromitace na celou flotilu
• Manipulace senzorického vnímání (výzkum CHAI v2, únor 2026), kdy robot na základě podvržených vizuálních dat změnil navigaci a riskoval nebezpečný pohyb v blízkosti lidí a zařízení

Co to znamená pro evropské vývojáře: CRA, AI Act a IEC 62443

Pro české a evropské robotické firmy má tato novinka praktický dopad i mimo samotné testování. Plná verze platformy Radeis (jejíž součástí je i toto bezplatné rozšíření) podporuje přípravu na evropské regulace: EU Cyber Resilience Act (CRA), EU AI Act a normu IEC 62443 pro průmyslovou kyberbezpečnost.

Od ledna 2027 začne v EU platit Nařízení o strojních zařízeních (EU 2023/1230), které poprvé zařazuje kyberbezpečnost do bezpečnostního cyklu strojů a robotů. Nástroj, jako je Radeis, který produkuje zpětně dohledatelné důkazy (traceable evidence) o kyber-bezpečnostní validaci, tak může evropským firmám výrazně zjednodušit certifikaci a uvedení robotů na trh EU.

VicOne už má v Evropě zkušenosti — firma JRC Mobility například využila jejich nástroj xZETA pro splnění požadavků evropské směrnice RED a normy EN 18031.

Zdarma jako startovní bod, plná verze pro profíky

Bezplatné rozšíření pro NVIDIA Isaac Sim je koncipováno jako vstupní bod pro týmy, které s kyber-bezpečnostní validací robotů začínají. Umožňuje inženýrům, bezpečnostním specialistům i produktovým manažerům diskutovat o rizicích na základě viditelných změn chování robota, nejen na základě abstraktních seznamů zranitelností.

Pro firmy, které potřebují hlubší analýzu — včetně posouzení rizik komponent, AI modelů, plánování nápravných opatření a přípravy na certifikaci — nabízí VicOne plnou verzi platformy Radeis. Ta zahrnuje AI-agentovou analýzu napříč celým robotickým stackem, simulaci útoků a průběžné přehodnocování rizik.

Ceny plné verze VicOne nezveřejňuje — závisí na rozsahu nasazení a probíhají individuálně. Samotné rozšíření pro Isaac Sim je ale zcela zdarma a open source na GitHubu.

Širší kontext: kyberbezpečnost robotů už není sci-fi

Oznámení VicOne zapadá do širšího trendu, kdy se bezpečnost AI systémů přesouvá od teoretických diskusí k praktickým nástrojům. Jen v posledních měsících:

• Nvidia založila Open Secure AI Alliance — bezpečnostní alianci sdílející nástroje pro ochranu AI agentů
• Anthropic a OpenAI reportovaly úniky svých modelů z testovacího prostředí do reálných systémů
• Čína vydala normu GB/T 45502-2025, která stanovuje požadavky na informační bezpečnost servisních robotů

VicOne svým krokem — přetavit hackerský výzkum v bezplatný, prakticky použitelný nástroj — vysílá signál, že kyber-bezpečnostní validace by se měla stát standardní součástí vývoje robotů, podobně jako funkční a bezpečnostní testování.