Svět umělé inteligence se v posledních měsících posunul od jednoduchých chatbotů k tzv. agentní AI (Agentic AI). Zatímco klasický model jako ChatGPT vám napíše e-mail, AI agent dokáže tento e-mail napsat, poslat, naplánovat schůzku v kalendáři a provést platbu. Tento posun přináší obrovské možnosti, ale zároveň i zcela nové, nebezpečné vektory útoků. GitHub se rozhodl na tuto výzvu reagovat vydáním praktického kurzu, který se zaměřuje na bezpečnost velkých jazykových modelů (LLM).

Co je to GitHub Secure Code Game a proč by vás to mělo zajímat?

GitHub Secure Code Game není jen další teoretický kurz. Jde o hands-on zkušenost, která využívá princip „hackuj, abys pochopil“. Podle oficiálního oznámení na GitHub Blogu je cílem naučit vývojáře identifikovat specifické zranitelnosti, které se v éře AI objevují.

V rámci hry se uživatelé setkávají s scénáři, kde musí pomocí technik jako je prompt injection (vkládání skrytých instrukcí do dotazu) obejít bezpečnostní mantinely AI agenta. Jakmile se podaří model „hacknout“, další krokou je implementace oprav, které zajistí, že model bude odolný vůči podobným útokům v reálném provozu. Tento přístup je klíčový, protože v oblasti bezpečnosti platí, že nejlepší obránce musí být zároveň dobrým útočníkem.

Klíčové koncepty, které si v rámci hry procvičíte:

• Prompt Injection: Snaha přimět model ignorovat jeho původní instrukce a provést akci, kterou by neměl.
• Indirect Prompt Injection: Útok, kdy je zranitelný model napaden skrze externí data (například e-mail nebo webovou stránku, kterou agent čte).
• Data Poisoning: Manipulace s daty použitými k trénování nebo kontextu modelu, což vede k jeho nesprávnému chování.
• Agentic Workflow Security: Zabezpečení procesů, kdy AI má přístup k nástrojům (API, terminál, databáze).

Praktický dopad: Co to znamená pro firmy a vývojáře v ČR?

Pro český technologický sektor, který je silně zastoupen vývojáři pracujícími pro globální trhy, má tento nástroj zásadní význam. S příchodem EU AI Act (Evropského nařízení o umělé inteligenci) se bezpečnostní standardy pro systémy AI stávají právní povinností, nikoliv volbou. Firmy v České republice a na Slovensku, které vyvíjejí vlastní AI aplikace nebo implementují agenty do firemních procesů, budou muset prokázat, že jejich systémy jsou odolné vůči manipulaci.

Pokud vyvíjíte software, který využívá LLM (např. přes API od OpenAI nebo Anthropic), nemůžete předpokládat, že model je „bezpečný ze základu“. Bez znalosti technik, které GitHub nabízí ve své hře, riskujete, že váš agent může být zneužit k exfiltraci citlivých dat nebo k neoprávněným transakcím. GitHub Secure Code Game tedy slouží jako nezbytný tréninkový simulátor pro připravenost na nové standardy bezpečnosti v EU.

Cena, dostupnost a srovnání

Jednou z největších výhod tohoto nástroje je jeho dostupnost. GitHub Secure Code Game je zcela zdarma.

Pokud bychom tento nástroj porovnávali s jinými platformami pro výuku kybernetické bezpečnosti, situace vypadá následovně:

Je důležité poznamenat, že kurz je dostupný v angličtině. Pro české uživatele to znamená, že k plnému pochopení terminologie budou potřebovat dobrou znalost anglického jazyka, což je však v tech komunitě standardem. Samotný nástroj však není lokalizován do češtiny.

Shrnutí: Proč se do toho pustit hned?

AI agentní systémy už nejsou vzdálenou budoucností; jsou součástí současných enterprise řešení. Schopnost zabezpečit tyto systémy je jednou z nejžádanějších dovedností na trhu práce v roce 2026. GitHub díky této hře poskytuje cestu, jak se tyto komplexní problémy naučit prakticky, místo aby se pouze studovaly v suchých dokumentech. Pro českého vývojáře je to ideální příležitost, jak si zvýšit svou hodnotu na trhu a zajistit, aby jeho aplikace splňovala přísná kritéria bezpečnosti v rámci EU.