Akamai, firma, která stojí za velkou částí světové internetové infrastruktury, vydala pravidelné shrnutí stavu internetu. Tentokrát se soustředí na agentní AI, tedy na asistenty, kteří neodpovídají jen na dotazy, ale sami provádějí kroky za uživatele. Hlavní závěr je jednoduchý: firmy pořád řeší bezpečnost lidí, ale málo se věnují strojům, které za ně pracují.
MCP: propojení, které bezpečnostní týmy přehlížejí
Klíčovým pojmem zprávy je MCP, zkratka pro Model Context Protocol. Je to otevřený standard, který od listopadu 2024 umožňuje AI asistentům připojit se k dalším nástrojům a datům. V praxi to znamená, že chatbot může číst vaši poštu, otevřít kalendář nebo vstoupit do firemního systému. Bezpečnostní týmy tento bod řadí ve svých prioritách na poslední místo.
Richard Meeus, ředitel bezpečnostní strategie a technologie pro region EMEA ve společnosti Akamai, to označuje za stínovou hrozbu. Čím víc firem bude přes MCP propojovat své systémy, tím víc ploch se otevře útočníkům. Podle něj se z podceňovaného bodu rychle stane aktivní cesta útoku.
Deset druhů útoků na agenty
Organizace OWASP, která se zabývá bezpečností aplikací, sestavila beta seznam deseti hlavních hrozeb pro MCP, označovaný jako OWASP MCP Top 10. Útočníci se podle něj nesnaží zmást myšlení modelu, ale míří na to, jak agent vykonává úkoly. Mezi typické postupy patří špatné zacházení s přístupovými tokeny, postupné rozšiřování oprávnění a takzvané otravování nástrojů, kdy se do podkladů pro agenta podstrčí škodlivý obsah.
Pro běžného čtenáře to znamená jedno: nebezpečný není jen samotný chatbot, ale i nástroje, ke kterým ho pustíte. Agent, který má přístup k firemnímu úložišti, může nevědomky provést škodlivý pokyn, který mu někdo podstrčil.
Čtyři z deseti lidí mají rizikové rozšíření
Nejkonkrétnější číslo ze zprávy se týká prohlížečů. Akamai uvádí, že 40 procent uživatelů má nainstalované potenciálně rizikové AI rozšíření. Nejde přitom jen o podezřelé doplňky, ale i o běžně vypadající nástroje, které slibují gramatiku, shrnutí textu nebo překlad.
Problém je v tom, jak tato rozšíření pracují. Mívají nepřetržitý a tichý přístup k obsahu stránek, k přihlašovacím souborům cookie i k tomu, co právě píšete. Klasické blokování podle seznamu zakázaných adres už podle Akamai nestačí, protože rozšíření se chovají jako trvalý pozorovatel, ne jako jednorázová návštěva podezřelé stránky.
Řídit chování, ne jen identitu
Doporučení Akamai se dá shrnout do jedné věty: přestaňte hlídat jen to, kdo k čemu přistupuje, a začněte hlídat, co daný stroj reálně dělá. V praxi to znamená kombinaci ochran na okraji sítě, filtrů pro rozhraní API, takzvaných AI firewallů a kontrol pro MCP, které sledují chování autonomních systémů v reálném čase a reagují na anomálie.
Meeus zdůrazňuje, že automatizace musí zůstat pod dohledem člověka. Míra samostatnosti agenta by podle něj měla odpovídat tomu, jak snadno lze jeho akci ověřit a vzít zpět. K tomu se přidává princip nulové důvěry, kdy každý požadavek dostane jen minimální nutná oprávnění, a segmentace sítě, která omezí škody při případném průniku.
Co to znamená pro české firmy
Téma má i český rozměr. Od ledna 2025 platí v Česku nový zákon o kybernetické bezpečnosti, zákon č. 226/2024 Sb., kterým se do tuzemského práva zavádí evropská směrnice NIS2. Ta se týká většího počtu organizací než dřív a mimo jiné požaduje zabezpečení dodavatelského řetězce, včetně služeb a nástrojů, které firma používá. AI rozšíření prohlížeče a agenti napojení přes MCP do tohoto obrázku spadají.
Národní úřad pro kybernetickou a informační bezpečnost (NÚKIB) vede registr povinných subjektů a kontroluje, jak firmy opatření plní. Pro menší firmu to v praxi znamená mít přehled o tom, jaké doplňky a AI nástroje zaměstnanci používají, a umět zdůvodnit, proč jim dáváte přístup k datům.
Co udělat hned
Pro jednotlivce i menší firmu stačí začít jednoduše. Udělejte si seznam všech rozšíření prohlížeče, nejen těch AI, a projděte, jaká oprávnění a jaký přístup k datům mají. Riziková a nepotřebná rozšíření odstraňte a u zbytku vytvořte seznam povolených nástrojů.
Druhý krok je nastavit, co smí člověk do AI aplikací vkládat. Firemní data, osobní údaje nebo hesla do chatbota nepatří, a to ani do toho nejlépe vypadajícího rozšíření. Zpráva Akamai doporučuje řídit, co uživatelé do AI nástrojů kopírují a vkládají, a nastavovat pravidla podle rizika konkrétního uživatele a aplikace.
Bezpečnost se tu potkává s návyky. Samotné technické opatření nestačí, pokud lidé dál vkládají citlivé údaje do neznámých doplňků. Změna chování je podle Meeuse stejně důležitá jako nový firewall.
Jsou všechna AI rozšíření prohlížeče nebezpečná?
Ne. Riziko se týká především rozšíření od neznámých tvůrců, s nadbytečnými oprávněními nebo bez jasné historie. Zpráva Akamai mluví o „potenciálně rizikových“ rozšířeních, nikoli o tom, že by každé AI rozšíření škodilo. Rozhodující je, k jakým datům má doplněk přístup.
Co je to MCP a týká se mě, když nejsem vývojář?
MCP je zkratka pro Model Context Protocol, standard pro připojení AI asistentů k dalším nástrojům a datům. Vás se týká nepřímo: pokud firma nebo aplikace přes MCP propojí chatbota s vaším účtem, přebíráte rizika z toho plynoucí. Rozhodující je, komu a čemu dáte přístup.
Musím se hlásit u NÚKIB, když používám AI nástroje?
Povinnost registrace se týká subjektů, které spadají pod zákon č. 226/2024 Sb. o kybernetické bezpečnosti. Obyčejný uživatel ani malá firma mimo vymezené kategorie se hlásit nemusí. Zásady bezpečné práce s AI se ale vyplatí dodržovat každému.
