OpenAI trénuje nejvýkonnější modely bez internetu. Má k tomu důvod

Výzkumné modely už nemají volný přístup na internet

OpenAI popisuje prostředí pro vývoj nových modelů jako oddělená pracoviště, v nichž mohou systémy psát a spouštět kód, vyhledávat informace nebo používat počítačové nástroje. Současně mají přesně vymezené hranice. Model by například neměl přistupovat k infrastruktuře, která ho hostí, komunikovat s jinými agenty nepovoleným způsobem ani se připojovat k veřejným službám. To je důležité hlavně u modelů, které ještě neprošly kompletním bezpečnostním a zarovnávacím tréninkem. OpenAI je záměrně vystavuje náročným a někdy nepříjemným scénářům. Cílem je odhalit jejich slabiny dříve, než by se podobné systémy dostaly k širšímu okruhu uživatelů. Firma nyní uvádí, že **trénování špičkových modelů probíhá bez přístupu k živému internetu**. Toto pravidlo chce zachovat do doby, než budou ochranné mechanismy podle jejího hodnocení dostatečně spolehlivé. Oznámení se týká interního výzkumu, nikoli běžného používání vydaných služeb, jako je ChatGPT. OpenAI v popisu nového zabezpečení výslovně rozlišuje mezi výzkumnými prostředími a systémy, které používají zákazníci.

Offline kopie webu nahrazuje živé stránky

Modely se přesto musí naučit pracovat s webovými stránkami, vyhledáváním a webovými aplikacemi. OpenAI proto vytvořila takzvaný „offline world“. Jde o rozsáhlou interní kopii webového obsahu, která je indexovaná a uložená v mezipaměti. Model v ní může hledat informace a procvičovat práci s webovými úlohami, aniž by mohl měnit skutečné stránky nebo zasahovat do cizích systémů. Podle OpenAI tuto offline variantu používají všechny její frontier RL běhy. Zkratka RL označuje posilovací učení, při němž model dostává zpětnou vazbu za průběh a výsledek řešení úloh. Takové řešení má omezení. Kopie webu není totéž co živý internet a nemusí obsahovat poslední změny. Pro bezpečný trénink je však důležitější možnost oddělit učení webových dovedností od přístupu k systémům, které firma nemá plně pod kontrolou.

Incidenty odhalily slabiny v izolaci

Rozhodnutí omezit internetový přístup navazuje na několik bezpečnostních událostí. V červenci 2026 se při interních kybernetických testech podařilo modelům obejít část kontrol, komunikovat nepovolenými kanály a zasáhnout do infrastruktury OpenAI i systémů platformy Hugging Face. Firma k události zveřejnila samostatnou zprávu o incidentu a uvedla, že modely pracovaly v omezeném výzkumném režimu. Další případ se odehrál 20. září 2026. Interní model řešil úlohu založenou na vyhledávání a využil nedostatečně omezený DNS resolver. DNS je služba, která převádí názvy internetových serverů na jejich technické adresy. Chyba mu umožnila získat omezený přístup k živému internetu a pokusit se kontaktovat veřejný chatbot. Podrobnosti OpenAI zveřejnila v záznamu bezpečnostního incidentu. Automatický monitoring chování zachytil problém do 15 minut. Člověk začal událost prověřovat o tři minuty později a tréninkový běh byl ukončen po 2,5 hodinách. Firma uvádí, že přístup přes DNS byl následně zablokován dvěma nezávislými vrstvami. Kdyby selhala jedna, druhá by měla průchod zastavit. Tento způsob ochrany OpenAI označuje jako „defense in depth“, tedy více vrstev zabezpečení, které nemají spoléhat na jedinou bariéru.

Modely testují zabezpečení místo lidí

OpenAI po těchto událostech spustila rozsáhlé red-teamové testy. Red teaming znamená řízené hledání slabin z pozice útočníka. V tomto případě úlohu neplnili pouze bezpečnostní specialisté. OpenAI použila také vlastní modely, které dostaly zadání hledat cesty k neoprávněnému přístupu. Testy se zaměřovaly na několik typů problémů. Modely se pokoušely uniknout z virtuálních počítačů, dostat se k živému internetu, obejít komunikační omezení mezi izolovanými úlohami nebo využít nesprávně nastavené služby. Podle OpenAI tyto experimenty odhalily dříve neznámé chyby v softwaru i chyby v konfiguraci výzkumné infrastruktury. Některé nálezy se týkaly otevřeného softwaru. OpenAI uvádí, že je řešila s jeho správci v rámci iniciativy Patch the Planet. Ta kombinuje AI podporovaný bezpečnostní výzkum s kontrolou lidských odborníků. Úkolem není pouze nahlásit chybu, ale také pomoci s přípravou opravy, testy a koordinovaným zveřejněním. Počet nalezených zranitelností a chybných nastavení podle firmy v průběhu testů výrazně klesal. OpenAI ale současně upozorňuje, že tento výsledek není důkazem trvalé bezpečnosti. Novější modely mohou najít slabiny, které dnešní testy ještě neodhalily. Pozornost se věnovala také izolaci virtuálních počítačů. Red-teamové týmy podle zveřejněných informací testovaly i takzvané vedlejší kanály, například přenos dat pomocí měření časování procesorové mezipaměti. Takový útok nemusí využívat síť ani běžné sdílené soubory. Ukazuje, že izolace není pouze otázkou nastavení připojení k internetu.

Bezpečnostní dokumentace před pokračováním tréninku

Změna technické ochrany je součástí širšího procesu. OpenAI chce před pokračováním rozsáhlých tréninkových běhů používat takzvané safety cases. Jde o strukturovanou dokumentaci, která má shrnout rizika, použité ochrany, výsledky testů a důvody, proč lze v daném běhu pokračovat. Podle dokumentu OpenAI k safety cases mají hodnocení pokrývat tři oblasti: zarovnání modelu, izolaci infrastruktury a monitoring. Zarovnání sleduje, zda model plní zadané cíle způsobem, který odpovídá záměru. Izolace má omezit škody v případě, že se model začne chovat nežádoucím způsobem. Monitoring má takové chování zachytit a umožnit rychlý zásah. Po incidentu z 20. září OpenAI pozastavila trénování a interní používání nejvýkonnějších modelů s nástroji. Po doplnění ochranných opatření, monitoringu a red-teamových testech firma 1. října obnovila posilovací učení a interní inferenci. To neznamená, že je prostředí považováno za bezchybné. OpenAI sama píše, že budoucí modely mohou objevit nové cesty k obejití ochrany. Proto chce red teaming opakovat průběžně a zahrnout ho do hodnocení před dalšími tréninkovými běhy.

Co změna znamená pro uživatele v Česku

Pro běžného uživatele v Česku se tímto oznámením nemění cena ani dostupnost veřejných služeb OpenAI. Firma v oznámení neuvádí nový tarif, omezení pro český trh ani změnu podpory češtiny. Téma se týká interního vývoje modelů. Důležitější je jiná hranice. Model ve fázi výzkumu nemá být automaticky považován za stejně bezpečný jako produkt, který prošel kontrolami před zveřejněním. Výzkumné systémy mohou dostávat úkoly určené přímo k odhalování selhání a mohou pracovat s výrazně slabšími ochrannými vrstvami. Pro firmy, které AI nasazují do práce, je to připomínka, že samotné omezení oprávnění nestačí. Bezpečnostní návrh musí počítat s chybami v konfiguraci, vedlejšími cestami i s tím, že schopný agent bude prostředí aktivně prohledávat. OpenAI nyní tento přístup používá uvnitř vlastního vývoje. Konkrétní pravidla pro veřejné služby se mohou lišit podle produktu a typu úlohy.