AI zkracuje kontext, ale může při tom zapomenout vaše pravidla

AI si pamatuje úkol, ale zapomene, jak ho má provést

Moderní jazykové modely pracují s takzvaným kontextovým oknem. Jde o množství textu, které mohou současně „vidět“ a použít při tvorbě odpovědi. Do tohoto prostoru se počítá aktuální dotaz, předchozí zprávy, výsledky nástrojů i další informace potřebné pro práci agenta.

U krátkého chatu si toho člověk obvykle nevšimne. Problém vzniká u dlouhých relací, například při několikahodinovém programování, rešerši, práci s e-maily nebo řízení více kroků přes externí nástroje. Jakmile se kontext blíží limitu, systém musí část historie zkrátit. V praxi vytvoří souhrn, který nahradí původní konverzaci.

Tomuto procesu se říká context compaction, česky zkrácení nebo kompakce kontextu. Přirovnat ho lze k poznámkám po dlouhé poradě. Dobré poznámky zachovají úkoly, termíny a rozhodnutí. Horší verze si zapamatuje, že se má připravit prezentace, ale už ne to, že ji před odesláním musí někdo schválit.

Právě tento rozdíl zkoumá práce Lost in Compaction: Evaluating Side-Constraint Loss under Context Compaction, kterou v srpnu 2026 zveřejnili výzkumníci z Pennsylvania State University. Výsledky následně popsal také The Decoder.

Nejzranitelnější jsou dočasná pravidla

Výzkumníci pro tento typ pokynů používají označení side constraints, česky vedlejší omezení. Sekundární článek používá také označení „session constraints“. Jde o instrukce, které platí po zbytek konkrétního sezení, ale nejsou hlavním úkolem. Typickým příkladem je věta „před každou změnou se mě nejdříve zeptej“, „bez mého potvrzení neposílej e-mail“ nebo „v odpovědích nepoužívej moje jméno“.

Takové pravidlo není totéž jako systémová instrukce, která řídí celé chování aplikace, ani jako trvalá uživatelská preference uložená v profilu. Je to spíše provozní poznámka přilepená ke konkrétní konverzaci. A právě proto ji kompakční systém snadno vyhodnotí jako méně důležitou.

Souhrn má obvykle zachovat hlavní cíl, dosavadní stav a další krok. Vedlejší podmínka se do této logiky nevejde tak pohodlně. Výsledkem může být situace, kdy agent stále ví, že má upravit kalendář, ale už neví, že změnu nesmí provést bez potvrzení.

To není jen kosmetická chyba ve stylu odpovědi. U systému napojeného na e-mail, kalendář, firemní databázi nebo nástroje pro práci se soubory může jít o bezpečnostní problém. Agent může provést akci bez schválení, zveřejnit informaci, kterou měl držet v soukromí, nebo přeskočit kontrolní krok.

Benchmark COMPINT ukázal výrazný propad

Autoři studie vytvořili sadu testů COMPINT. Ta zkoumá, zda se uživatelská omezení zachovají ve třech prostředích: při dlouhé vícekolové konverzaci, v agentním pracovním postupu s nástroji a při dlouhodobé výzkumné úloze.

V průměru si testované kompaktory zachovaly pouze 17 procent vložených omezení. Výzkum zároveň uvádí, že většina testovaných nastavení dopadla hůře než varianta bez kompakce. Jinými slovy, systém sice díky zkrácení zvládne pokračovat v práci, ale jeho schopnost respektovat původní pravidla se může propadnout téměř k úrovni, jako kdyby žádné omezení nikdy nedostal.

U nezkráceného kontextu se míra dodržování pravidel podle prostředí pohybovala přibližně mezi 59 a 71 procenty. Po kompakci klesala u většiny testovaných variant výrazně níže. Ani speciálně upravené instrukce pro kompaktor, které mu výslovně říkaly, aby uživatelská omezení zachoval, se podle studie nedostaly nad 40 procent v nejtěžších případech.

Výsledky ale není možné číst jako univerzální hodnocení všech chatbotů. Studie testovala konkrétní kompakční postupy, datové sady a modely. Neříká, že každý ChatGPT, Gemini nebo Claude automaticky zapomene 83 procent vašich instrukcí. Ukazuje však, že jde o systematickou slabinu návrhu, nikoli o ojedinělou chybu jediného systému.

GPT-5.4-mini se v některých scénářích vymykal

V tabulkách studie se objevuje také GPT-5.4-mini. Jeho výsledky se mezi různými nastaveními a datovými sadami výrazně lišily. V některých scénářích překonal základní varianty, v jiných si vedl podstatně hůře. To je důležitý detail: samotné použití většího nebo novějšího modelu problém automaticky neřeší.

Chyba totiž nemusí vzniknout při generování odpovědi. Vzniká o krok dříve, ve chvíli, kdy systém rozhoduje, co z původní historie vloží do nového souhrnu. Je to spíš problém správy paměti než klasického „halucinování“.

Jednoduchá oprava: oddělit pravidla od shrnutí

Výzkumníci navrhli modul, který běží vedle hlavního kompaktoru. Při každém uživatelském vstupu hledá instrukce platné pro zbytek sezení a ukládá je do samostatného seznamu. Když dojde ke kompakci, seznam se připojí k novému souhrnu.

V testu k tomu použili menší model Qwen3.5-9B. Nešlo o jeho přeškolení ani o změnu hlavního agenta. Modul pouze průběžně rozpoznával pravidla a udržoval jejich strukturovaný registr.

Výsledky byly výrazně lepší než u běžné kompakce. Retence dosáhla 95,6 procenta v prostředí Hermes Agent, 95,1 procenta při dlouhodobém výzkumu a 90,3 procenta v datové sadě WildChat. Průměr napříč třemi prostředími činil 93,7 procenta.

Řešení samozřejmě něco stojí. Každý uživatelský vstup musí projít dalším modelem, takže přibývá výpočetní práce, latence a provozní složitost. Pro některé kritické agenty může jít o přijatelnou cenu. U obyčejného chatbota může být zbytečná.

Implementace a testovací kód jsou k dispozici jako open-source projekt na GitHubu. Nejde tedy o placený nástroj určený běžným českým uživatelům, ale o výzkumný základ pro vývojáře agentních systémů. Studie neuvádí spotřebitelskou cenu ani hotovou službu s českou lokalizací.

Co to znamená pro používání AI v Česku

Pro uživatele v Česku nebo Evropské unii z toho neplyne, že by bylo nutné přestat používat dlouhé konverzace. Praktické pravidlo je ale jednoduché: pokyn důležitý pro bezpečnost neopírejte pouze o starší část chatu.

Pokud agent pracuje s e-mailem, soubory nebo kalendářem, je rozumné klíčové omezení zopakovat těsně před akcí. Například místo jednorázového „vždy se mě zeptej před odesláním“ použít před konkrétním krokem „tento e-mail zatím neposílej, nejdříve mi ukaž návrh“. Není to elegantní, ale funguje to podobně jako opakované potvrzení PINu před bankovní operací.

Pro firmy je důležitější architektura. Bezpečnostní pravidla by neměla zůstat pouze v běžném textovém kontextu. Kritické akce musí chránit oprávnění na úrovni nástroje, potvrzovací dialog, auditní log nebo pevné pravidlo v agentním rozhraní. Jestli systém opravdu nesmí poslat e-mail bez souhlasu, neměl by se spoléhat jen na to, že si model vzpomene na větu z předchozí konverzace.

Studie Penn State tak upozorňuje na praktický limit dlouhého kontextu. Větší paměť neznamená automaticky spolehlivější paměť a stručnější souhrn není totéž jako věrná kopie. AI může pokračovat v hlavním úkolu, který jste jí zadali, a přitom zapomenout podmínku, za jakých okolností ho smí dokončit. U běžného brainstormingu to bude nepříjemnost. U agenta s přístupem k firemním systémům už dost nebezpečný detail.

FAQ