Přejít k hlavnímu obsahu

AI agenti neumějí odhadnout čas. Proč na jejich prostředí záleží víc než na modelu

Ilustrační obrázek
Autonomní AI agent může strávit na úkolu půl hodiny, ale tvrdit, že pracoval hodinu a půl. Nebo naopak. Nový výzkum ukazuje, že současní kódovací agenti nemají spolehlivý vnitřní odhad plynutí času a často si neumějí správně vyhodnotit ani vlastní výsledek. Nejde přitom jen o vlastnost konkrétního modelu. Velkou roli hraje software, který model obklopuje.

AI agenti dnes nejsou pouze chatboti čekající na další otázku. Dokážou si rozdělit úkol na kroky, upravovat soubory, spouštět testy, pracovat v terminálu a podle výsledků opravovat vlastní chyby. Právě proto se od nich očekává, že zvládnou delší práci bez neustálého dohledu člověka.

Jenže dlouhý úkol není pouze otázkou schopnosti napsat kód. Agent musí také vědět, kolik času už spotřeboval, kolik ho ještě má a kdy je vhodné skončit. Výzkum dvojice Michael Ofengenden a Maksym Andriushchenko ukazuje, že v této oblasti mají současné systémy překvapivě velkou mezeru.

Agenti hádají přibližně hodinu a půl bez ohledu na realitu

Výzkumníci testovali kódovací asistenty Claude Code od Anthropicu a Codex od OpenAI. Použili přitom 200 úloh z kolekce ProgramBench a vlastní sadu AgentTime, která kombinuje 18 různých benchmarků a celkem 235 úloh.

Agenti měli před zahájením práce odhadnout, jak dlouho jim řešení zabere. Po dokončení pak dostali další otázku: kolik času podle nich skutečně uplynulo. Výsledky ukázaly, že jejich odhady jsou často velmi nepřesné.

Na úlohách ProgramBench se oba systémy opakovaně držely odhadu kolem 90 minut. To zní rozumně, dokud si člověk neuvědomí, že podobné číslo uváděly u úloh s výrazně rozdílnou obtížností. Krátké úkoly proto výrazně nadhodnocovaly, zatímco u delších několikahodinových úloh se některé odhady realitě přiblížily.

V rozsáhlejší sadě AgentTime byl rozdíl ještě výraznější. Výzkumníci uvádějí, že agent označovaný jako Fable 5 přeceňoval dobu zhruba trojnásobně, zatímco GPT-5.6 Sol v některých měřeních téměř desetinásobně. Neznamená to, že každý běh dopadne přesně takto. Ukazuje to ale na systematický problém: agent nepočítá dobu jako stopky, spíše vytváří hrubý odhad podle toho, jak složitě úloha vypadá.

Je to podobné, jako kdybyste se podívali na seznam úkolů a automaticky řekli „to bude na celé odpoledne“, přestože některé položky vyřídíte za deset minut. Rozdíl je v tom, že člověk může kdykoli mrknout na hodiny. Agent bez vhodného nástroje nikoli.

Model není celý agent. Rozhoduje také jeho „harness“

Jedním z nejzajímavějších závěrů výzkumu je rozdíl mezi samotným jazykovým modelem a prostředím, ve kterém běží. Výzkumníci pro toto prostředí používají pojem harness. V češtině si ho můžeme představit jako pracovní rámec nebo obslužný systém kolem modelu.

Harness určuje, jak agent dostává zadání, jaké nástroje smí používat, kdy se spustí další krok, jak se vyhodnocují výsledky a za jakých podmínek se práce ukončí. Stejný model tak může v jednom prostředí pokračovat další desítky kroků a v jiném skončit po půlhodině.

V testech Claude Code pokračoval v práci do chvíle, kdy usoudil, že je úkol hotový. Medián běhu u novějšího testu s Opus 5 byl přibližně 93 minut. Codex se stejným typem úlohy často skončil po zhruba 30 minutách, téměř bez ohledu na její složitost.

Výzkumníci zároveň zjistili, že modely GPT absolvovaly v prostředí Claude Code průměrně asi 2,5krát více kroků než v Codexu. To je důležitý detail. Když se dnes mluví o tom, že „model pracoval dvě hodiny“, ve skutečnosti může jít o kombinaci modelu, limitů, systémových instrukcí, dostupných nástrojů a pravidel ukončení.

Pro uživatele to znamená, že porovnávat agenty pouze podle názvu modelu je podobné jako srovnávat dva řidiče bez informace o autě, silnici a navigaci. Výsledek jízdy neurčuje jen řidič.

Čas agent vidí, pokud mu dáme hodiny

Nejpraktičtější část výzkumu je zároveň ta nejméně magická. Když agent dostal nástroj, který mu uměl vrátit informaci o uplynulém čase, dokázal jej vyhodnotit téměř pokaždé správně.

To naznačuje, že problém není v tom, že by model neuměl pochopit pojem „minuta“ nebo „hodina“. Problém spočívá v tom, že během běžné práce nemá spolehlivý přístup k aktuálnímu časovému stavu. Místo skutečných stopek používá nepřímé signály: délku přepisu, časové značky u nástrojů, logy nebo vlastní odhad náročnosti.

Výzkum zjistil, že po odstranění časových značek z přepisů se chyba v odhadech přibližně zdvojnásobila. Když byl celý průběh práce přehrán pouze přes API bez původního prostředí, přesnost se dále zhoršila.

Model tedy může z textu poznat, že dlouhý přepis obvykle znamená delší práci. To ale není totéž jako skutečné měření času. Je to podobné jako odhad délky filmového večera podle počtu zpráv v chatu. Někdy to vyjde, jindy jste po třech hodinách stále u úvodních titulků.

Špatný odhad času komplikuje dlouhé autonomní úkoly

U krátkého skriptu nebo jednoduché opravy nemusí být problém zásadní. Pokud agent skončí o deset minut dříve nebo později, člověk to obvykle přežije bez nutnosti svolávat krizový štáb.

Horší je situace u úloh, které mají běžet dlouho a vyžadují průběžné rozhodování. Typickým zadáním může být: „Pracuj na tomto problému další dvě hodiny, testuj různé varianty a pokračuj, dokud nebude řešení dostatečně kvalitní.“

Takový pokyn předpokládá, že agent umí řídit vlastní pracovní rozpočet. Musí vědět, jestli je na začátku, uprostřed, nebo těsně před koncem vyhrazeného času. Pokud pouze odhaduje podle počtu kroků a délky konverzace, může skončit příliš brzy, nebo naopak pokračovat bez užitku.

Pro firmy a vývojáře z toho plyne praktická zásada: časový limit nesmí být pouze napsaný v zadání. Spolehlivější je měřit jej mimo model a podle výsledku řídit běh agenta. Harness by měl umět agentovi pravidelně sdělit, kolik času uplynulo, kolik nástrojových volání ještě zbývá a kdy se má práce zastavit.

Takové řešení není tak efektní jako představa plně samostatného digitálního pracovníka, ale zato je výrazně lépe kontrolovatelné. A kontrola je u autonomních systémů stále praktičtější než působivá ukázka v demu.

Agent si neumí spolehlivě oznámkovat ani vlastní práci

Výzkum se nezaměřil pouze na čas. Testoval také schopnost agentů odhadnout, jak dobře úkol vyřešili.

Starší testované verze Opus 4.8 a GPT-5.5 svůj výkon v průměru nadhodnocovaly přibližně o 20 procentních bodů. V jednom případě oba systémy odhadovaly úspěšnost kolem 70 procent, přestože skutečné výsledky byly pouze 7 a 14,5 procenta.

U novějších modelů nebyl obraz jednotný. Opus 5 měl tendenci svůj výkon podhodnocovat o 11 až 15 bodů, zatímco GPT-5.6 Sol jej v daném testu nadhodnocoval přibližně o 7 bodů. To je další důvod, proč není dobré nechat agenta, aby byl jediným rozhodčím vlastní práce.

Agent může přesvědčivě popsat, co udělal, a zároveň přehlédnout, že řešení neprošlo klíčovým testem. Proto mají větší váhu externí kontroly: testovací sada, kompilace, statická analýza, bezpečnostní kontrola nebo druhý nezávislý hodnoticí systém.

Co to znamená pro české uživatele

Claude Code, Codex ani samotný výzkum nejsou zaměřeny na český trh a studie nehodnotí českou lokalizaci těchto nástrojů. Závěry se proto týkají principu fungování autonomních agentů, nikoli dostupnosti konkrétní funkce v češtině.

Uživatelé v Česku mohou agentům zadávat úkoly v přirozeném jazyce, ale přesnost časových odhadů nebude automaticky lepší jen proto, že instrukci napíšeme česky nebo anglicky. Rozhodující je, zda má agent přístup k hodinám, časovým značkám a pravidlům, která jeho běh skutečně řídí.

Nejde ani o nový model, takže zde není žádná samostatná cena, předplatné nebo český free tier k porovnání. Výzkum se zabývá chováním agentních systémů v různých prostředích, ne uvedením nového produktu.

Nejdůležitější závěr: autonomie potřebuje měřidla

Studie Your Agents Are Not Time Aware, provedená v rámci programu MATS, nepředstavuje definitivní měření všech AI agentů. Autoři sami plánují další testy zaměřené na to, zda agent dokáže dodržet přesně stanovenou dobu práce.

Výsledky ale dávají smysl i bez velkých slibů. Současné agentní systémy umějí provádět mnoho kroků za sebou, ale jejich schopnost řídit vlastní čas a kvalitu zůstává omezená. Nejlépe fungují tehdy, když software kolem nich poskytuje jasná měření, limity a externí kontrolu.

To je možná méně romantická představa budoucnosti než autonomní AI pracující celou noc bez dozoru. Z technického hlediska je však realističtější. Agent nepotřebuje předstírat vlastní hodiny. Stačí mu je dát.

Podrobné výsledky a metodiku popisuje také původní článek serveru The Decoder.

FAQ

Umí AI agent poznat, kolik času už uplynulo?

Bez externích časových údajů to neumí spolehlivě. Může odhadovat podle délky přepisu, počtu kroků nebo časových značek v logu, ale přesnost výrazně zlepší nástroj, který mu přímo vrací uplynulý čas.

Proč se stejný model chová v různých nástrojích jinak?

Protože výsledek neurčuje pouze jazykový model. Důležitý je také harness, tedy software kolem něj. Ten řídí dostupné nástroje, počet kroků, limity, systémové instrukce i podmínky ukončení úkolu.

Může agent sám spolehlivě ověřit, že napsal správný kód?

Neměl by být jediným kontrolorem. Výzkum ukazuje, že agenti mohou svůj výkon nadhodnocovat nebo přehlédnout zásadní chybu. Spolehlivější je použít automatické testy, kompilaci, statickou analýzu nebo nezávislé hodnocení.

Diskuze

Zatím žádné komentáře — buďte první, kdo se podělí o svůj názor.
X

Nezmeškejte novinky!

Přihlaste se k odběru novinek a aktualit.