Přejít k hlavnímu obsahu

AI agenti v kódu: Proč sliby benchmarků narážejí na realitu skutečného vývoje?

Ilustrační obrázek
Autonomní AI agenty, jako jsou Claude Code nebo Devin, jsou vnímány jako další velký krok v automatizaci softwarového inženýrství. Zatímco v kontrolovaných testech dosahují ohromujících výsledků, realita komplexních projektů je pro ně mnohem drsnější. Výzkumné týmy z MIT a dalších institucí varují: schopnost agenta "vědět" neznamená, že dokáže efektivně "dělat" v reálném světě.

V posledních měsících jsme byli svědky masivního posunu od jednoduchého doplňování kódu (autocomplete) k éře autonomních agentů. Tyto systémy už jen nenabízejí text, ale dokážou číst soubory, spouštět testy a opravovat chyby. Nicméně, jak ukazuje aktuální výzkum, existuje propast mezi tím, co agenty umí v laboratoři, a tím, co dokážou v reálném repozitáři.

Past benchmarků: Proč "vysoké skóre" může lhát

Jedním z hlavních problémů současného hodnocení AI je způsob, jakým jsou testovány tzv. skills (dovednosti). Tyto dovednosti jsou v podstatě specializované instrukce nebo fragmenty kódu, které agentovi pomáhají řešit specifické úkoly, například práci s konkrétním API.

Podle studie vědců z UC Santa Barbara a MIT CSAIL, kterou publikoval The Decoder, jsou tyto testy často příliš "vychvalované". V testovacím prostředí SKILLSBENCH jsou agentům dovednosti podávané přímo na stěně. To je jako byste studentovi dali otázku a hned vedle něj ležel otevřený učebnice s přesným řešením.

Jakmile se ale situace stane realistickou – tedy když musí agent sám prohledat obrovskou knihovnu tisíců dovedností (v dané studii šlo o 34 000 položek) – výkon drasticky klesá. U modelu Claude Opus 4.6 klesla úspěšnost z 55,4 % při přímém předání instrukcí na 38,4 %, když musel hledat sám. Pro slabší modely je to ještě horší: u modelů jako Kimi K2.5 nebo Qwen3.5 se stává, že presence irelevantních dovedností v knihovně jejich celkovou schopnost řešit úlohu dokonce snižuje.

Problém "správného sousedství": Najdu soubor, ale ne řádek

I když agentovi dáte správný kontext, narazí na další bariéru: preciznost. Nový benchmark SWE-Explore od výzkumníků ze Shanghai Jiao Tong University ukazuje, že AI agenty trpí syndromem "správného sousedství". Agent dokáže identifikovat, ve kterém souboru se nachází chyba, ale nedokáže přesně lokalizovat ty řádky, které je potřeba změnit pro funkční opravu.

Tradiční metriky se dosud ptaly pouze: "Opravil to to, co mělo?" Pokud ano, agent vyhrál. SWE-Explore však jde hlouběji a zkoumá samotný proces prohledávání kódu. Ukazuje, že agenty často "bloudí" v rámci správného souboru, ale míří vedle klíčových logických bloků. To znamená, že i když výsledek vypadá funkčně, cesta k němu byla neefektivní a náchylná k chybám, které mohou v budoucnu způsobit regresivní bugy.

Souboj špiček: Claude Code vs. Devin vs. Cursor

V kontextu roku 2026 se na trhu ustálila trojice hlavních hráčů, z nichž každý přistupuje k autonomii jinak. Pro českého vývojáře nebo firmu je důležité vědět, co si za co zaplatí:

  • Claude Code (Anthropic): Aktuálně považován za špičku v pochopení komplexní architektury a refaktorování. Funguje přímo v terminálu a má vynikající "extended thinking" mód.
    Cena: Vyžaduje předplatné Claude Pro nebo Team (cca 20–30 USD/měsíc).
  • Devin (Cognition): První plnohodnotný autonomní agent, který se snaží o úplnou nezávislost na člověku. Je schopen řešit úkoly po dobu desítek minut bez zásahu.
    Cena: Zaměřeno primárně na enterprise segment, cena je na dotaz (výrazně vyšší než běžné nástroje).
  • Cursor: IDE postavené přímo kolem AI, které kombinuje pohodlí editoru s agenty. Je nejlepší volbou pro rychlou integraci do každodenní práce.
    Cena: Free tier dostupný; Pro verze cca 20 USD/měsíc.

Praktický dopad: Co to znamená pro české firmy a vývojáře?

Pro českou IT scénu, která je silně orientovaná na export služeb a high-end software, tento výzkum přináší důležité varování. Nemůžete AI agenty nechat zcela bez dozoru.

1. Human-in-the-loop je nezbytnost: Kvůli problémům s přesností (missed lines) musí každý commit vytvořený agentem projít důkladným Code Review lidským vývojářem. AI agenty jsou skvělé pro "první návrh", ale ne pro finální schválení.

2. Dostupnost a jazyk: Přestože tyto nástroje primárně pracují s anglickým kódem, jejich schopnost rozumět zadání v češtině se neustále zlepšuje díky modelům jako Claude nebo GPT-5. Pro české firmy to znamená, že mohou využívat agenty pro dokumentaci nebo komentování kódu i v lokálním kontextu, ale samotná logika musí zůstat striktně v angličtině.

3. Regulace EU (AI Act): V rámci evropského trhu bude klíčová transparentnost. Pokud firma využívá autonomní agenty k generování softwaru, musí být schopna prokázat, jak byla zajištěna bezpečnost a integrita kódu, což při současných nedostatcích v preciznosti agentů představuje výzvu pro compliance.

Mohu používat AI agenty pro kritickou infrastrukturu nebo bankovní systémy?

V současné době nikoliv bez extrémně přísného lidského dohledu. Výzkumy ukazují, že agenti mohou vynechat klíčové řádky kódu při opravách, což v kritických systémech představuje neúnosné riziko.

Je potřeba mít pro používání těchto nástrojů perfektní angličtinu?

Pro samotný kód ano, protože standardem je anglická syntaxe a názvosloví. Pro zadávání úkolů (prompting) už však moderní modely zvládají češtinu velmi dobře, což umožňuje českým vývojářům efektivnější práci.

Jak poznám, že agent skutečně pochopil můj projekt a ne jen "hádá"?

Sledujte proces prohledávání (exploration). Kvalitní nástroje jako Cursor nebo Claude Code vám umožňují vidět, které soubory si agent přečetl. Pokud agent v logu neukazuje aktivní čtení relevantních souborů, pravděpodobně jen generuje kód na základě vzorů, nikoliv na základě vaší skutečné architektury.

X

Nezmeškejte novinky!

Přihlaste se k odběru novinek a aktualit.