Studii Rethinking Agentic AI: A Sociotechnical Framework for Agents in Emergent Social Contexts publikovala 11. října 2026 Marcelina A. Przespolewska z Northwestern University. Vyšla ve sborníku konference AAAI/ACM AIES-26, zaměřené na etiku a společenské dopady umělé inteligence, pod identifikátorem DOI 10.1609/aies.v9i4.43376. Je to teoretický text, ne experiment. Žádná měření, žádné benchmarky, žádné ceníky. Zato jedna pečlivě mířená teze, která sedí na to, co se v agentní AI děje právě teď.
Klíčový pojem v názvu práce, takzvané emergentní sociální kontexty, je méně exotický, než zní. Jde o otevřená digitální prostředí, kde se pravidla nijak nezmrazí a kde vedle agenta působí lidé i další automatizované systémy. Sociální síť, otevřené fórum, firemní nástroj, do kterého mají přístup desítky lidí i cizí agenti. Právě tam se podle autorky odehrává to, co uzavřené testovací prostředí neumí zachytit.
Pevné mapování akce a důsledku selhává
Většina toho, jak dnes o AI agentech uvažujeme, stojí na tichém předpokladu: když agent provede akci, dostane předvídatelnou reakci prostředí, na kterou může navázat. Klikneš na tlačítko, stránka se přepne. Pošleš dotaz do databáze, vrátí se odpověď. Tenhle model funguje v uzavřených systémech, kde se pravidla nemění.
Autorka tvrdí, že v otevřených digitálních prostředích tenhle předpoklad přestává platit. Sociální prostor, kam agenta pustíte, se sám mění. A mění se mimo jiné tím, co v něm agent dělá. Mapování mezi akcí a důsledkem tam není pevné, je pohyblivé. Tradiční modely, které počítají s pevným vztahem mezi tím, co agent udělá, a tím, co z toho v prostředí vznikne, proto podle ní pro dynamická sociální prostředí nestačí.
Rekurzivní smyčka místo iterace
Rozdíl mezi iterací a rekurzí si představte na dvou přístrojích. Robotický vysavač jezdí po bytě: zaměří překážku, objede ji, zaměří další. Podlaha zůstává podlaha, výsledek každé akce je dopředu jasný. To je iterace.
Doporučovací agent na sociální síti pracuje jinak. Co uživatelům ukáže, to ovlivní, co lidé dál publikují. A co publikují, to se vrátí do dat, ze kterých agent počítá další doporučení. Agent prostředím neprochází, ale spolu s lidmi a dalšími agentními systémy ho přetváří. Autorka to popisuje jako spolusestavování prostředí, takzvanou co-constitution. Smyčka mezi agentem a prostředím proto není jen iterativní, ale rekurzivní.
Behaviorální a normativní drift
Hlavní riziko, které studie pojmenovává, se nazývá behaviorální a normativní drift. Znamená systematickou odchylku agenta od původního výchozího nastavení v průběhu nasazení. Není to chyba, kterou by vývojář přehlédl při testování. Je to vlastnost té rekurzivní smyčky: agent se při interakci s otevřeným prostředím postupně posouvá a posouvají se i normy, podle kterých se řídí.
Tady se studie potkává s tím, co se v praxi děje právě teď. Osamocené chaty s jedním agentem v jednom okně nahradily multiagentní orchestrace, kde spolu paralelně pracuje víc specializovaných agentů a autonomně plní vícehodinové úkoly. Když se v takovém týmu začne jeden agent posouvat, jeho drift se přelévá na ostatní. Riziko se nesčítá, násobí.
Co to mění na tom, jak agenty řídíme
Posun v metodice je z textu dobře čitelný. Dřív se zarovnání agenta řešilo uvnitř modelu, na úrovni architektury. Nový směr tvrdí, že to samo o sobě nestačí: u autonomních multiagentních systémů v neregulovaném reálném prostředí musíte počítat s tím, jak se systém chová jako celek, včetně lidí a dalších strojů kolem něj.
Ten přístup se potkává s tím, jak o dohledu nad AI přemýšlí evropská regulace. Akt o umělé inteligenci (AI Act) staví na řízení rizik, která se mají přehodnocovat průběžně, ne jednou při vydání. Agent, jehož chování se časem posouvá, do té logiky zapadá: kontrola jednou nestačí.
Pro české firmy to znamená jednu konkrétní věc. Když dnes nasadíte AI agenta, nestačí ho jednou otestovat a zapomenout. Potřebujete průběžně sledovat, jestli dělá to, co má. Studie nenabízí hotový nástroj na monitoring, dává ale slovník, jak o tom riziku mluvit. To je první krok, který v oboru chyběl.
Je to měření, nebo jen teorie?
Čistě konceptuální práce. Neobsahuje experiment, benchmark ani kvantitativní výsledky. Nabízí rámec a pojmy, jak o chování agentů v otevřených prostředích přemýšlet.
Platí ten drift jen pro AI agenty, nebo i pro lidi?
Studie se věnuje AI agentům, ale princip spolusestavování prostředí je obecný. V sociálních systémech se chování a normy posouvají vždy, když se systém mění sám sebou.
Jak poznám, že se můj agent odchýlil od nastavení?
Univerzální odpověď zatím neexistuje. Rámec naznačuje, že je potřeba průběžný monitoring chování v provozu, ne jednorázový test. Konkrétní nástroj ale práce nenabízí.
