Google zveřejnil framework, který AI naučí rozpoznat šedé zóny. Zdarma

Subjektivní kategorie nemají pevnou hranici

Tradiční trénink modelů stojí na předpokladu, že ten, kdo označuje data, má jasnou a stabilní definici kategorie. U stopky nebo zlatého retrívra to sedí. U „nevhodného obsahu", „inspirativního umění" nebo clickbaitu už ne. Tyhle kategorie se mění podle kultury, osobního vkusu i firemních pravidel.

A je tu ještě jeden háček, který autoři popsali v článku na blogu Google Research. Člověk sám často neví, kde přesně hranice vede, dokud nenarazí na konkrétní příklad. Tomu procesu říkají „concept deliberation" – upřesňování pojmu při setkání s realitou. Klasické workflow tohle ignoruje a nutí člověka dávat AI pevné štítky, i když se jeho vlastní představa teprve vyvíjí.

Nejdřív rozpad pojmu, pak hraniční případy

Agile Deliberation rozděluje práci na dvě části. První je concept scoping, tedy rozpad pojmu. Zadáte široké téma, třeba „zdravé jídlo", a systém ho pomocí velkého jazykového modelu rozloží na podkategorie a výjimky: saláty, misky z obilovin a libové bílkoviny na jedné straně, zpracované potraviny nebo syrové suroviny na straně druhé. Vznikne hrubá kostra definice.

Druhá část, concept iteration, je ta zajímavá. Vizuálně-jazykový model (VLM), který rozumí obrázkům i textu, aktivně hledá obrázky, které vaši dosavadní definici napadají. Předhodí vám ovocné smoothie a zeptá se: je to zdravý nápoj z ovoce, nebo vyloučená zpracovaná potravina kvůli cukru?

Za jedno kolo uvidíte pět takových obrázků. Označíte je jako „patří" nebo „nepatří" a dopíšete, proč. Systém pak přes automatickou optimalizaci promptu navrhne novou verzi definice, otestuje ji proti všem vašim dosavadním rozhodnutím a vybere tu s nejvyšším F1 skóre. Nemusíte být prompt inženýr, jen popisujete svůj záměr vlastními slovy.

Dobře to přiblíží jedna situace: zaučujete nového kolegu na moderaci příspěvků. Manuál mu nenapíšete první den, protože ani vy neznáte všechny hraniční případy. Místo toho mu ukazujete příspěvky a říkáte „tohle ještě ano, tohle už ne". Agile Deliberation dělá z AI takového kolegu, který vám příklady ukazuje.

Test s osmnácti lidmi a dvěma doménami

Subjektivní kategorii nejde změřit standardním benchmarkem, protože neexistuje objektivní „správná odpověď". Autoři proto framework testovali naživo: 18 sezení, každé 1,5 hodiny, kde lidé procházeli systém i srovnávací metody v náhodném pořadí, aby se vyloučilo zkreslení učením.

Testovalo se na dvou těžkých doménách. „Zdravé jídlo" a „pay-to-play", tedy odhalování clickbaitových obrázků u her a zábavy, které slibují zavádějící finanční či digitální odměny. Druhá z nich vychází z praxe v Google Ads, kde s týmem výzkum spolupracoval.

Výsledky podle abstraktu práce: oproti automatické dekompozici, kdy AI koncept rozloží sama bez uživatele, dosáhl Agile Deliberation o 7,5 % vyššího F1 skóre. Oproti ruční deliberaci, kdy lidé hledají příklady v tabulkách a přepisují prompty ručně, to bylo o více než 3 %. A ruční metoda v testu často nejen nepomohla, ale výkon rovnou zhoršila. To dává smysl: jeden zásah do promptu, který opraví jednu chybu, může rozhodit zbytek.

Autoři měřili i únavu. U ručního psaní promptů hlásili účastníci výraznou kognitivní zátěž a obavu, že opravou jedné věci rozbijí jinou. U Agile Deliberation hlásili nižší stres, frustraci i mentální vyčerpání a všichni dali frameworku přednost před ruční metodou. Detaily najdete v recenzované verzi na alphaXiv.

Využití pro moderaci obsahu a evropskou regulaci

Nejzřetelnější využití je moderace obsahu. Týmy trust & safety pracují s kategoriemi, které jsou subjektivní a závisí na kontextu: nenávistné projevy, škodlivý obsah, zavádějící reklama. V Evropě tohle navíc rámuje nařízení o digitálních službách (DSA), které velkým platformám ukládá povinnost obsah systematicky moderovat.

Pro české týmy je podstatné, že jde o otevřený kód bez poplatku. Definice se píše přirozeným jazykem a vizuálně-jazykové modely pracují vícejazyčně, takže stejný postup lze použít i pro český obsah. Upozornění: framework nebyl testován speciálně pro češtinu, jde o obecný nástroj.

Limity a kde vzít kód

Je férové říct, co to není. Agile Deliberation je výzkumný framework a kód, ne hotový produkt s grafickým rozhraním, který by si nainstaloval běžný uživatel. Ke spuštění potřebujete alespoň základní znalost Pythonu, případně Jupyter notebook, který autoři přibalili jako ukázku na příkladu „zdravého jídla".

Také čísla vycházejí z 18 sezení na dvou doménách. Je to poctivá studie, ne velké produkční nasazení. Škálování na desítky moderátorů a další jazyky autoři netestovali.

Kód najdete v repozitáři google-research na GitHubu, paper vyšel na konferenci CVPR 2026.