Proč je detekce AI textu najednou důležité téma
ChatGPT a jemu podobné modely dnes píšou eseje, e-maily, zpravodajské články i seminárky. Pro učitele, novináře i lidi, kteří rozhodují o obsahu, z toho plyne jedna nepříjemná otázka: poznám ještě rozdíl mezi tím, co napsal člověk, a tím, co vygeneroval stroj?
Autoři nové studie na to nabízejí konkrétní odpověď. Jawaher Alghamdi z australské University of Newcastle spolu s Yuqing Linem z King Khalid University v Saúdské Arábii a Suhuai Luo z čínské Jimei University postavili hlubokou neuronovou síť, která má strojový text odhalit. Práce vyšla v recenzovaném časopise Multimedia Tools and Applications.
Důvodů, proč na tom záleží, je víc. Ve školství instituce po celém světě řeší, jak naložit se studenty, kteří odevzdávají práci vygenerovanou umělou inteligencí. V médiích a informační bezpečnosti zase schopnost označit strojově vytvořenou dezinformaci může zpomalit šíření falešného obsahu. Autoři svůj výsledek rámují právě tak: jako nástroj pro lidi, kteří chtějí rozpoznat a omezit zneužití ChatGPT.
Jak detektor funguje: čtyři experti místo jednoho
Jádrem celého systému je takzvaný ensemble, tedy spojení více modelů do jednoho celku. Představte si to jako porotu, kde každý člen vidí text trochu jinak, a teprve společný verdikt je spolehlivější než názor jediného soudce.
Uvnitř sedí čtyři známé jazykové modely založené na architektuře transformeru. BERT čte text z obou stran a staví hluboce kontextové reprezentace slov. RoBERTa je jeho vyladěná varianta s lepším tréninkovým postupem. XLNet obchází některé limity klasických maskovaných modelů tím, že uvažuje všechny permutace vstupní sekvence. A GPT-2 generuje text token po tokenu zleva doprava. Protože každý z nich zpracovává kontext jinak, jejich kombinovaný úsudek je přesnější než kterýkoli z nich samostatně.
Tím to ale nekončí. Transformery sice skvěle zachytí bohaté sémantické rysy, ale hůř vnímají drobné lokální vzory, které strojový text často prozradí — typická slovní spojení nebo rytmus vyjadřování. Proto výstup transformerů teče ještě přes dvě doplňkové vrstvy. Jednorozměrná konvoluční síť (1D-CNN) klouže po textu a sbírá n-gramové vzory, zatímco obousměrná GRU (BiGRU) sleduje, jak se význam odvíjí od začátku ke konci a zpátky. Dohromady to modelu umožní vidět i to, co by jednotlivým složkám uniklo.
Čísla: dlouhý text ano, krátký je oříšek
Klíčové číslo je 97 % přesnosti na dlouhých textech. V drtivé většině případů detektor správně rozeznal text z ChatGPT od lidského. Na krátkých textech, kde je statistického signálu mnohem méně, klesla přesnost na 88 % — pořád solidní výsledek ve srovnání s dřívějšími metodami.
Ten rozdíl dává smysl. Odhalit strojový text v krátké zprávě, třeba v příspěvku na sociální síti, je výrazně těžší, protože je málo materiálu, ze kterého by se dalo něco vyčíst. Dlouhý dokument dá klasifikátoru mnohem víc důkazů. Autoři navíc ošetřili jednu záludnost: protože výstup ChatGPT ovlivňuje historie konverzace, pro každý vzorek textu obnovili chatové vlákno, aby každý vygenerovaný úryvek byl nezávislý a nekontaminovaný předchozí výměnou.
Nejdůležitější zjištění experimentu je ale jinde: ensemble čtyř transformerů konzistentně překonával jednotlivé modely. Spojit BERT, RoBERTa, XLNet a GPT-2 do jednoho rozhodovacího rámce se ukázalo robustnější než spoléhat na kterýkoli z nich samostatně.
Co si z toho vzít (a kde jsou limity)
Tady přichází střízlivění. Jde o akademickou studii, nikoli o hotový produkt, který si dnes pořídíte. Autoři trénovali a testovali systém na textech z éry GPT-3.5, a ačkoli podkladové vzorce „strojové plynulosti" jsou zřejmě dost stabilní na to, aby se je dalo naučit spolehlivě rozpoznávat, žádný detektor není věčné řešení. Jak se generativní modely zlepšují, budou produkovat text, který dnešní metody obejde — závody mezi generováním a detekcí budou pokračovat. Sami autoři to přiznávají.
Výsledek je přesto důležitý signál: problém je řešitelný. Se správnou kombinací předtrénovaných transformerů a sekvenčně pracujícího hlubokého učení zanechává strojově psaný text detekovatelný „otisk prstu". Ať už se skrývá v dlouhé eseji, nebo v krátkém příspěvku.
Český a evropský rozměr
Pro Česko a Evropu to má přímý přesah. Nařízení EU o umělé inteligenci (EU AI Act) požaduje transparentnost u obsahu generovaného umělou inteligencí, a to včetně povinnosti označovat strojově vytvořený text tam, kde hrozí klamání. Spolehlivé nástroje pro rozpoznání AI textu tak nejsou jen akademická hračka — navazují na to, co už dnes evropská regulace po firmách a institucích chce.
V českém prostředí se s vygenerovanými texty potýkají především školy a vysoké školy při hodnocení seminárních prací a závěrečných textů. Studie sama o sobě českou lokalizaci nenabízí a na trhu jako produkt není. Ukazuje ale směr, kterým se spolehlivá detekce ubírá: kombinovat víc modelů s různým pohledem na jazyk je dnes nejslibnější cesta, jak strojový text vůbec odhalit.
Existuje dnes volně dostupný detektor, který text z ChatGPT spolehlivě pozná?
Spolehlivost je zatím nejistá. Komerční nástroje existují, ale jejich přesnost kolísá podle délky textu a verze modelu, který text vygeneroval. Tato studie je výzkum, ne produkt — nabízí metodiku (ensemble více modelů), nikoli aplikaci ke stažení.
Proč je těžší odhalit AI text v krátkých zprávách než v dlouhých dokumentech?
Protože krátký text nabízí málo statistického signálu. Čím méně slov model vidí, tím méně důkazů má k rozhodnutí. V dlouhém dokumentu se prozrazujících vzorů nashromáždí víc, a přesnost tak stoupá.
Dá se detekce obejít tím, že text napíšu sám a jen ho nechám přeformulovat?
Částečně ano. Čím víc lidského zásahu text obsahuje a čím víc se vzdaluje typické „plynulosti" generátoru, tím hůř se klasifikuje jako strojový. Žádný detektor nefunguje stoprocentně a u novějších modelů se přesnost může dál snižovat.
