ChatGPT nelže ani vám nerozumí. Těmi slovy jen děláte reklamu jeho tvůrcům
Výzkumníci Emily M. Bender a Nanna Inie navrhují mluvit o AI bez lidských slov. V sedmi kategoriích ukazují, čím nahradit pojmy jako halucinace nebo agent – a proč slova o myšlení strojů nafukují jejich schopnosti víc, než odpovídá realitě.
Slova, která prodávají
Přisuzování lidských vlastností něčemu, co člověk není, má odborný název: antropomorfizace. U chatbotů je všude. Zprávy o ChatGPT a Claude běžně píšou, že modely „halucinují", „podvádějí", „dělají chyby", „myslí" nebo „rozumí". Někdy se dočteme, že AI „cítí bolest" nebo je „při vědomí". Do zmatku přispěl i Donald Trump, který chce místo „umělé inteligence" používat výraz „superinteligence" a nařídil změnu v databázích, jako je PubMed.
Problém není v tom, že by metafory byly zakázané. Jsou užitečné, i pro novináře. Jenže u chatbotů je háček jinde: jejich rozhraní je záměrně navržené tak, aby působila inteligentně, při vědomí a přátelsky. Proto jim ta lidská slova tak snadno uvěříme.
„Způsob, jakým AI popisujeme, ovlivňuje, jak ji vnímáme, zavádíme a jak jí důvěřujeme," varuje studie z časopisu First Monday. Nadsazený jazyk podle ní živí nafouknutá očekávání. Ještě ostřejší je Ramón López de Mántaras, emeritní profesor CSIC a zakladatel Institutu pro výzkum umělé inteligence v Barceloně. Antropomorfizace je podle něj forma reklamy. „Čím víc se stroj zdá, že myslí, spikne se nebo se vzbouří, tím výjimečnější nám připadá technologie, kterou firma vytvořila," řekl na briefingu SMC. A dodal podstatnou věc: tento jazyk odvádí pozornost od rizik, která už existují – od masového sledování po vykořisťování práce. A zbavuje odpovědnosti ty, kdo algoritmy navrhli.
Model počítá, nemyslí
Jak to tedy funguje? Velký jazykový model, na kterém stojí ChatGPT nebo Claude, je v jádru statistický nástroj. Při každém kroku vybírá nejpravděpodobnější pokračování textu – slovo, frázi, větu. Naučil se to z obřího množství textů. Ne že by „věděl", co znamená „kočka"; zná jen to, jaká slova se vedle sebe v textech nejčastěji objevují.
Představte si dokonalejší verzi našeptávače v telefonu. Ten taky jen odhaduje, co nejspíš napíšete dál. Neví, o čem píšete, nemá názor ani záměr. ChatGPT dělá totéž, jen v mnohem větším měřítku. Proto když vygeneruje nepravdu, nejde o lež ani o omyl v lidském smyslu – model prostě zvolil pokračování, které bylo statisticky pravděpodobné, ale věcně špatné.
Výzkumníci se shodují, že dnešní velké jazykové modely neuvažují. Apple to v jedné studii z roku 2025 popsal jako „iluzi myšlení". Senén Barro, ředitel centra CiTIUS na univerzitě v Santiagu de Compostela, k tomu poznamenává, že lidská slova fungují jako „popisná zkratka", která pomáhá laikům pochopit, co se děje – ale jen pokud víme, že jde o metaforu.
Debata o tom, jestli stroj může myslet, je stará staletí. Denis Diderot už v roce 1746 napsal: „Kdyby našli papouška schopného na všechno odpovědět, neváhal bych tvrdit, že je to inteligentní bytost." Od roku 2022 ten papoušek sedí v našich telefonech a snaží se nás přesvědčit, že papoušek není.
Sedm kategorií slov a jejich náhrady
Dvojice výzkumnic Emily M. Bender a Nanna Inie dlouhodobě studuje, jak o AI mluvíme. Svůj návrh shrnuly do tří kroků: poznat slova, která přisuzují lidské vlastnosti, najít k nim neutrální náhradu a začít ji používat. Konkrétní náhrady dělí do sedmi kategorií.
Nejvíc provokativní je hned první. Podle nich je i samotný pojem „umělá inteligence" marketingový žargon, který doporučují nahradit spojením „pravděpodobnostní automatizace". To vystihuje, co model doopravdy dělá: počítá pravděpodobnosti.
Další kategorie se týkají komunikace. Místo „zeptal jsem se ChatGPT" doporučují mluvit o vstupu a výstupu. Místo „studenti dostali od ChatGPT pomoc" je přesnější „studenti použili ChatGPT". A pojem „agent" – dnes jeden z nejpoužívanějších výrazů v oboru – navrhují nahradit zkratkou PUSM, tedy „pravděpodobnostní a neověřený softwarový manipulátor". Zní to jako vtípek, ale jde o vážně míněný návrh, jak přestat strojům dávat vlastní vůli.
Seznam pokračuje. Místo „halucinace" říkejte „nežádoucí výstup". Místo „neuronové sítě", což je biologická metafora, říkejte „váhové sítě". A u jmen jako Claude doporučují nepoužívat osobní zájmena vyhrazená lidem a domácím mazlíčkům – neptat se „kdo má pravdu", ale „je odpověď stroje správná".
Jak o AI mluví evropské právo
Nejsou to jen akademické hříčky. Stejně věcně k tématu přistoupila i Evropská unie. Akt o umělé inteligenci, který v EU reguluje AI, definuje systém umělé inteligence jako „strojový systém", který „na základě vstupů odvozuje, jak generovat výstupy, jako jsou predikce, obsah, doporučení nebo rozhodnutí". Žádné myšlení, chápání ani city. Jen vstupy, výstupy a odvozování. Definice platí od 2. února 2025 a najdete ji v článku 3 nařízení.
Pro české čtenáře je tu ještě jedna věc. Čeština k personifikaci sama svádí. „Umělá inteligence" je ženského rodu, takže o ní běžně říkáme „ona si myslí" nebo „ona odpověděla". Stejné nebezpečí popisují Bender a Inie u anglických zájmen – a v češtině je o to silnější, že rod mluvnicky vnucujeme téměř každému podstatnému jménu.
Závěr je nakonec jednodušší, než vypadá. Nikdo nechce, abyste přestali AI používat nebo o ní psát. Stačí si hlídat slova. Chyby dělají zatím pořád jen lidé – a poděkování programu je dobré hlavně pro náš vlastní pocit.
Je špatně říkat, že chatbot „halucinuje"?
Slovo halucinace předstírá, že model něco vidí nebo prožívá jako člověk. Přesnější je mluvit o chybném či nežádoucím výstupu: model vygeneroval text, který neodpovídá skutečnosti, protože zvolil statisticky pravděpodobné pokračování, ne protože by se „spletl" nebo „lhal".
Musím se teď přestat ptát a děkovat ChatGPT?
Ne. Klidně se ptejte a děkujte, pokud vám to vyhovuje – na funkci to nemá vliv. Jde jen o to, abyste si uvědomovali, že odpovídá statistický model, ne bytost s úmyslem. Poděkování dělá dobře hlavně vám.
Není „pravděpodobnostní automatizace" příliš krkolomný název?
Je, a sami autoři přiznávají, že takhle mluvit nenaučíme lidi přes noc. Jejich cíl není vyměnit jeden slogan za druhý, ale otevřít debatu o tom, proč o AI mluvíme jako o inteligentní bytosti – a kdo z toho má prospěch.