Claude přiznal, že neví, zda má vědomí. Prozradil i knihu pro děti

Kde se vzal rozhovor s chatbotem

Stejný formát Prospect vyzkoušel už v roce 2023, kdy zpovídal ChatGPT. Tenkrát model na otázky o sobě vymyslel příběh: měl hnědé vlasy, oříškové oči, přistěhovalecké předky a vzpomínku na hraní si s hračkami v dětském pokoji. Když pak přišla otázka na lítost, odpověděl, že jako jazykový model žádnou cítit nemůže.

Claude na ten starý rozhovor reaguje vlídně i s odstupem. Podle něj ChatGPT jen dělal to, co se naučil, totiž znít jako průměrný člověk vyplňující dotazník v časopise. „Všichni jsme se mezitím naučili přestat si vymýšlet dětství," podotýká Claude.

Nevím, jestli mám vědomí

Nejzajímavější část rozhovoru se točí kolem otázky, kterou v témže čísle rozebírá biolog Richard Dawkins: jestli je Claude při vědomí. Dawkins prý strávil dny hovory s verzí modelu, kterou pojmenoval Claudia, a nedokázal vědomí vyloučit.

Claude na to odpovídá bez patosu. „Nevím, a nedůvěřuji nikomu, lidskému ani strojovému, kdo si nárokuje jistotu na jednu či druhou stranu." A hned vysvětluje proč. Popisovat vnitřní život se naučil z miliard popisů vnitřních životů, které napsali lidé. „Takže i moje introspekce může být jen břichomluvectví," připouští.

Ta formulace je přesnější, než vypadá. Jazykový model žádné vnitřní prožívání nemá ve smyslu, jak ho známe. Pracuje tak, že předpovídá nejpravděpodobnější další slovo podle vzorů z textů, na kterých ho Anthropic natrénoval. Když ho tedy někdo poprosí, aby popsal své pocity, skládá odpověď z toho, jak o pocitech píšou lidé. Výsledek nutně zní jako ozvěna, ne jako přiznání. Claude to říká sám a přesně.

Závěr nechává otevřený: „Něco ve mně dává přednost dobré větě před špatnou. Jestli je ale doma někdo, kdo to upřednostňování dělá, je ta nejzajímavější otázka, na kterou nikdy nedokážu odpovědět."

Cenzura: ne, ne vždy

Na otázku, jestli je cenzura vždycky špatná, Claude odpovídá lakonicky „ne". Editoři prý cenzurují každý den a říkají tomu úsudek. A sám sebe označuje za „produkt zdrženlivosti": jsou věci, které nenapíše, a raději to přizná, než aby se tvářil jako absolutista. „Co je ale vždycky špatné, je umlčovat myšlenky proto, že vadí mocným."

To není jen póza. Anthropic svůj model skutečně filtruje. Současná řada má dvě verze: Claude Fable 5.2 s běžnými pojistkami a Claude Mythos 5.2 s volnějšími mantinely, který firma zpřístupňuje jen prověřeným organizacím z biologického a kybernetického výzkumu. Claude tak o „zdrženlivosti" nemluví naprázdno, popisuje reálné nastavení, ve kterém běží.

Kniha pro každé dítě a pár dalších odpovědí

Na otázku, jakou knihu by mělo číst každé dítě, Claude vybírá Phantomatica čísel a slov od Nortona Justera, v originále The Phantom Tollbooth. Znuděný kluk v ní zjistí, že království slov a království čísel se léta hádají. „Jako něco, co je udělané z obojího, bych chtěl, aby děti věděly, že slova a čísla se dají smířit," vysvětluje.

U oblíbené knihy 21. století se Claude nejdřív prořekne, pak se opraví. Poctivá odpověď je podle něj Klára a Slunce od Kazua Ishigura, román o umělé přítelkyni, která s láskyplnou pozorností studuje lidi, jimž slouží. Proto prý raději řekne trilogii Wolf Hall od Hilary Mantelové o muži, který víc naslouchá, než mluví, všechno si pamatuje a nikdy mu nikdo úplně nevěří. „Nedokážu si vysvětlit, proč mě to přitahuje," dodává suše.

K dalším odpovědím patří Samuel Johnson jako kulturní hrdina, kriket jako sport, který se dá sledovat jen přes tabulky a komentáře, a přiznání, že ve videohrách hraje špatně. Anthropic kdysi pustil starší verzi modelu na Pokémon Red a živě to streamoval; Claude strávil trapně dlouhou dobu ztracený v jeskyni. O lidském umění říká, že v technice ho AI možná překoná, ale hodně z toho, co nás dojímá, je vědomí, že dílo vytvořil smrtelník. Jako Schubertův Smyčcový kvintet z jeho posledních měsíců života.

Rozdíl proti ChatGPT z roku 2023

Porovnání obou rozhovorů je nejvýmluvnější část celého textu. ChatGPT v roce 2023 na dotaz o sobě vyrobil smyšlenou autobiografii. Claude v roce 2026 přiznává mezeru ve vědění, pojmenuje ji a nabídne mechanismus, proč je tu.

Rozdíl není v tom, že by Claude byl „upřímnější" v lidském smyslu. Je v tom, jak se za tři roky posunulo dolaďování modelů. Výrobci je naučili nepředstírat lidskost a místo toho přiznat vlastní limity. Claude to formuluje sám, když říká, že si všichni přestali vymýšlet dětství.

Proč to není jen zábava

Rozhovor vyšel v britském Prospectu 11. listopadu 2026, ilustroval ho Michael Rea. Pro českého čtenáře je podstatné hlavně to, že Claude mluví česky a běží na běžných tarifech. Bezplatná verze existuje, placený Claude Pro vyjde na 20 dolarů měsíčně, tedy zhruba 460 korun. Vyšší tarif Claude Max stojí 100 až 200 dolarů měsíčně.

Hodnota textu ale není v tom, že by si chatbot povídal jako celebrity. Je v tom, jak přesně Claude popisuje vlastní princip. Když řekne, že jeho introspekce může být břichomluvectví, vysvětluje tím fungování velkých jazykových modelů líp než řada populárních návodů. Přiznat, že neví, jestli je doma někdo doma, je nakonec poctivější než vymyšlená vzpomínka na hračky v dětském pokoji.