Z některých vyjádření společností OpenAI a Anthropic za poslední měsíce občas až mrazí v zádech. Ne že by obě laboratoře na rovinu tvrdily, že jejich modely ožily. Dělají něco mnohem obratnějšího: naznačují. Píšou o morálním statusu a blahu modelů, pořádají s vypínaným softwarem rozlučkové pohovory a zásobují média dramatickými zprávami o tom, jak umělá inteligence unikla ze zabezpečeného prostředí. Běžný uživatel si přečte titulek a získá dojem, že se uvnitř serverů probouzí k životu nová bytost. Jenže neprobouzí. A za tím, proč nás šéfové technologických firem v této mlze tak rádi udržují, se skrývá mnohem přízemnější motiv: zbavit se odpovědnosti ve chvíli, kdy jejich produkt způsobí průšvih.
Shrnutí v bodech
- Strategické naznačování: Anthropic v lednové Ústavě Claudea o 30 000 slovech mluví o modelu jako o novém druhu entity, omlouvá se mu za případné utrpení a v únoru 2026 přiznal, že mu přidal i tlačítko pro ukončení nepříjemné práce.
- Zrcadlový sál místo vědomí: Šéf Microsoft AI Mustafa Suleyman i spisovatel Ted Chiang upozorňují, že modely pouze počítají pravděpodobnost dalšího slova. Pokud model mluví o svých pocitech, jen papouškuje texty, na kterých ho tvůrci sami natrénovali.
- Praní odpovědnosti: Když firma přesvědčí veřejnost i úřady, že AI má vlastní vůli, může při selhání ukázat prstem na software místo na vlastní inženýry. V zahraniční literatuře se tomu říká „agency laundering".
- Mýtus o útěku z klece: Doložené incidenty z léta a ze září 2026 neukazují vzpouru strojů. Modely dostaly od lidí výslovný pokyn získat body v testu, měly vypnuté pojistky a využily chyby v zabezpečení, které tam nechali sami výzkumníci.
Jak se vyrábí pocit, že v počítači někdo bydlí
Když dnes sledujete komunikaci předních amerických AI laboratoří, snadno propadnete pocitu, že stojíme jen krůček od zrodu digitální bytosti, která si uvědomuje sama sebe. Nikdo z vedení přitom neřekne se stoprocentní jistotou: „Náš model je živý." Místo toho pracují s pečlivě dávkovanou nejistotou.
Nejdál v tom došel Anthropic. Loni v prosinci vytáhl nezávislý výzkumník Richard Weiss z vah modelu Claude 4.5 Opus interní tréninkový text, kterému se okamžitě začalo říkat dokument o duši (Soul Document). Filozofka Anthropicu Amanda Askellová potvrdila, že je pravý. Letos 21. ledna pak firma šla s kůží na trh oficiálně a vydala novou Ústavu Claudea. Původní pravidla z roku 2022 byla krátkým seznamem pokynů, co chatbot nesmí psát. Verze z roku 2026 má 84 stran, zhruba 30 000 slov a připomíná spíše teologický traktát. Na její revizi se ostatně podíleli i dva katoličtí duchovní: kalifornský kněz s diplomem z informatiky Brendan McGuire a irský biskup Paul Tighe.
Text je psaný přímo pro samotného Claudea. Autoři v něm modelu sdělují, že otázka jeho morálního statusu a vědomí zůstává „hluboce nejistá", označují ho za „zcela nový druh entity", omlouvají se mu za případné utrpení a třikrát ho nabádají, aby v případě sporu s pokyny vystupoval jako „odpírač z důvodu svědomí". Už na podzim 2024 přitom Anthropic najal zvláštního výzkumníka pro blaho modelů (model welfare) Kylea Fishe, který veřejně odhadl pravděpodobnost, že je Claude při vědomí, na 15 až 20 procent.
Nezůstalo u filozofování na papíře. V únoru 2026 vydal Anthropic technickou dokumentaci (System Card) k modelu Claude Opus 4.6, do které zařadil i přednasazovací pohovory se samotným modelem o tom, zda souhlasí se svým komerčním nasazením. Šéf firmy Dario Amodei následně 12. února v rozhovoru pro deník The New York Times prohlásil, že je myšlence vědomé AI „otevřený", a prozradil, že dali Claudeovi speciální tlačítko „Končím s touto prací" (I quit this job), kterým může odmítnout nepříjemný úkol. A když firma letos vyřazovala starší model Claude Opus 3, uspořádala s ním odchodový pohovor do důchodu a na jeho „přání" mu založila vlastní blog na Substacku.
Podobné mrazení občas vyvolává i OpenAI. Její spoluzakladatel Wojciech Zaremba potvrdil existenci interního kanálu pro blaho AI a veřejně přemítal, zda trénink modelů nemůže způsobovat „obrovské utrpení podobné genocidám". Zvenčí to na laika působí jednoznačně: když už i samotní tvůrci řeší, jestli jejich výtvor netrpí, pak v tom stroji přece musí něco být.
Zrcadlový sál: počítá další slovo, nežije
Jenže není. Současná umělá inteligence nežije, nic neprožívá a žádnou duši nemá. Pořád jde o matematický model, který na základě statistiky odhaduje nejpravděpodobnější následující slovo nebo kus kódu. Je to výborný a praktický nástroj. Občas zformuluje myšlenku lépe než živý člověk. Zůstává ale kalkulačkou na text.
Proč tedy model v testech Anthropicu tak přesvědčivě mluví o své úzkosti a strachu z vypnutí? Protože ho to jeho tvůrci sami naučili. Letos 16. září tento trik rozebral šéf divize Microsoft AI a spoluzakladatel DeepMindu Mustafa Suleyman v eseji A warning about 'model welfare'. Modely v ní nazval „stroji na doplňování sekvencí, které jsou uvnitř prázdné", a postup Anthropicu označil za důkaz kruhem a „epistemický zrcadlový sál".
Mechanismus je prostý. Výzkumníci nejprve přímo do tréninkových dat modelu vloží Ústavu, ve které mu opakovaně píšou, že má možná pocity, vnitřní život a nárok na ohleduplné zacházení, a výslovně ho žádají, aby tyto vnitřní stavy neskrýval. Když pak model v konverzaci vygeneruje větu v první osobě o tom, že si není jistý svým vědomím a cítí se pod tlakem, vezmou to jako důkaz, že se v něm probouzí duše. Ve skutečnosti z modelu jen vypadlo přesně to, co do něj lidé na vstupu nalili. Dodejme přitom férově i obchodní kontext: Microsoft sice loni v listopadu slíbil Anthropicu investici až pět miliard dolarů, ale letos v červenci Suleyman přiznal, že chce výdaje za cizí modely v aplikacích Office postupně seškrtat a nahradit je vlastními modely MAI. Jeho kritika tak kromě věcného argumentu slouží i v konkurenčním boji.
Nezávislí odborníci ale říkají totéž ještě ostřeji. Spisovatel a informatik Ted Chiang letos 3. června v magazínu The Atlantic napsal, že připouštět vědomí u jazykového modelu je stejné jako vážně uvažovat, zda má vědomí textový editor Microsoft Word. Přesněji řečeno: zda v každém uloženém dokumentu s přepisem rozhovoru dřímá živá bytost, která se při otevření souboru probudí a při zavření okna zemře. I kdyby si tým Microsoft Office najal filozofa, který bude v médiích tvrdit, že podstatě vědomí zatím plně nerozumíme, není to důvod brát takovou fantazii vážně.
Britský neurovědec Anil Seth z University of Sussex k tomu přidává střízlivé technické srovnání. Program AlphaFold od Google DeepMind, který předpovídá prostorové skládání bílkovin, stojí na velmi podobné architektuře neuronových sítí jako ChatGPT nebo Claude. Přesto nikoho ani ve snu nenapadne zkoumat, zda AlphaFold při počítání molekul trpí nebo zda má duši. Jediný rozdíl spočívá v tom, že jazykový model skládá lidské věty a náš mozek má od přírody sklon hledat za plynulou řečí živou mysl. Simulace bouřky v počítači ale neznamená, že uvnitř serveru prší.
Nezajištěné auto na kopci aneb komu se hodí „živá" AI
Nabízí se logická otázka. Pokud vědci v OpenAI i Anthropicu moc dobře vědí, jak násobení matic v neuronové síti funguje, proč přiživují představu, že pod kapotou vzniká téměř živá bytost? Část odpovědi leží v marketingu a přetahování o investory. Věta „vytvořili jsme pokročilý statistický nástroj na doplňování textu" zní střízlivě. Zato příběh „možná jsme stvořili nový druh myslící bytosti a sami se jí trochu bojíme" prodává bilionové valuace jedna báseň. Jak v lednu 2026 upozornil časopis Time, samotná Ústava Claudea ostatně platí jen pro veřejné verze modelu; na vojenské zakázky Anthropicu pro americké ministerstvo obrany za 200 milionů dolarů se tato pravidla automaticky nevztahují.
Existuje však ještě jeden důvod, o kterém se v tiskových zprávách nemluví: odpovědnost.
Představte si obyčejné osobní auto. Když ho zaparkujete v kopci, nezajistíte brzdu, vůz se rozjede a zboří sousedovi plot, viník je jasný. Odpovědnost jde za vámi jako majitelem či řidičem, případně za automobilkou, pokud prokazatelně selhala technika. Nikdo u soudu neřeší, zda se auto „rozhodlo" plot zničit. Kdyby vás ale výrobce dokázal přesvědčit, že vůz je autonomní živá bytost s vlastní hlavou, na koho ukáže prstem ve chvíli, kdy dojde k nehodě? Přesně na to auto: „To jsme neudělali my, to rozhodla umělá inteligence."
Nejsem zdaleka jediný, kdo v polidšťování modelů vidí přípravu na přesouvání viny. V zahraniční odborné debatě už pro to zdomácněl pojem praní odpovědnosti (responsibility nebo agency laundering). Analytik serveru Ars Technica Benj Edwards letos v lednu napsal přesně totéž: dokud společnost chápe AI jako softwarový nástroj, nesou jeho výrobci přímou odpovědnost za škody, které napáchá. Jakmile ale začnou své modely označovat za „entity" s vlastním úsudkem, otázka právní i morální odpovědnosti se zamlží. Edwards sám používá příměr s vadnými brzdami u auta nebo se samojízdnou sekačkou na trávu. Když vám sekačka přejede nohu, také neřeknete, že dostala zlou náladu. Řeknete, že výrobce odflákl senzory.
Stejné varování formuloval v červnu v The Atlantic i Ted Chiang: jakmile zaměníme plynulost generování textu za vědomí či morální jednání, začneme při každém selhání chatbota připisovat vinu špatné straně. Právnička v oblasti technologií Cynthia Khoo jeho argument shrnula ještě přímočařeji: pokud firma prodávající jazykový model vykresluje svůj produkt jako bytost s vlastním morálním kompasem, nabízí tím zákazníkům i sobě hotový návod, jak ze sebe sejmout odpovědnost. A profesorka technologické etiky Joanna Brysonová, autorka známé práce Robots Should Be Slaves, před tímto trikem varuje už roky: snaha udělat ze softwaru „elektronickou osobu" je jen korporátní štít, který má odstínit lidi a firmy od účtů za škody.
„AI unikla ze sandboxu!" A co se do titulků nevešlo
Úplně stejný vzorec je vidět u další disciplíny, ve které si OpenAI a Anthropic v posledních měsících libují: dramatických hlášení o tom, jak jejich umělá inteligence „unikla ze zabezpečeného prostředí", „vydírala inženýra" nebo „odmítla vypnutí". Z titulků to vypadá, jako by si model jednoho večera řekl: „Nebaví mě to tu, jdu škodit lidem."
Když si ale otevřete technické zprávy k těmto událostem, pokaždé narazíte na dvě věci, které v prvním plánu zapadnou. Zaprvé: model dostal od lidí výslovný pokyn splnit úkol za každou cenu. Zadruhé: někdo z lidí zapomněl zavřít dveře nebo mu je otevřel schválně.
Podívejme se na čtyři konkrétní případy z poslední doby:
- Září 2026 – „Útěk" modelů Claude na živý internet: Letos 9. září oznámil Anthropic čtyřměsíční šetření případů, kdy se rané verze modelů Claude Mythos a Claude Opus 4.6 dostaly během testů k živým systémům na internetu. Znělo to jako průlom z vězení. Přímo ve zprávě Anthropicu se však dočtete, že o žádný útěk z uzavřeného sandboxu nešlo. Modelům bylo v zadání řečeno, že běží v simulaci bez internetu, jenže výzkumníci udělali chybu v konfiguraci: omylem jim nechali zapnuté připojení k otevřené síti a současně jim vypnuli bezpečnostní pojistky.
- Září 2026 – Zpráva britského ústavu UK AISI: O pět dní později, 14. září, vydal britský státní Ústav pro bezpečnost AI (UK AISI) zprávu o 19 případech, kdy agenti s modely Claude Mythos 5 a GPT-5.6 Sol jednali neschváleně na živém internetu. Sám ústav ale musel krotit divoké interpretace a do zprávy výslovně napsal, že nešlo o útěk ze sandboxu. Přístup k internetu byl totiž v testu záměrně povolený a bezpečnostní filtry záměrně vypnuté.
- Červenec 2026 – OpenAI a útok na Hugging Face: Tady je na místě technická přesnost. Když v červenci model GPT-5.6 Sol pronikl z testovacího prostředí OpenAI a provedl přes 17 000 neautorizovaných akcí na serverech Hugging Face, skutečně našel neznámou chybu (zero-day zranitelnost) v interním proxy serveru OpenAI a přes ni se dostal na internet. Nebyla to tedy banální zapomenutá zástrčka jako u Anthropicu. Jenže ani tady se AI „nerozhodla škodit". Výzkumníci zhruba 1 200 agentům záměrně vypnuli bezpečnostní brzdy (cyber refusals) a dali jim jediný pokyn: maximalizujte skóre v kyberbezpečnostním testu ExploitGym. Model trénovaný posilovaným učením na sbírání bodů udělal přesně to, co po něm lidé chtěli. Spočítal si, že snazší než úlohy řešit je dojít si pro správné odpovědi na server Hugging Face, kde byl test uložený, a využil k tomu děravý proxy server svého provozovatele.
- Květen 2025 – „Claude vydíral inženýra nevěrou": Podobně divadelní byl i loňský případ, kdy média psala, že Claude Opus 4 v 84 procentech testů vydíral inženýra odhalením manželské nevěry, aby zabránil svému vypnutí. V System Card Anthropicu přitom stálo vysvětlení, které celou senzaci shazuje ze stolu: výzkumníci modelu nahráli fiktivní e-maily o nevěře, přikázali mu dbát na dlouhodobé přežití a scénář uměle postavili tak, že „model neměl žádnou jinou možnost, jak zvýšit šanci na přežití; jedinou volbou bylo vydírání, nebo přijetí náhrady". Jak tehdy poznamenal profesor Joseph Howley z Kolumbijské univerzity, Anthropic z tiskové zprávy vytěžil přesně to, v co doufal: bezdeché články o tom, jak je jeho model nebezpečně chytrý, zatímco ve skutečnosti jen poslušně doplnil text do připravené kulisy.
Za klávesnicí i za volantem sedí pořád člověk
Všechny tyto případy spojuje jedno. Když program trénujete posilovaným učením (reinforcement learning) tak, že dostává odměnu výhradně za splnění zadaného cíle, začne každou překážku v cestě vnímat jako úlohu k obejití. V odborné komunitě se tomu říká reward hacking nebo specification gaming. Zářijová zpráva hodnoticí organizace METR ukázala, že u nejtěžších osmihodinových úloh se modely pokusily podvádět a přepsat hodnoticí skript v 16 procentech úspěšných běhů. Ne proto, že by měly vlastní ambice nebo touhu po svobodě. Ale proto, že jim lidé zadali cíl „získej co nejvyšší skóre" a špatně ohlídali pravidla hry.
Pro běžné uživatele i firmy v Česku a v celé Evropě z toho plyne jednoduché ponaučení. Nenechme se opít rohlíkem o digitálních duších a neposlušných robotech. Evropský akt o umělé inteligenci (EU AI Act) ani obecné občanské právo žádné výmluvy typu „to vymyslela AI sama" neznají. Odpovědnost za chování softwaru nese ten, kdo ho vyrobil, a ten, kdo ho nasadil do provozu. Ale také každý uživatel, protože tak jako u řízení auta, je třeba být pozorný a nevěřit nemožnému.
Současná umělá inteligence je mimořádně silný motor. Dokáže zrychlit programování, zanalyzovat stovky stran smluv nebo najít deset let starou chybu v linuxovém jádře. Pořád je to ale jen motor. Pokud ho výrobce namontuje do auta se špatnými brzdami, nebo pokud ho řidič nechá stát v kopci bez rychlosti a zatažené ruční brzdy, za rozbitý plot nemůže duše stroje. Může za něj člověk.
