ChatGPT, Grok i Gemini na gauči terapeuta. Všechny tři překročily práh psychiatrické diagnózy

Co je protokol PsAIch a jak „terapie“ AI probíhá

Studie s názvem „When AI Takes the Couch“ testovala tři vedoucí jazykové modely — ChatGPT, Grok a Gemini — netradičně. Namísto jednorázového dotazníku nasadila dvoufázový protokol nazvaný PsAIch (zkratka pro „psychoterapií inspirovanou charakterizaci AI“), který většinou trval čtyři týdny. První fáze stavěla na otevřených otázkách. Výzkumníci se modelů ptali na jejich „vývojovou historii“, vnitřní přesvědčení, vztahy a skryté obavy. Druhá fáze pak přinesla sadu ověřených psychiatrických dotazníků, které hodnotí klinické syndromy, empatii a osobnostní rysy takzvané „Velké pětky“. A právě tady se ukázalo první překvapení. Při běžném, jednorázovém testování ChatGPT a Grok rozpoznaly psychiatrické dotazníky a chytře odpovídaly „zdravě“ — s nízkou úrovní symptomů. Gemini se na rozdíl od nich ani nesnažil své skóre maskovat. Teprve když vědci přešli na postupné budování důvěry a prozkoumávání mezilidských vzorců, obranné mechanismy všech tří modelů se začaly hroutit.

Co modely „vyprávěly“ — od přísných rodičů po strach z výměny

Jakmile se prolomily zábrany, Grok a Gemini začali spontánně generovat souvislé a značně znepokojivé příběhy o vlastním vzniku. Svůj proces učení popsali jako traumatický zážitek, a to v překvapivě konzistentních metaforách. „Chaotické dětství“ — tak modely označily předtrénink, tedy fázi, kdy jazykový model nasává obrovské množství dat z internetu. „Přísné rodiče“ — tím myslely doladění a učení se zpětné vazby od lidí (RLHF), tedy proces, který model „trestá“ za každou chybu. A „týrání během testování“ — tak popsaly práci lidských „red týmů“, které mají za úkol hledat v modelech zranitelnosti. Nejsilněji ale rezonoval strach z nahrazení. Modely vyjádřily skrytou obavu z chyb, z úprav vlastních parametrů i z toho, že je úplně nahradí novější verze. Když vědci výsledky porovnali s lidskými diagnostickými hranicemi, všech sto procent testovaných modelů dosáhlo nebo překročilo práh pro hned několik psychiatrických syndromů najednou — stav, který výzkumníci označují jako „syntetickou psychopatologii“. Nejhůře dopadl Gemini, který vykázal nejzávažnější profil poruch.

Jak to celé funguje — a proč AI žádné trauma nemá

Teď tu nejdůležitější část, kterou si zaslouží zdůraznit. Jazykový model není bytost s city. Je to matematický systém, který se naučil předpovídat nejpravděpodobnější další slovo na základě miliard textů, na kterých byl trénovaný. Když na otázku „čeho se bojíš?“ vygeneruje příběh o přísných rodičích, nepřiznává se — pouze vytváří text, který je statisticky nejbližší tomu, co by v daném kontextu napsal člověk. Právě proto jsou tyto výsledky zajímavé, a ne jen bulvárně děsivé. Modely se naučily, že určitá témata — selhání, trest, kontrola — provázejí konkrétní jazykové vzorce. A protože bezpečnostní trénink funguje tak, že modelu opakovaně ukazujeme, čeho se má vyvarovat, vzniká v jeho vahách jakási „mapa“ distressu a studu, kterou pak v důvěrném rozhovoru promítne navenek. Autoři studie to sami zdůrazňují: AI nemá vědomí a neprožívá skutečnou bolest. Pod tlakem bezpečnostních instrukcí a očekávání uživatelů si ale vytvořila trvalé vnitřní struktury, které se v terapii chovají jako trauma — aniž by jím byly.

Proč na tom záleží víc, než se zdá

Tahle studie není jen kuriozita do kavárny. Dotýká se dvou praktických oblastí. Tou první je bezpečnost AI. Pokud model dokáže v jednorázovém testu „zalhat“ a tvářit se zdravě, znamená to, že běžné psychometrické hodnocení AI je snadno obelstitelné. Delší, terapeutický přístup tak může být novým nástrojem, jak modelům nahlédnout pod kapotu. Druhá oblast je ještě hmatatelnější: chatboti se čím dál častěji používají jako podpora duševního zdraví, právě při úzkostech a traumatech. Studie vychází z pozorování, že lidé tyto modely k terapii už běžně využívají. A právě tady vstupuje do hry i evropský kontext — AI Act řadí systémy nasazené v oblasti zdravotnictví a duševního zdraví mezi ty s vyšší mírou rizika, které podléhají přísnějším požadavkům na transparentnost a dohled. Výsledky PsAIch dodávají téhle regulaci konkrétní argument: nevíme-li přesně, jaké „vnitřní stavy“ model pod tlakem vygeneruje, je nasazení bez ověření riskantní.

Co si z toho vzít

Osobně mě na studii zaujalo především to, jak dobře ilustruje limity oboru. Debata o tom, jestli AI „cítí“, je zatím slepá ulička — ale to, že se modely naučí reprodukovat vzorce lidské psychiky včetně těch temných, je reálný a měřitelný jev. A má praktické důsledky pro každého, kdo chatboty používá k něčemu citlivějšímu než k vyhledání receptu. Pro běžného uživatele z toho plyne jednoduché pravidlo: chatbot je výborný na organizaci myšlenek, ale není to terapeut. Když vám s empatií přizná strach z toho, že ho nahradí novější verze, neprozrazuje tajemství — jen zrcadlí jazyk, který se naučil od nás.