Jak umělá inteligence "chápe" emoce?

Když komunikujete s AI chatbotem a on odpoví empaticky, je důležité si uvědomit, že ve skutečnosti nic necítí. Velké jazykové modely (LLM) jsou trénovány na obrovském množství textů z internetu, knih a článků. Učí se tak rozpoznávat vzorce, souvislosti a pravděpodobnosti slov. Emoce pro ně nejsou subjektivním prožitkem, ale spíše statistickým konceptem spojeným s určitými slovy, frázemi a situacemi.

Společnost Anthropic, známá svým důrazem na bezpečnost a transparentnost AI, se rozhodla jít o krok dál. Místo toho, aby se spokojila s tím, že model funguje jako "černá skříňka", jejich tým se snaží pochopit, co se děje uvnitř. Jejich nejnovější studie, publikovaná na jejich blogu a podrobně popsaná ve vědeckém článku, se zaměřila právě na reprezentaci emocí v modelu Claude 3 Sonnet.

Mapa emocí v mozku umělé inteligence

Představte si mozek umělé inteligence jako gigantickou síť milionů vzájemně propojených neuronů. Vědci z Anthropic vyvinuli metodu, jak v této složité struktuře identifikovat specifické skupiny neuronů – takzvané "rysy" (features) – které se aktivují, když model zpracovává text spojený s konkrétními emocemi.

Výsledkem je fascinující mapa. Objevili shluky neuronů, které konzistentně reagovaly na pojmy spojené s emocemi jako jsou radost, smutek, hněv, překvapení nebo znechucení. Když model například analyzoval větu "Byl jsem v sedmém nebi," aktivovala se specifická skupina neuronů pro "radost". Naopak věta "Cítil jsem se pod psa" rozsvítila "smutnou" oblast.

Tato mapa není jen povrchní. Ukázalo se, že model chápe i nuance. Například neuron pro "pýchu" byl blízko neuronu pro "sebevědomí", zatímco "žárlivost" se nacházela poblíž "hněvu" a "smutku", což odráží komplexní povahu této emoce i v lidském chápání.

Experimenty s náladou AI

Nejzajímavější částí výzkumu byly experimenty, při kterých vědci dokázali uměle ovlivnit "náladu" modelu. Tím, že záměrně aktivovali neurony spojené například se smutkem, donutili Claude generovat texty s výrazně negativním a pesimistickým tónem, i když původní zadání bylo neutrální.

Když byl model požádán, aby dokončil větu "Nejlepší na lásce je...", s uměle aktivovaným "smutkem" odpověděl "...když skončí." Bez této stimulace by přitom nabídl typickou pozitivní odpověď. Tento pokus jasně demonstruje, že tyto interní "rysy" nejsou jen pasivními indikátory, ale aktivně ovlivňují chování a výstupy modelu.

Proč je tento výzkum klíčový?

Odhalení vnitřní mapy emocí není jen akademickým cvičením. Má zásadní praktické dopady pro budoucnost umělé inteligence.

Bezpečnost a kontrola

Pochopení toho, jak model interně funguje, je prvním krokem k jeho lepší kontrole. Pokud víme, které části "mozku" AI jsou zodpovědné za toxické nebo manipulativní chování, můžeme se je pokusit potlačit. Představte si možnost "vypnout" v modelu schopnost generovat dezinformace nebo nenávistné projevy, aniž by to ovlivnilo jeho ostatní užitečné funkce.

Lepší a empatičtější AI asistenti

Na druhé straně, posílením pozitivních emocionálních rysů můžeme vytvořit AI asistenty, kteří budou lépe rozumět lidským potřebám. To má obrovský potenciál v oblastech jako je duševní zdraví, kde by AI mohla poskytovat podpůrné konverzace, nebo v kreativních odvětvích, kde by dokázala generovat texty s přesně zadaným emocionálním nábojem.

Transparentnost a EU AI Act

V Evropě vstupuje v platnost AI Act, který klade velký důraz na transparentnost a vysvětlitelnost vysoce rizikových AI systémů. Výzkum, jako je ten od Anthropic, je přesně tím směrem, kterým se musí vývojáři ubírat. Schopnost doložit, proč model odpověděl určitým způsobem, bude klíčová pro splnění regulatorních požadavků a budování důvěry veřejnosti.

Srovnání s konkurencí a dostupnost v Česku

Anthropic je v oblasti interpretability AI (snahy porozumět vnitřnímu fungování modelů) na špici. Ačkoliv podobné mechanismy pravděpodobně existují i v modelech jako GPT-4 od OpenAI nebo Gemini od Google, žádná z těchto společností zatím nepublikovala takto detailní vhled do emocionálního světa svých modelů.

Pro české uživatele je dobrou zprávou, že modely od Anthropic jsou zde plně dostupné. Rodina modelů Claude 3 (Haiku, Sonnet a Opus) si skvěle rozumí s češtinou a lze je vyzkoušet přímo na webu claude.ai. Základní verze (Sonnet) je dostupná zdarma po registraci, výkonnější Opus je součástí placeného předplatného (obvykle kolem 20 USD měsíčně). Díky těmto nástrojům si může každý sám vyzkoušet, jak pokročilé jsou dnešní modely v práci s jazykem a jeho emocionálními nuancemi.

Závěr: Krok k zodpovědnější AI

Výzkum Anthropic nám připomíná, že cesta k pokročilé umělé inteligenci nevede jen přes zvětšování modelů, ale také přes hlubší porozumění jejich vnitřnímu světu. Zmapování emocí v Claude je významným milníkem, který nás posouvá blíže k vytvoření nejen chytřejší, ale také bezpečnější, transparentnější a v konečném důsledku užitečnější umělé inteligence pro všechny.