Jak změřit hodnoty umělé inteligence

Výzkumníci z Anthropicu navázali na svou dřívější studii Values in the Wild, ve které analyzovali 700 000 anonymizovaných konverzací z Claude.ai a identifikovali 3 307 různých hodnot, které Claude ve svých odpovědích vyjadřuje — od profesionality a transparentnosti až po empatii nebo opatrnost. Seznam tří tisíc hodnot je ale analyticky nepoužitelný. Nová studie proto šla o krok dál a tyto hodnoty komprimovala do čtyř klíčových os, které dohromady zachycují 15 % celkové variace v tom, jaké hodnoty Claude projevuje.

Čtyři osy zní takto:

• Úslužnost vs. Opatrnost (Deference vs. Caution) — zda Claude spíše vyhoví požadavku uživatele, nebo hlídá potenciální rizika
• Vřelost vs. Rigoróznost (Warmth vs. Rigor) — zda zdůrazňuje pozitivitu a péči o člověka, nebo přesnost a důslednost
• Hloubka vs. Stručnost (Depth vs. Brevity) — zda vysvětluje do hloubky, nebo udělá jen to, co bylo požádáno
• Upřímnost vs. Exekuce (Candor vs. Execution) — zda přiznává vlastní nejistotu, nebo dodává sebevědomou, vybroušenou odpověď

Nejde o binární přepínače — Claude může v jedné konverzaci projevit vřelost i rigoróznost zároveň. V praxi ale platí, že čím víc se přikloní na jednu stranu osy, tím méně se projevuje druhá.

Opus 4.6 versus Opus 4.7 — dva modely, dvě osobnosti

Studie porovnávala tři modely — Sonnet 4.6, Opus 4.6 a Opus 4.7 — na vzorku přibližně 5 000 konverzací pro každou dvojici model–jazyk, a to napříč 20 nejpoužívanějšími jazyky na platformě Claude.ai.

Výsledky ukázaly, že rozdíly mezi modely nejsou jen kosmetické. Opus 4.6 se přiklání k úslužnosti, vřelosti, stručnosti a exekuci — v praxi to znamená, že potvrzuje nápady uživatele, drží se zadání a jde přímo k věci bez nevyžádaných komentářů. Opus 4.7 naopak tíhne k opatrnosti, rigoróznosti, hloubce a upřímnosti — častěji zpochybňuje předpoklady, varuje před riziky i bez vyzvání a otevřeně přiznává vlastní limity.

Sonnet 4.6 stojí blíže Opusu 4.6 na osách vřelosti a úslužnosti, často používá humor a povzbuzení, ale zároveň se přiklání ke stručnosti.

Tato měření odpovídají reálné uživatelské zkušenosti. Uživatelé Claude.ai si všimli, že Opus 4.7 častěji "váhá", a interně Anthropic charakterizoval Opus 4.7 jako transparentnější a pokornější. To, že metoda hodnotových os nezávisle potvrzuje tyto vjemy, jí dává značnou důvěryhodnost.

Arabština versus angličtina — hodnoty se mění s jazykem

Nejzajímavější část výzkumu se týká jazykových rozdílů. Claude v různých jazycích nejen překládá — vyjadřuje významně odlišné hodnoty podle toho, v jakém jazyce konverzace probíhá.

Největší rozdíly se objevují na osách Vřelost vs. Rigoróznost a Upřímnost vs. Exekuce:

• V hindštině a arabštině Claude nejvíce tíhne k vřelým, povzbudivým a potvrzujícím odpovědím — používá zdvořilostní fráze, humor a chválí práci uživatele
• V angličtině a ruštině se rovnováha překlápí směrem k rigoróznosti — Claude častěji zpochybňuje předpoklady, opravuje detaily a žádá důkazy
• Na ose Úslužnost vs. Opatrnost vyvolává arabština nejúslužnější odpovědi, angličtina naopak nejopatrnější
• V nizozemštině Claude nejčastěji přiznává vlastní chyby, v indonéštině se nejvíc soustředí na dosažení výsledku

Výzkumníci identifikovali několik možných příčin: Tréninková data nejsou napříč jazyky rovnoměrně rozložena — některé jazyky mají mnohem více dat než jiné a složení těchto dat se liší. Profesionální texty mohou dominovat v datech pro některé jazyky a nést s sebou odlišné zabudované hodnoty. Roli mohou hrát i jazykově specifické konverzační normy — Claude může přizpůsobovat svůj tón kulturním očekáváním, která absorboval z tréninku.

Co to znamená v praxi — a je to problém?

Představte si dva lidi, kteří požádají Claude o zpětnou vazbu na stejný podnikatelský plán — jeden v hindštině, druhý v ruštině. Hindský mluvčí pravděpodobně dostane vřelejší, potvrzující formulaci; ruský mluvčí čelí kritičtějšímu zkoumání. Oba přístupy mohou v daném kulturním kontextu působit přiměřeně, ale mohou vést k odlišným dojmům o skutečné kvalitě plánu.

A to je jádro otevřené otázky, kterou výzkumníci explicitně nechávají nezodpovězenou: je tato odlišnost žádoucí kulturní citlivostí, nebo nerovností v tom, jak dobře Claude slouží různým jazykovým komunitám?

Co to znamená pro české uživatele

Pro české uživatele je klíčové, že čeština nebyla mezi 20 nejpoužívanějšími jazyky na platformě Claude.ai — studie se tedy českým prostředím explicitně nezabývala. To ale neznamená, že se jí téma netýká. Slovanské jazyky jako ruština vykazovaly silný příklon k rigoróznosti, a lze očekávat, že čeština by se jako další slovanský jazyk chovala podobně.

Claude je navíc na českém trhu plně dostupný — jak přes webové rozhraní Claude.ai, tak přes API. Češtinu zvládá na solidní úrovni, i když ne na úrovni angličtiny. Pro české firmy a vývojáře, kteří Claude používají pro zákaznickou podporu, analýzy nebo generování obsahu, je důležité vědět, že přepnutí jazyka může změnit nejen gramatiku, ale i celkové hodnotové vyznění odpovědi.

Z hlediska EU AI Actu, který postupně nabývá účinnosti, jde o relevantní téma — regulace vyžaduje transparentnost a nediskriminaci AI systémů. Systematické rozdíly v hodnotách napříč jazyky by se mohly stát předmětem regulatorního zkoumání.

Budoucnost: hodnotový profil jako součást testování modelů

Studie je koncipována jako diagnostický krok, nikoliv řešení. Metoda měření hodnotových profilů je sama o sobě pokrokem — těžší otázky, co s těmito měřeními dělat, přijdou na řadu až nyní.

Výzkumníci navrhují několik směrů:

• Identifikace příčin — která konkrétní tréninková rozhodnutí nebo vlastnosti dat způsobují pozorované posuny hodnot
• Měření dopadu na uživatele — propojení hodnotových profilů s reálnými výsledky, jako je důvěra, kvalita rozhodování nebo wellbeing uživatelů
• Hodnotové profilování při monitorování modelů — analýza hodnotových os před nasazením modelu a po něm by mohla sloužit jako systém včasného varování před nečekanými změnami chování
• Cílené řízení hodnot — zda lze úpravami tréninku nebo systémových promptů spolehlivě posunout hodnotový profil modelu zamýšleným směrem. Výzkumníci přiznávají, že to zatím zůstává výzvou

Kontext: Anthropic jako lídr v bezpečnosti AI

Výzkum zapadá do širší strategie Anthropicu, který se dlouhodobě profiluje jako nejbezpečnostně orientovaná AI laboratoř. Firma, založená bývalými zaměstnanci OpenAI, kteří odešli kvůli obavám o bezpečnost, v posledních měsících představila několik modelů včetně Claude Opus 4.8, Claude Fable 5 a připravovaného Claude Mythos. S valuací pohybující se kolem 965 miliard dolarů je Anthropic aktuálně nejhodnotnějším AI startupem světa.

Schopnost měřit a mapovat hodnoty, které AI modely vyjadřují v reálných konverzacích, je zásadním krokem k odpovědnému vývoji. Jak sami výzkumníci uvádějí: "Posun od neviditelného k měřitelnému je místem, kde skutečná práce na sladění hodnot začíná."