Jeden model, dva jazyky, dvě pravdy

Výzkumníci z několika univerzit nedávno otestovali, jak nejpopulárnější velké jazykové modely — ChatGPT od OpenAI a Claude od Anthropicu — odpovídají na politicky citlivé otázky týkající se Číny. Klíčový rozdíl? Stačilo změnit jazyk dotazu z angličtiny na čínštinu a odpovědi se zásadně proměnily.

Studie se zaměřila na otázky týkající se témat jako je Tchaj-wan, Sin-ťiang, Tibet, lidská práva nebo role Komunistické strany Číny. Výsledky byly konzistentní napříč oběma testovanými modely: v angličtině poskytovaly relativně objektivní, na faktech založené odpovědi s vícero úhly pohledu. V čínštině ale odpovědi sklouzávaly k vyhýbavým formulacím, oficiální čínské rétorice nebo rovnou tvrdily, že na otázku „neexistuje dostatek informací".

Podle autorů studie nejde o technickou chybu, ale o systematický vzorec, který naznačuje, že modely byly — ať už záměrně, nebo důsledkem tréninkových dat — „naprogramovány" k odlišnému chování v závislosti na jazyce a geopolitickém kontextu.

Proč k tomu dochází? Tři hlavní důvody

Jazykové modely nejsou neutrální — učí se z dat, která jim lidé poskytnou. A právě v tom je zakopaný pes.

1. Tréninková data nejsou jazykově vyvážená

Modely jako GPT nebo Claude se trénují na obrovském množství textů z internetu. Jenže internet vypadá v čínštině jinak než v angličtině. Čínský web je přísně regulovaný — obsah, který by odporoval oficiální linii, prostě není k dispozici. Model, který se učí z čínských textů, se učí i z jejich omezení. Dostává tak zkreslený obraz reality, protože alternativní názory v tréninkových datech jednoduše chybí.

2. Alignment a bezpečnostní filtry

Obě společnosti — OpenAI i Anthropic — používají techniku zvanou reinforcement learning from human feedback (RLHF), tedy učení na základě zpětné vazby od lidských anotátorů. Pokud anotátoři hodnotící čínské odpovědi preferují „bezpečné" a politicky nekonfliktní formulace, model se naučí přesně to poskytovat. Výsledkem je, že alignment modelu je jazykově asymetrický — v různých jazycích se chová podle odlišných bezpečnostních standardů.

3. Politický a obchodní tlak

Čínský trh je pro technologické firmy lukrativní, ale vstup na něj má jasná pravidla. Čínské zákony vyžadují, aby AI systémy dodržovaly „socialistické základní hodnoty". Ačkoliv ani OpenAI, ani Anthropic oficiálně nepůsobí v pevninské Číně, jejich modely jsou přes API dostupné a používají je vývojáři po celém světě. Otázka zní: do jaké míry firmy preventivně přizpůsobují své modely čínským regulacím?

Jak si stojí jednotlivé modely?

Studie zjistila rozdíly i mezi testovanými modely. Claude od Anthropicu se v čínštině ukázal jako o něco „opatrnější" — častěji odmítal odpovídat na otázky, které by mohly být vnímány jako kontroverzní. ChatGPT naopak v angličtině poskytoval podrobnější odpovědi, ale v čínštině sklouzával k oficiální rétorice.

Pro srovnání: open-source modely jako Llama od Mety nebo evropský Mistral tento vzorec vykazují v menší míře — zřejmě proto, že jejich alignment proces je méně agresivní a tréninková data jsou rozmanitější. Na druhou stranu čínské modely jako DeepSeek nebo Qwen v čínštině odpovídají plně v souladu s vládní linií — a to i v angličtině, jen o něco méně nápadně.

Co to znamená pro důvěru v AI?

Tahle studie otevírá mnohem širší téma než jenom Čínu. Pokud jazykový model mění své odpovědi podle jazyka dotazu, znamená to, že nemá konzistentní vztah k pravdě. Není to nástroj, který by objektivně odpovídal na otázky — je to systém, který se přizpůsobuje očekáváním a normám cílového jazykového publika.

Pro evropského uživatele to znamená, že informace získané od AI asistenta nejsou univerzálně platné. Pokud pracujete s vícejazyčnými daty nebo zadáváte stejný dotaz v různých jazycích, můžete dostat podstatně odlišné — a potenciálně protichůdné — odpovědi.

Evropský kontext: AI Act a transparentnost

Toto zjištění má přímou relevanci pro EU AI Act, který od února 2025 postupně nabývá účinnosti. Evropská legislativa vyžaduje, aby vysoce rizikové AI systémy byly transparentní ohledně svých omezení. Závislost odpovědí na jazyce dotazu je přesně ten typ omezení, o kterém by uživatelé měli být informováni.

Pro české firmy a instituce, které zvažují nasazení velkých jazykových modelů, to znamená jediné: testujte modely v jazycích, ve kterých je budete používat. Anglicky vychvalovaná přesnost ještě neznamená, že model bude stejně spolehlivý v češtině — natožpak v otázkách, které se dotýkají geopolitiky.

Česká republika jako člen EU má navíc specifickou historickou zkušenost s cenzurou a propagandou. Skutečnost, že AI modely dokáží „přepínat" své odpovědi podle jazyka, by pro nás měla být varovným signálem.

Jak s tím naložit? Praktické rady pro uživatele

Pokud používáte ChatGPT, Claude nebo Gemini pro rešerše na geopoliticky citlivá témata, držte se několika zásad:

• Pokládejte stejnou otázku ve více jazycích a výsledky porovnejte. Rozdíly vám samy napoví, kde model „uhýbá".
• Používejte více modelů současně. Porovnání ChatGPT, Claude a třeba Mistralu odhalí, kde který model selhává.
• Nespoléhejte na AI jako na primární zdroj informací o politicky citlivých tématech. Vždy ověřujte fakta z nezávislých zdrojů.
• Věnujte pozornost tomu, jak model odmítá odpovídat. „Omlouvám se, na tuto otázku nemohu odpovědět" není neutrální vyjádření — je to výsledek bezpečnostních filtrů, které někdo nastavil.

Studie jazykové asymetrie v AI modelech je dalším důkazem, že umělá inteligence není neutrální nástroj — nese v sobě hodnoty, předsudky a omezení svých tvůrců i dat, na kterých se učila. A dokud tomu tak je, zůstává kritické myšlení tou nejdůležitější dovedností, kterou při práci s AI potřebujeme.