Při každodenním používání velkých jazykových modelů (LLM) máme tendenci věřit, že jejich odpovědi jsou výsledkem čisté logiky a zpracování faktických dat. Realita je však mnohem složitější. Jak ukazuje nová studie publikovaná v Proceedings of the National Academy of Sciences (PNAS), současné AI modely nejsou jen "inteligentní", ale jsou také hluboce ovlivněny kulturním kontextem, ve kterém byly vyvinuty a trénovány.
Morální kompas v digitálním věku: Co říkají data?
Vědecký tým zkoumal schopnost modelů OpenAI – konkrétně GPT-3.5, GPT-4 a nejnovější GPT-4o – odhadovat morální normy 48 různých národů. Výzkumníci porovnávali odpovědi AI s daty získanými od více než 90 000 lidí z celého světa. K hodnocení použili tzv. dotazník morálních základů, který měří šest klíčových hodnot: péči (care), rovnost (equality), proporcionalitu, loajalitu, autoritu a čistotu (purity).
Výsledky jsou jednoznačné. AI modely systematicky upřednostňují hodnoty jako péče a rovnost, což jsou pilíře západní liberální společnosti. Naopak hodnoty jako čistota (např. náboženský nebo tradiční respekt k posvátnému) jsou v modelech podhodnocovány, i když se AI má prezentovat jako "průměrný občan" například Maroka nebo Nigérie. Modely tak neustále vykazují tendenci "západizovat" odpovědi, bez ohledu na to, v jakém kulturním kontextu mají působit.
Proč k tomu dochází? Problém datového základu
Příčina není v samotné architektuře neuronových sítí, ale v datech, která se používají k jejich trénování. Jak uvádí článek v The Conversation, internet je stále primárně anglicky mluvící prostor. Kolem roku 2023 tvořilo anglické webové stránky přibližně 59 % veškerého obsahu na síti. Většina tohoto obsahu pochází z USA.
Tím vzniká efekt, kdy se modely učí svět skrze optiku amerického uživatele. Praktickým příkladem je situace, kdy ChatGPT v minulosti chybně interpretoval zvyky v restauraci v Madridu – protože v USA je standardem dávat velké spropitné, model vyhodnotil španělskou absenci spropitného jako nezdvořilost nebo finanční potíže, místo aby pochopil místní kulturu. Ačkoliv se modely postupně zlepšují díky novějším aktualizacím, základní sklon k západní hegemonii zůstává.
Srovnání modelů: Kdo je v etické neutralitě lepší?
Pokud bychom chtěli najít model s nejmenší mírou kulturního zkreslení, musíme se podívat na to, jak jsou modely "laděny" (tzv. alignment proces pomocí RLHF – Reinforcement Learning from Human Feedback).
- OpenAI (ChatGPT/GPT-4o): Aktuálně nejpopulárnější model. Je velmi schopný v logice, ale jeho bezpečnostní filtry a morální pravidla jsou silně definována americkými standardy etiky.
Cena: Free tier, ChatGPT Plus stojí 20 USD/měsíc (cca 470 Kč). - Anthropic (Claude 3.5 Sonnet): Mnohými považován za "lidštější" a méně strohý model. Claude se snaží o vyšší míru nuancovanosti, ale stále vychází z podobných anglických datových sad.
Cena: Free tier, Claude Pro stojí 20 USD/měsíc (cca 470 Kč). - Google (Gemini): Google má obrovskou výhodu v diverzitě dat díky YouTube a vyhledávání, což může vést k širšímu kulturnímu pochopení. Nicméně Gemini často trpí přílišnou "politickou korektností", která je také definována západními korporátními standardy.
Cena: Free tier, Gemini Advanced stojí cca 20 EUR/měsíc (cca 500 Kč).
Dopad na český trh a evropskou sféru
Pro české uživatele a firmy to má tři hlavní roviny:
- Jazyková bariéra vs. kulturní bariéra: I když modely jako ChatGPT nebo Gemini zvládají češtinu velmi dobře, jejich "myšlení" je stále postaveno na anglických konceptách. To znamená, že při překladu kulturních nuancí (např. v marketingu nebo právních textech) může AI vyhazovat západní idiomy nebo hodnoty, které v českém kontextu nedávají smysl.
- Regulace EU AI Act: Evropská unie se snaží tomuto problému čelit skrze AI Act. Regulace klade důraz na to, aby systémy AI byly transparentní a aby se minimalizovalo riziko diskriminace a zkreslení (bias). Firmy v ČR, které implementují AI do svých procesů (např. HR nebo zákaznická podpora), musí být si vědomy, že model může nevědomky diskriminovat určité skupiny na základě kulturních předsudků.
- Business riziko: Pokud česká firma využívá AI pro globální expanzi (například do Asie), nesmí se slepě spoléhat na generované texty. Bez lidské revize může AI v komunikaci s klienty z jiných kultur působit nevhodně nebo bahkan urážlivě, protože bude aplikovat západní morální standardy tam, kde neplatí.
Jak minimalizovat riziko zkreslení?
Jako experti doporučujeme nepoužívat LLM jako "pravdu", ale jako "návrh". Pro snížení kulturního biasu je nejúčinnější technika RAG (Retrieval-Augmented Generation). Místo toho, abyste se spoléhali jen na to, co model "ví" ze svého tréninku, poskytněte mu jako kontext konkrétní, lokální a relevantní dokumenty (např. český právní zákoník nebo etický kodex vaší firmy). Tím modelu "přikážete", aby se držel vašich faktů, nikoliv svých vnitřních západních předsudků.
Pomůže použití češtiny snížit kulturní zaujatost modelu?
Bohužel ne. I když model odpovídá v češtině, jeho vnitřní logické struktury a "morální pravidla" jsou stále formovány na základě převážně anglických dat. Čeština je pro modely spíše jazykovým obalem než novým způsobem myšlení.
Jak poznám, že mi AI odpovídá s kulturním předsudkem?
Pokud si všimnete, že model v otázkách týkajících se tradic, náboženství nebo sociálních rolí neustále upřednostňuje liberální západní pohled (např. v otázkách rodiny, autority nebo společenských povinností), pravděpodobně čelíte kulturnímu biasu.
Je možné AI modely zcela "vyčistit" od těchto předsudků?
V současné době je to téměř nemožné, protože data na internetu jsou nevyhnutelně zkreslená. Cílem není úplná neutralita (která neexistuje), ale zvýšení diverzity trénovacích dat a lepší kontrola nad tím, jakým způsobem modely interpretují různé kulturní kontexty.
