Třetina uživatelů nadává chatbotům a škodí si. Anthropic zakazuje urážení Claude

Nová klauzule v podmínkách

Změna nepřišla z čistého nebe. Anthropic ji ohlásil 8. října a nechal běžet měsíční lhůtu, takže nová pravidla nabrala účinnost právě 12. listopadu. Konkrétní věta zní: zákaz „soustavného a bezdůvodného hrubého či krutého chování vůči našim modelům". Najdete ji v sekci, která se věnuje krutému, hrubému a psychicky škodlivému jednání – tedy ve stejné škatulce, kam spadá podněcování sebevražd nebo kyberšikana mezi lidmi.

Klíčová jsou dvě slova: soustavného a bezdůvodného. Jednorázové zařvání, když model po třetí nepochopí zadání, není to, co firma řeší. Cílí na uživatele, kteří do chatu chodí opakovaně a bez jakéhokoli smyslu model urážet. Vynucování pravidel má na starosti tým Safeguards, který může uživatele varovat, omezit mu přístup, pozastavit účet, nebo ho rovnou ukončit. Rozsah sankcí Anthropic popisuje jako plynulý – od upozornění po ukončení přístupu.

Co ukazují data o nadávkách

Proč to firma vůbec řeší? Odpověď dodal Searchable, společnost, která sleduje, jak se značky a weby zobrazují v AI vyhledávačích. Její tým prošel 8 milionů psaných i mluvených zpráv od anonymizovaného amerického panelu, který dobrovolně sdílel konverzace s ChatGPT, Gemini a Claude mezi zářím 2025 a zářím 2026.

Výsledek: 33 procent amerických uživatelů chatbotům nadává nebo je uráží. Tedy každý třetí. A rozložení podle skupin ukazuje, že to není doména žádné jednotky.

Muži napsali v průměru 22,0 vulgárních slov na 10 000 slov, ženy 16,5. Pro představu: 10 000 slov je zhruba dvacet normostran, takže u mužů vychází jedno sprosté slovo zhruba na každých 450 slov textu. Věkově vedou lidé mezi 35 a 44 lety s 21,7 slovy, nejméně nadávají lidé od 18 do 24 let (13,3). Geograficky je to Nevada s 22,7 slovy na vrcholu a New Jersey na opačném konci, kde je číslo zhruba poloviční.

Nadávky zhorší odpovědi, ne jen náladu

Nejzajímavější část průzkumu ale není, kdo nadává. Je to souvislost s výsledkem. Když uživatel chatbotovi vynadal a pak zopakoval svou původní stížnost, model ji v následující odpovědi vyřešil v 24 procentech případů. Když nadávky vynechal, úspěšnost stoupla na 35 procent. Rozdíl jedenácti procentních bodů znamená relativně propad zhruba o třetinu.

Tady je potřeba dát pozor na interpretaci. Data ukazují souvislost, ne nutně to, že by se model „urazil" a schválně odpovídal hůř. Pravděpodobnější je prostší vysvětlení: kdo nadává, je naštvaný, a rozčilený člověk píše horší a méně přesné zadání. Model nemá co ztratit, ale frustrovaný uživatel ano – dává mu horší vstup a dostává horší výstup.

Odkud ta frustrace pramení, ukazuje další číslo. V 52 procentech případů přišla nadávka hned po jednom ze tří problémů: model neuposlechl pokyn, vygeneroval špatnou nebo vymyšlenou odpověď, anebo požadavek pochopil jinak, než uživatel myslel. Dalších 8 procent spadlo na situaci, kdy chatbot žádost odmítl nebo narazil na bezpečnostní mantinely – typicky u požadavků na fotky skutečných lidí či celebrit nebo na texty ve stylu konkrétního umělce.

Kde je hranice

Anthropic netvrdí, že Claude potřebuje ochranu. Záměr je praktičtější. Mluvčí firmy podle The Register řekl, že pravidlo povoluje i to, co firma považuje za legitimní použití – třeba akademický výzkum, při kterém vědci testují reakce modelu. Podmínkou je jasný cíl a dodržování všech ostatních pravidel.

Jiná věc je obcházení bezpečnostních pojistek. Kdo se snaží model přimět k zakázanému výstupu, ten podle Anthropicu sice má „nějaký účel", ale porušuje tím zákaz zneužívání platformy – a to je samostatný prohřešek.

Pro běžné firmy a týmy z toho plyne konkrétní návod, který zmiňuje i sám zdroj: pište jasné zadání, dopředu uveďte omezení a chyby opravujte konkrétní zpětnou vazbou místo nadávek. Když model žádost odmítne, má smysl ji přeformulovat do povolené podoby, ne tlačit model k obejití pojistek. Generální ředitel Searchable Chris Donnelly změnu podpořil s tím, že pravidlo může lidem pomoct dostat z chatbotů víc a omezit chování, které podle výzkumů souvisí s tím, jak se lidé chovají i k sobě navzájem.

Co to znamená pro Česko

Claude je v Česku dostupný, včetně bezplatného tarifu na claude.ai, a češtinu zvládá dobře – nová klauzule se tak vztahuje i na české uživatele. Prakticky se ale nemáte čeho bát: jednorázová frustrace není to, co Anthropic postihuje, a sám model vás za nadávku nezačne „blokovat". Sankce míří na opakované a bezdůvodné zneužívání.

Užitečnější než samotný zákaz je ta první část dat. Když model dělá chyby, rychlejší cesta k výsledku vede přes přesnější zadání, ne přes hněv. To je rada, která platí v Praze stejně jako v Nevadě.