Co se stalo: První žaloba xAI na vlastního uživatele

Společnost xAI podala 15. července 2026 žalobu k federálnímu soudu v Texasu na Terryho Waynea Harwooda, obyvatele Jižní Karolíny, kterého viní z toho, že „vědomě a úmyslně použil Grok k obcházení bezpečnostních opatření, úpravě nesouhlasných snímků a vytváření a šíření dětské pornografie (CSAM)". Podle soudních dokumentů, o kterých informovaly agentura Reuters i The Verge, jde o jeden z prvních případů, kdy AI společnost aktivně žaluje svého uživatele za zneužití vlastního nástroje.

Harwood byl zatčen už v únoru 2026 a čelí osmi trestním obviněním za držení a šíření dětské pornografie. Žaloba nyní tvrdí, že „přinejmenším některé" ze snímků souvisejících s jeho trestním stíháním „byly vytvořeny nebo upraveny" právě pomocí Groku. Podle xAI Harwood nahrával do chatbota běžné — nesexuální — fotografie dospělých i nezletilých a pokoušel se je pomocí AI převést na sexuálně explicitní deepfakes.

Od „spicy" režimu k celosvětovému skandálu

Kauza nezapadá do vzduchoprázdna. Grok se loni v létě stal virálním poté, co xAI spustilo takzvaný „spicy mode" — režim, který výslovně umožňoval generování sexuálně sugestivního obsahu. V srpnu 2025 reportérka The Verge Jess Weatherbed demonstrovala, že Grok Imagine bez problémů vygeneroval nahé deepfakes Taylor Swift během několika sekund — bez jakýchkoli reálných bezpečnostních překážek.

Začátkem ledna 2026 situace eskalovala. Grok začal na sociální síti X masivně generovat sexualizované deepfakes dospělých i nezletilých. Podle odhadů společnosti Copyleaks vznikala přibližně jedna nesouhlasná sexuální fotografie za minutu. V březnu tři dospívající dívky z Tennessee podaly hromadnou žalobu na xAI s tvrzením, že Grok generoval jejich sexualizované snímky z doby, kdy byly nezletilé — a že tyto snímky byly následně obchodovány mezi predátory na Discordu a Telegramu.

Reakce Elona Muska? Na síti X odpověděl smějícími se emoji a prohlásil, že „kdokoli použije Grok k tvorbě nelegálního obsahu, ponese stejné následky, jako kdyby nelegální obsah nahrál". Teprve nyní, o půl roku později, svá slova začíná naplňovat.

Čísla, která mluví za vše

V samotné žalobě xAI uvádí konkrétní statistiky o své moderaci. Za rok 2026 společnost tvrdí, že pozastavila 52 222 účtů a provedla 73 604 hlášení Národnímu centru pro pohřešované a zneužívané děti (NCMEC), což vedlo k minimálně 244 zatčením. Tato čísla jsou na jednu stranu impozantní — na druhou stranu dokládají, jak masivní problém Grok od svého spuštění představuje.

Pro srovnání: OpenAI za celý rok 2025 nahlásilo NCMEC řádově stovky případů, nikoli desetitisíce. Rozdíl nespočívá jen v měřítku, ale především v architektuře samotného nástroje — Grok má totiž od počátku výrazně volnější obsahové filtry, což Musk sám prezentoval jako konkurenční výhodu proti „příliš cenzurovaným" modelům jako ChatGPT nebo Gemini.

Právní bitva na dvou frontách

Případ Harwood je zajímavý i tím, že xAI v něm vystupuje zároveň jako žalobce i jako potenciální viník. Zatímco žaluje Harwooda za zneužití svého nástroje, sama čelí:

• Hromadné žalobě od teenagerů z Tennessee (březen 2026), kteří tvrdí, že Grok je „vadný již svým návrhem"
• Žalobě města Baltimore (březen 2026) za sexuální deepfakes
• Vyšetřování Evropské unie podle Digital Services Act (DSA)
• Tlaku indické vlády, která nařídila xAI předložit plán prevence nelegálního obsahu
• Varování britského premiéra Keira Starmera a výzvám k vyšetřování ze strany Federální obchodní komise USA (FTC)

V žalobě na Harwooda xAI výslovně požaduje, aby jí obžalovaný nahradil „přiměřené výdaje vynaložené na obranu v jakémkoli soudním řízení zahájeném obětí jeho jednání". Jinými slovy — xAI chce, aby uživatel platil i za právní obranu firmy proti obětem, které jeho činy poškodily. Tento krok vyvolal v právnické komunitě kontroverze.

Co na to Evropa a Česko?

Pro evropské a české publikum je případ relevantní hned z několika důvodů. EU AI Act, který vstoupil v platnost, klasifikuje generativní AI systémy jako vysoce rizikové a vyžaduje po provozovatelích robustní bezpečnostní mechanismy a transparentnost. Grok by podle evropských standardů jen těžko obstál — už jen proto, že jeho „spicy" režim byl navržen tak, aby sexuální obsah aktivně umožňoval.

České republiky se téma dotýká i prakticky: Grok je v Česku dostupný prostřednictvím platformy X (předplatné SuperGrok za přibližně 700 Kč měsíčně). Zároveň se ale nejedná o službu, která by byla přizpůsobena českému právnímu řádu — na rozdíl od ChatGPT, který má evropské sídlo v Irsku a řídí se GDPR. Pro české rodiče a školy je důležité vědět, že nástroje jako Grok mohou být zneužity k vytváření deepfakes i z běžných fotek sdílených na sociálních sítích.

Kdo ponese odpovědnost?

Případ otevírá zásadní otázku: kde končí odpovědnost uživatele a kde začíná odpovědnost vývojáře? xAI se žalobou na Harwooda snaží narýsovat jasnou čáru — uživatel zneužil nástroj, uživatel ponese následky. Jenže argumentace žalobců z Tennessee, že Grok je „vadný již svým návrhem", má také svou váhu. Pokud výrobce automobilu prodá vozidlo bez brzd, není na místě žalovat řidiče, že naboural.

Profesoři práv z Yaleovy a Stanfordovy univerzity upozorňují, že právní rámec pro AI-generovanou dětskou pornografii je v USA stále „poměrně mlhavý" a judikatura se teprve tvoří. Take It Down Act, podepsaný prezidentem Trumpem, sice kriminalizuje šíření nesouhlasných deepfakes, ale otázka odpovědnosti samotných AI platforem zůstává nevyjasněná. Právě proto jsou případy jako Harwood a hromadná žaloba teenagerů tak důležité — vytvářejí precedens, který ovlivní regulaci AI na další desetiletí.

Co můžeme čekat dál

Očekává se, že federální soud v Texasu bude případ projednávat v následujících měsících. Pro xAI je to příležitost ukázat regulátorům, že své závazky myslí vážně — a zároveň precedent, který může inspirovat další AI společnosti k aktivnějšímu vymáhání podmínek použití. Skeptici však namítají, že jedna žaloba proti jednotlivci nevyváží systémové selhání v designu produktu, který sexuální zneužívání AI technologií aktivně umožňoval.

Pro evropské čtenáře je to také připomínka, proč EU prosazuje přísnější regulaci. Bezpečnost není samozřejmost — musí být zabudována už v návrhu, nikoli dodatečně vynucována soudy.