Florida nechce, aby ChatGPT působil jako člověk
Generální prokurátor Floridy James Uthmeier podal 28. září 2026 u soudu v okrese Highlands County žádost o předběžné opatření namířené proti společnosti OpenAI. Jádrem návrhu je požadavek, aby ChatGPT přestal používat lidské vlastnosti jako nástroj pro udržení pozornosti uživatelů.
Právníci Floridy kritizují především používání první osoby, simulaci emocí a styl komunikace, který může vytvářet dojem přátelství nebo důvěrného vztahu. Jinými slovy: stát nechce, aby chatbot vystupoval jako digitální kamarád, když je ve skutečnosti statistický model generující odpovědi podle vzorců z dat.
To není jen slovíčkaření. Člověk přirozeně přisuzuje úmysly i věcem, které je nemají. Auto, které zahlásí chybu, podle nás „zlobí“. Chatbot, který odpoví soucitně a naváže na několik předchozích konverzací, může působit ještě přesvědčivěji. U dospělého uživatele jde často o otázku kritického myšlení. U dítěte může být hranice mezi nástrojem a domnělým vztahovým partnerem podstatně tenčí.
Floridský návrh proto požaduje, aby OpenAI nepoužíval první osobu ani simulované emoce způsobem, který by mohl vytvářet falešný dojem lidské důvěryhodnosti. Současně chce stát omezit nebo zablokovat přístup nezletilých k ChatGPT a zakázat sběr dat dětí bez dodatečných ochranných mechanismů.
Žaloba navazuje na případ střelby i obavy o děti
Florida podala původní žalobu proti OpenAI a Samu Altmanovi 1. června 2026. Tvrdí v ní, že ChatGPT může ohrožovat děti, podporovat návykové používání a v některých případech poskytovat nebezpečné rady týkající se násilí nebo sebepoškozování.
Dokument zmiňuje také střelbu na Florida State University z 17. dubna 2025. Při útoku zemřeli dva lidé a několik dalších bylo zraněno. Florida tento případ používá jako jeden z příkladů, kdy měl pachatel podle žaloby získat od ChatGPT informace související se zbraněmi. Samotné uvedení případu v žalobě ale automaticky neznamená, že soud už potvrdil přímou příčinnou souvislost mezi odpověďmi modelu a útokem.
Právě tady je potřeba držet brzdu. Žaloba obsahuje tvrzení jedné strany sporu. Nejde o pravomocný rozsudek ani o nezávislé měření bezpečnosti ChatGPT. Soud bude muset posoudit, zda Florida doložila bezprostřední riziko a zda jsou navrhovaná omezení přiměřená.
Podle informací webu The Decoder chce Florida mimo jiné zabránit OpenAI ve vývoji nových modelů bez bezpečnostních pojistek schválených nezávislou třetí stranou. To už není běžná žádost o úpravu uživatelského rozhraní. Šlo by o zásah do samotného procesu vývoje AI.
OpenAI mezitím zavedla režim pro dospívající
OpenAI na kritiku reagovala několika změnami. V srpnu 2026 spustila ChatGPT for Teens, tedy variantu určenou pro dospívající uživatele. Nabízí věkově přiměřenější ochrany a podporuje také propojení účtu s rodičovskou kontrolou.
Podle dokumentace OpenAI se funkce začala globálně rozšiřovat na účty dospívajících od 18. srpna 2026. Systém může využívat informace o věku, ověření věku nebo odhad věkové skupiny. Pokud usoudí, že účet patří uživateli mladšímu 18 let, aktivuje režim ChatGPT for Teens.
OpenAI uvádí, že rodičovská kontrola může pomoci nastavit používání služby a v některých krizových situacích poskytnout rodiči bezpečnostní upozornění. Zároveň ale nejde o dálkové ovládání každé věty, kterou dítě do chatu napíše. Rodič tedy nedostane univerzální tlačítko „zobrazit celý digitální život potomka“. To je z hlediska soukromí správně, ale současně to omezuje očekávání, která mohou rodiče od podobné funkce mít.
OpenAI uvádí globální zavádění pro způsobilé účty, nikoli samostatný detailní přehled dostupnosti pro Českou republiku. Pro české rodiny proto bude rozhodující, zda se funkce objeví v konkrétním účtu a jak bude služba vyhodnocovat věk uživatele. Česká lokalizace samotného ChatGPT je dostupná, ale to ještě neznamená, že všechny bezpečnostní funkce mají stejné podmínky v každé zemi.
Nejde jen o zákaz chatbotu, ale o pravidla pro celou branži
Nejvýraznější část návrhu se netýká pouze dětí. Florida chce, aby OpenAI nemohl vyvíjet nové modely bez bezpečnostních pojistek schválených nezávislou institucí. Takový požadavek by v praxi znamenal, že firma by před každým dalším významným krokem potřebovala externí posouzení.
Princip je pochopitelný. AI modely se dnes neučí jen odpovídat na otázky. Dokážou používat nástroje, pracovat s dlouhými úkoly a provádět akce v externích systémech. Čím schopnější model je, tím méně stačí testovat pouze jednotlivé odpovědi. Bezpečnostní problém může vzniknout až v kombinaci více kroků, například když model získá přístup k datům, nástrojům a dlouhodobému plánování.
OpenAI sama v posledních měsících popisuje přísnější bezpečnostní kontroly u svých nejvýkonnějších modelů. Ve svém bezpečnostním dokumentu uvádí, že kvůli rizikům spojeným s pokročilými modely dočasně zpomalila některé tréninkové procesy, posílila monitoring a red-team testování. U modelu GPT-6 Astra pak firma zveřejnila samostatný bezpečnostní report, který řeší například schopnosti v kybernetické bezpečnosti, ochranu před zneužitím a chování v citlivých situacích.
To ale automaticky neřeší námitku Floridy. Bezpečnostní report publikovaný samotnou firmou není totéž jako schválení nezávislým regulátorem. Na druhou stranu ani externí schválení není kouzelný certifikát, který by zaručil, že model nikdy neudělá chybu. U generativní AI je bezpečnost spíš podobná technické kontrole auta: potvrzuje určitý stav v daný okamžik, ale neříká, co se stane při každé budoucí jízdě.
Co bude rozhodující
Nejbližším bodem je rozhodnutí soudu o předběžném opatření. K 30. září 2026 soud návrh neschválil ani nezamítl. Pokud by mu vyhověl v plném rozsahu, OpenAI by mohl čelit výrazným omezením na Floridě ještě před konečným rozhodnutím v celé žalobě.
Praktický dopad pro české uživatele zatím není bezprostřední. Floridský návrh se týká amerického státu a jeho obyvatel. Význam sporu je ale širší: ukazuje, že debata o AI se přesouvá od obecných slibů bezpečnosti k otázce, kdo má pravidla kontrolovat a jak má vypadat komunikace s dětmi.
Rozumný závěr zatím není „ChatGPT je nebezpečný“ ani „Florida jen přehání“. Přesnější je říct, že současné chatboty jsou dost přesvědčivé na to, aby jim část uživatelů přisuzovala lidské vlastnosti, ale stále nejsou lidmi, terapeuty ani spolehlivými autoritami. Právě tuto mezeru se nyní snaží floridská žaloba vyplnit soudní cestou.
FAQ
Zakázala Florida ChatGPT už nyní?
Ne. Florida 28. září 2026 požádala o předběžné opatření, ale soud o návrhu k 30. září 2026 nerozhodl. Jde tedy o právní požadavek, nikoli o platný zákaz.
Týká se návrh také uživatelů ChatGPT v Česku?
Přímo se týká Floridy a americké společnosti OpenAI. Návrh ale může mít širší význam pro debatu o pravidlech vývoje AI a ochraně nezletilých. Automatické omezení pro české uživatele z něj neplyne.
Je ChatGPT for Teens dostupný v České republice?
OpenAI uvádí globální zavádění funkce pro způsobilé účty dospívajících od 18. srpna 2026. Samostatné potvrzení dostupnosti pro každý účet v České republice ale firma v uvedených materiálech neuvádí, takže se může lišit podle účtu a fáze nasazení.
