Případ popsal web Tom's Hardware a v češtině ho shrnul Svět Androida. Ukazuje konkrétní hranici soukromí při rozhovoru s umělou inteligencí: obsah chatu si může přečíst i někdo jiný než jeho autor.
Co se na Floridě stalo
Podle policejní zprávy, na kterou se Tom's Hardware odvolává přes web WINK News, uživatelka označená jako Carli napsala 26. září do chatu s Claudem, že vystřílí úřad šerifa okresu Lee. Následující den měla v konverzaci zmínit novou zbraň. Policie ji zadržela doma ve městě Bonita Springs bez incidentu a případ si převzal detektiv úřadu šerifa.
Klíčový je mezikrok, který při běžném psaní chatbotu není vidět. Anthropic podle zprávy sleduje v chatech klíčové fráze a potenciálně výhrůžný obsah. Podle závažnosti může konverzaci poslat k lidskému posouzení. Právě tento tým v daném případě rozhodl, že zjištění předá policii.
Soudní záznamy uvádějí obvinění z 30. září podle floridského zákona 836.10, který se týká písemné či elektronické výhrůžky hromadnou střelbou nebo teroristickým činem. Zatím jde o obvinění, ne o rozhodnutí o vině. Další podrobnosti má přinést soudní jednání naplánované na 2. listopadu.
Dva standardy v pravidlech ochrany soukromí
Anthropic se k samotnému případu nevyjádřil. Jeho pravidla ochrany soukromí, platná od 10. září, ale s předáním údajů počítají. Firma může data sdílet s policií, pokud se v dobré víře domnívá, že je to přiměřeně nezbytné k zabránění vážné újmě člověku nebo majetku.
Zajímavý detail se skrývá ve statistikách. Zpráva Anthropicu o vládních žádostech za druhé pololetí 2025 uvádí nulu nouzových žádostí od policie. Tato kategorie ale pracuje s užším standardem, takzvaným nebezpečím smrti nebo vážného zranění. Vlastní oznámení, která firma iniciuje sama, se do ní nezapočítávají. Nula tak nevypovídá o tom, kolikrát Anthropic policii upozornil z vlastní iniciativy.
OpenAI postupuje stejně
Podobně jedná i konkurenční OpenAI. Na Floridě letos nahlásil FBI uživatele Darrena Zhoua, který v chatu s ChatGPT mluvil o zabití bývalé přítelkyně. Zhou v srpnu přiznal vinu, mimo jiné kvůli písemným výhrůžkám zabitím podle stejného zákona 836.10, a dostal osmiletou podmínku.
Tlak působí i opačným směrem. Kanadská provincie Britská Kolumbie žaluje OpenAI za to, že policii nevarovala před střelcem z města Tumbler Ridge. Žaloba tvrdí, že firma jeho účet na ChatGPT identifikovala osm měsíců před útokem. Floridská generální prokurátorka zase v červnu podala na OpenAI žalobu kvůli střelbě na Floridské státní univerzitě z roku 2025. Firmy tak stojí mezi dvěma požadavky: chránit soukromí uživatelů, ale zároveň hlásit hrozby, než se naplní.
Jak to dopadá v EU a v Česku
Pro české uživatele se na mechanismu nic nemění. Claude je v Česku dostupný, zvládá češtinu a má bezplatnou verzi. Za evropské uživatele odpovídá Anthropic Ireland se sídlem v Dublinu. GDPR firmě nezakazuje zpracovávat konverzace kvůli ochraně bezpečnosti – v právních základech uvádí životně důležité zájmy i oprávněné zájmy.
Evropská pravidla tedy neznamenají, že je chat s AI absolutně soukromý. Předání údajů k zabránění vážné újmě je v nich vyčleněné stejně jako ve Spojených státech. Rozdíl je spíš v právech uživatele: v EU lze proti zpracování vznést námitku nebo požádat o výmaz. U konverzací označených k bezpečnostnímu přezkumu to ale nemusí znamenat, že obsah okamžitě zmizí.
Šerif okresu Lee Carmine Marceno to v rozhovoru pro WINK News shrnul jednoduše: sdílet něco s AI nikdy není skutečně anonymní. Konverzace označená systémem může pro lidské kontrolory fungovat jako deník, který se dá číst i proti vám.
Může policie získat celou historii mých konverzací s Claude?
Anthropic může údaje předat policii, pokud se v dobré víře domnívá, že je to přiměřeně nezbytné k zabránění vážné újmě. Nejde o plošné předávání historie, ale o konkrétní případy, kdy systém nebo lidský přezkum označí potenciálně výhrůžný obsah.
Dá se zajistit, aby moji konverzaci s AI nikdo nečetl?
Úplně se to zajistit nedá, pokud používáte cloudovou službu. Konverzace lze ale ručně smazat. V nastavení lze také vypnout použití konverzací k trénování modelů, obsahy označené k bezpečnostnímu přezkumu si ale firma podle svých pravidel ponechává.
Platí stejná pravidla i pro firemní účty Claude Enterprise?
Ne tak docela. Pravidla ochrany soukromí se na obsah zpracovávaný pro firemní zákazníky nevztahují, ten řídí smluvní podmínky mezi firmou a Anthropicem. Soukromí se tak liší podle typu účtu.
