Britská prokurátorka citovala před soudem fiktivní případ vytvořený AI

Neexistující případ se dostal do soudního spisu

Případ se týká rozhodnutí britské prokuratury pokračovat ve stíhání chlapce, kterému bylo v době údajného incidentu 11 let. Obětí měla být jeho sedmiletá mladší sestra. Právníci chlapce napadli postup Crown Prosecution Service, tedy úřadu, který v Anglii a Walesu zajišťuje veřejná trestní stíhání.

V písemném odůvodnění se objevila citace případu označeného jako R v J [2024] EWCA Crim 3529. Takové rozhodnutí ale neexistuje. Fiktivní precedens byl v dokumentu uveden celkem třikrát.

Dhillonová později uvedla, že chtěla odkázat na skutečné rozhodnutí R v JTB z roku 2009. Záměna tedy nebyla pouze v názvu. Lišil se také rok a označení soudu. V právním dokumentu, který má opírat argumentaci o existující judikaturu, jde o chybu snadno ověřitelnou v oficiálních databázích.

Podle informací zveřejněných deníkem The Guardian vznikla citace při internetovém vyhledávání, jehož součástí byl AI generovaný souhrn. Zdrojový článek neuvádí konkrétní nástroj ani model. Z toho nelze určit, zda šlo o samostatného chatbota, AI funkci vyhledávače nebo jinou službu.

Soud chybu kritizoval, výsledek řízení však nezměnila

Vrchní soud řešil především to, zda měl být chlapec dále stíhán. Soudci Lord Justice Holgate a Mr Justice Wall konstatovali, že vysvětlení prokurátorky je neuspokojivé. Současně dospěli k závěru, že neexistující případ neměl vliv na věcný výsledek rozhodnutí o pokračování stíhání.

To je důležité rozlišení. Soud neřekl, že citovat smyšlený precedens je přijatelné. Rozhodl pouze o tom, že konkrétní chyba v tomto řízení nezměnila výsledek. Samotná citace přitom zůstává vážným selháním kontroly právního dokumentu.

Rozhodnutí soudu je dostupné v právní databázi BAILII. Právě ověřování v databázi tohoto typu mělo ukázat, že případ R v J neexistuje. U běžné rešerše jde o krok, který zabere krátkou chvíli. U soudního podání však může mít význam pro důvěryhodnost celé argumentace.

Problém nevzniká tím, že AI používá přesvědčivý jazyk. Vzniká tím, že systém může vytvořit smyšlený údaj ve formátu, který vypadá jako skutečná právní citace. Model nemusí „vědět“, zda konkrétní rozhodnutí existuje. Dokáže pouze sestavit text podle vzorů, které zná z jiných dokumentů. Výsledek pak působí odborně, i když ho nelze dohledat.

Po prvním incidentu měla být kontrola přísnější

Nejde o první známý případ, kdy britská prokuratura předložila soudu falešnou právní citaci vytvořenou s pomocí AI. Jde o druhý známý případ u CPS. Po předchozím incidentu úřad prověřil 78 dalších spisů daného právníka a v nich další chyby nenašel.

V červenci 2026 CPS uvedla, že riziko opakování je nízké. Aktuální případ ukazuje, že samotné interní pokyny nestačí, pokud se při práci s AI neověří každý právní odkaz v důvěryhodném zdroji. CPS nyní uvádí, že má pravidla omezující použití AI tak, aby nástroj nerozhodoval o právních otázkách, a že výstupy musí projít lidskou kontrolou.

Ověření ale nesmí znamenat jen přečtení hotového textu. Člověk musí otevřít databázi, vyhledat spisovou značku a porovnat soud, rok i obsah rozhodnutí. U citací je to podobné jako u bankovního čísla účtu. Nestačí, že má správný počet znaků a vypadá věrohodně.

Britský registr sledující chyby spojené s AI v soudní praxi evidoval k podzimu 2026 celkem 76 falešných nebo podezřelých citací a dalších souvisejících případů. Číslo zahrnuje různé typy řízení a neznamená, že všechny chyby vznikly u profesionálních právníků. Část případů se týká lidí, kteří se zastupovali sami, nebo nižších soudů.

Problém se tím však nezmenšuje. Pokud právník použije AI při přípravě dokumentu, odpovědnost za obsah zůstává na něm. Soud neřeší, zda chybu napsal člověk, chatbot nebo automatické shrnutí výsledků vyhledávání.

Co si z případu odnést mimo britské soudy

Případ není důkazem, že AI nelze použít pro právní rešerši. Ukazuje spíš hranici mezi pomocí při hledání a převzetím hotového tvrzení. AI může pomoci najít témata, vysvětlit pojmy nebo navrhnout seznam rozhodnutí k ověření. Neměla by být posledním místem, kde se ověřuje, zda citovaný rozsudek vůbec existuje.

To platí také pro české firmy, advokátní kanceláře a úřady. Konkrétní britský nástroj ani model v tomto případu zveřejněn nebyl a z článku nelze potvrdit dostupnost dané služby v češtině nebo pro český trh. Obecný princip se však nemění podle jazyka. Pokud systém generuje právní, účetní nebo regulatorní podklady, musí člověk ověřit zdroje v oficiální databázi.

U méně citlivých úkolů může být chyba jen nepříjemná. U soudního podání může zpochybnit práci právníka, prodloužit řízení a přidat práci protistraně i soudu. V tomto případu soudci dospěli k závěru, že výsledek napadeného rozhodnutí chyba neovlivnila. To ale neznamená, že podobná chyba bude příště bez následků.

Neexistující případ R v J byl podle zjištění soudu a zveřejněných informací nahrazen odkazem na skutečné rozhodnutí R v JTB z roku 2009. Samotná oprava přišla až poté, co se citace začala prověřovat.

FAQ