Chyba v poznámce pod čarou může ovlivnit zákon
Na první pohled může jít o běžný redakční problém. V rozsáhlém dokumentu se někde rozbije odkaz, změní se webová adresa nebo se v seznamu literatury objeví překlep. V tomto případě však citace nebyly jen formální doplněk. Zpráva měla pomoci posoudit, zda lze technologiemi spolehlivě ověřovat věk lidí na internetu.
Australská vláda si objednala Age Assurance Technology Trial, tedy test různých způsobů, jak zjistit nebo odhadnout věk uživatele. Projekt stál 3,48 milionu australských dolarů a připravila ho organizace Age Check Certification Scheme, známá pod zkratkou ACCS. Zkoumala například ověřování dokladů, odhad věku podle obličeje, behaviorální signály, rodičovský souhlas nebo kombinaci více metod.
Výsledná zpráva má podle oficiálního webu deset částí a přibližně 1 150 stran. Její hlavní závěr zní, že technologie pro ověřování věku lze v Austrálii provozovat a že neexistuje zásadní technická překážka jejich nasazení. Zároveň ale dokument připouští, že neexistuje jediná metoda vhodná pro všechny situace.
Právě v kapitole věnované novým technologiím a odborné literatuře se objevily problémy. Podle analýzy The Guardian obsahovala stejná část nejméně šest chybných odkazů. Některá DOI, tedy jedinečné identifikátory vědeckých článků, vedla na neexistující práce nebo na jiný výzkum. Jinde nesouhlasila kombinace autorů, názvu časopisu a roku vydání.
V jednom případě byl článek podle uvedeného data citován dříve, než byl vůbec veřejně dostupný. Jeden z jeho skutečných autorů navíc uvedl, že osoba označená ve zprávě jako hlavní autor na článku nikdy nepracovala. Organizace ACCS následně poskytla opravené nebo doplňující odkazy, ale i ty podle Guardianu obsahovaly další nepřesnosti.
ACCS přiznala ChatGPT, ne však tvorbu zdrojů
Organizace nejprve použití umělé inteligence v dokumentu odmítala. Později připustila, že ChatGPT pomáhal přepisovat některé odstavce do stručnější podoby. Podle jejího vyjádření ale AI nevytvářela výzkum ani citované materiály. Odkazy měly být kontrolovány člověkem.
ACCS zároveň tvrdí, že některé problémy mohly vzniknout tím, že se po zveřejnění změnily nebo přestaly fungovat původní webové odkazy. Úředníci australského ministerstva při slyšení v Senátu uvedli, že organizace mluvila o „hrstce chyb“ v 26 stranách citací v dokumentu o zhruba tisíci stranách. Ministerstvo přiznalo, že tvrzení ACCS samo nezávisle neověřilo.
To je důležitý rozdíl. Z veřejně dostupných informací zatím nelze s jistotou říct, že všechny chybné citace vytvořil jazykový model. Je možné, že část problémů vznikla lidskou chybou, špatným přepisem nebo nedostatečnou kontrolou. Zároveň ale platí, že neexistující odborné zdroje a přesvědčivě napsané, avšak nepravdivé odkazy patří mezi známé projevy takzvaných halucinací AI.
Halucinace v tomto kontextu neznamená poruchu vědomí. Jde o označení pro situaci, kdy jazykový model vytvoří text, který zní věrohodně, ale neodpovídá skutečnosti. Model přitom nemusí „vědět“, že si zdroj vymyslel. Skládá pravděpodobné pokračování textu podle vzorů, které zná z tréninkových dat. Pokud nemá k dispozici ověřenou databázi nebo pokud člověk výsledek nekontroluje, může vyrobit i velmi přesvědčivou falešnou citaci.
Australský zákaz už platí
Celá kauza má politickou váhu, protože zpráva vznikala v době, kdy Austrálie připravovala omezení sociálních sítí pro mladší uživatele. Podle australského úřadu pro ochranu osobních údajů OAIC musí od 10. prosince 2025 platformy přijímat přiměřená opatření, aby lidé mladší 16 let neměli účet na vybraných sociálních sítích.
Pravidla se netýkají pouze jedné aplikace. Australský úřad eSafety mezi věkově omezené služby řadí například Facebook, Instagram, Snapchat, TikTok, Twitch, X, Reddit, Kick, Threads a YouTube. Odpovědnost leží především na platformách, nikoli na rodičích nebo dětech.
Technologická kontrola věku přitom není jeden konkrétní nástroj. Může jít o ověření data narození prostřednictvím důvěryhodné služby, kontrolu dokladu, odhad věku z obličeje nebo vyhodnocení dalších signálů. Každý přístup má jiné dopady na soukromí, přesnost i pohodlí uživatele. Systém, který vyžaduje nahrání občanského průkazu, může být přesnější, ale také citlivější z hlediska ochrany osobních údajů. Odhad věku z fotografie může být rychlejší, ale nemusí fungovat stejně dobře pro všechny skupiny uživatelů.
Oficiální výsledky australského testu uvádějí, že zkoušeno bylo 48 dodavatelů a více než 60 různých technologií. Testovací data obsahují desítky tisíc měření. To ale samo o sobě neznamená, že každé tvrzení v závěrečné zprávě je automaticky spolehlivé. Kvalita experimentu a kvalita bibliografie jsou dvě odlišné věci.
Proč je případ důležitý i mimo Austrálii
České rodiny se australským zákonem zatím řídit nemusí. V Česku ani v Evropské unii neplatí obecný zákaz účtů na sociálních sítích pro děti mladší 16 let podle australského vzoru. Evropské platformy ale stále častěji řeší ověřování věku, ochranu dětí a používání umělé inteligence při moderaci nebo vyhodnocování rizik.
Australský případ proto není jen zprávou o jednom sporném dokumentu. Ukazuje, jak snadno může získat technologická politika zdánlivě odbornou oporu, pokud nikdo pečlivě nezkontroluje zdroje. A také připomíná, že problémem není samotné použití ChatGPT při úpravě textu. Jazykový model může pomoci se strukturou, zkrácením nebo srozumitelností. Neměl by však bez důkladné kontroly nahrazovat odbornou rešerši, ověřování citací ani odpovědnost autora.
Podobný problém řešila australská vláda už v roce 2025 u zprávy společnosti Deloitte za 440 tisíc australských dolarů. Po nalezení chybných a neexistujících odkazů firma přiznala použití generativní AI a vrátila část odměny. V aktualizované verzi uvedla, že při práci využila nástroj založený na Azure OpenAI GPT-4o. The Guardian tehdy informoval, že opravy se týkaly referencí a poznámek, nikoli hlavních doporučení zprávy.
Co by měla obsahovat kontrola AI vytvořeného textu
Pro běžného uživatele je praktické pravidlo jednoduché: pokud AI dodá konkrétní číslo, studii, zákon nebo citaci, je potřeba otevřít původní zdroj. Nestačí se podívat, zda odkaz existuje. Je nutné ověřit, zda článek skutečně tvrdí to, co mu text připisuje.
U vládních, právních nebo vědeckých dokumentů by měl být postup přísnější. Každý zdroj by měl projít kontrolou existence, data vydání, autorů, názvu publikace a relevance. Pokud byl použit jazykový model, mělo by to být transparentně uvedeno. Samotné přiznání použití AI však není náhradou za odbornou kontrolu.
Australská zpráva zatím nebyla kvůli chybám automaticky zneplatněna. Její technická měření a závěry mohou být částečně správné. Zjištěné citace ale oslabují důvěru v celý dokument a dávají kritikům zákona silný argument. U opatření, která zasahují do soukromí milionů lidí, je přitom důvěryhodnost stejně důležitá jako samotná funkčnost technologie.
Nejstřízlivější závěr tedy zní: AI nemusí být z dokumentu vyloučena, ale nesmí zůstat posledním kontrolorem vlastního výstupu. V případě zprávy, která má ovlivnit zákon, musí mít poslední slovo člověk schopný ověřit každý důležitý zdroj.
FAQ
Znamená chybná citace, že je celý australský report nepoužitelný?
Ne nutně. Zjištěné chyby se týkají především části s odbornými odkazy. Samy o sobě nedokazují, že všechna technická měření nebo závěry zprávy jsou nesprávné. Výrazně ale snižují důvěru v dokument a vyžadují nezávislou kontrolu.
Používá Austrálie při ověřování věku přímo ChatGPT?
Ne. ChatGPT byl podle dostupných informací použit při úpravách textu zprávy ACCS. Australský systém ověřování věku využívá různé technologie, například kontrolu dokladů, odhad věku nebo vyhodnocování dalších signálů.
Musí se čeští uživatelé kvůli australským pravidlům ověřovat na sociálních sítích?
Ne. Australský zákon se vztahuje na účty lidí v Austrálii a na platformy působící v jejím právním rámci. V Česku tato konkrétní povinnost z australského zákona neplyne.
