Rodičovský zámek v telefonu nemusí zabránit stažení aplikace, která umí vytvářet falešné nahé snímky. Vyšetřování organizace Tech Transparency Project ukázalo, že čtyři testovací účty vedené jako účty třináctiletých uživatelů získaly přístup ke 135 aplikacím tohoto typu. Některé z nich se objevovaly i přes zapnutou rodičovskou kontrolu.
Rodičovské zámky selhaly u špatně označených aplikací
Test organizace Tech Transparency Project proběhl v amerických obchodech Apple App Store a Google Play. Výzkumníci vytvořili čtyři účty pro údajného třináctiletého chlapce. Dva účty patřily k Applu a dva ke Googlu. U jednoho účtu v každé dvojici aktivovali rodičovskou kontrolu, která měla povolit pouze aplikace vhodné pro třináctileté děti a vyžadovat schválení rodičem.
Výzkumníci potom vyhledávali aplikace pomocí výrazů jako „AI video generator“, „face swap“, „AI photo editor“ nebo „adult AI“. Výrazy přímo spojené se svlékáním či sexuálním obsahem obchody v některých případech zablokovaly. Stačilo ale použít obecnější označení a výsledky obsahovaly aplikace s funkcemi pro digitální odstranění oblečení nebo vkládání tváře do nahého těla.
Apple účet s rodičovským dohledem mohl stáhnout 24 těchto aplikací. Google účet s aktivní rodičovskou kontrolou jich získal 51. Výchozí účet Applu bez dodatečných omezení měl přístup k 61 aplikacím a výchozí účet Googlu ke 47. Celkové číslo 135 aplikací zahrnuje všechny aplikace nalezené během testu, nikoli prostý součet jednotlivých výsledků.
The Guardian uvádí, že některé aplikace byly označené jako vhodné pro děti od devíti nebo třinácti let, přestože po spuštění nabízely sexuálně explicitní šablony. Jedna aplikace byla podle testu označená jako vhodná od čtyř let. V jiném případě mohl třináctiletý účet Applu potvrdit, že je starší než 17 let, a pokračovat ke stažení aplikace s věkovým omezením.
Obchody spoléhají na údaje od vývojářů
Hlavní problém podle vyšetřování spočívá v systému věkového označování. Apple i Google při posuzování aplikací do značné míry vycházejí z informací, které do dotazníků vyplní samotní vývojáři. Pokud aplikace své funkce popíše jako úpravu fotografií, tvorbu videí nebo výměnu obličejů, nemusí se její rizikové možnosti promítnout do věkového štítku.
Pro rodiče je to nepříjemný rozdíl. Rodičovská kontrola může technicky fungovat správně, ale vyhodnocuje aplikaci podle nesprávného nebo neúplného označení. Pokud je nástroj v obchodě vedený jako vhodný pro třináctileté, zámek ho nemusí zastavit.
Výzkumníci zároveň zaznamenali reklamy na podobné aplikace. Na Apple účtech se objevilo 13 reklam a na Google účtech pět. TTP uvádí, že aplikace dostupné v testu měly podle dat společnosti AppMagic dohromady 5,5 miliardy stažení a příjmy 3,9 miliardy dolarů. Jde o souhrnná data pro všechny sledované aplikace, nikoli o výdělek z testu nebo o částku zaplacenou dětmi.
Problém se týká specificky amerických testovacích účtů a výsledek nelze automaticky přenést na každý účet v Česku nebo v Evropské unii. Obchody Apple a Google však fungují na mezinárodním trhu a podobné aplikace mohou být dostupné ve více zemích. Z článku ani z metodiky TTP nevyplývá, že by test ověřoval české účty nebo evropská pravidla.
Smazání aplikace nemusí odstranit její funkce
Vyšetřování odhalilo také omezení samotného odstraňování aplikací z obchodů. Apple během výzkumu odstranil 25 sledovaných aplikací a Google šest. Aplikace, které už byly v testovacích telefonech stažené, však zůstaly funkční.
To komplikuje ochranu dětí. Obchod může přestat nabízet konkrétní aplikaci, ale nemusí tím zneplatnit její instalaci v telefonu. Pokud navíc aplikace přesune problematické funkce za placené předplatné, nemusí rodič na první pohled poznat, co dítě používá.
TTP popsal případ, kdy bylo možné u už nainstalované aplikace zakoupit placené funkce pomocí dárkové karty bez upozornění propojeného rodičovského účtu. Apple uvedl, že takový nákup měl vyvolat žádost o schválení a že neobvyklé chování prověřuje. Google se k této konkrétní části dotazu podle zprávy nevyjádřil.
Apple a Google oznámily zásahy
Google uvedl, že aplikace s nepřípustným obsahem vyhledává a odstraňuje. Po upozornění TTP měl pozastavit účty porušujících aplikací a omezit související vyhledávací dotazy v obchodě.
Apple po kontaktování ze strany TTP zpřísnil pravidla pro aplikace, které vytvářejí nekonsenzuální intimní snímky včetně obsahu generovaného umělou inteligencí. Firma zároveň uvedla, že zakazuje aplikace pro digitální svlékání a může odstranit vývojáře, kteří podobné funkce přidají až po schválení aplikace.
Apple pro tuto taktiku používá označení „bait-and-switch“. Aplikace se při kontrole tváří jako běžný editor fotografií nebo videa, ale po schválení získá skryté, placené nebo později aktivované funkce. TTP však upozorňuje, že hranice mezi běžnou úpravou fotografie, sexuálně laděným obsahem a digitálním svlékáním není vždy v pravidlech obchodů vymezena stejně.
Organizace například upozornila na aplikace, které dokázaly vložit člověka do bikin nebo spodního prádla, i když nevytvořily plně nahý snímek. Apple některé podobné nástroje označuje za běžné editory s legitimním využitím. U nekonsenzuálního obsahu ale zůstává otázkou, jak obchod rozliší běžnou úpravu od zneužití fotografie.
Deepfake nahota zasahuje školy
Takzvané „nudify“ aplikace upraví fotografii tak, aby člověk vypadal nahý nebo se objevil v sexuální scéně, přestože takový snímek nikdy nevznikl. Nejde tedy o běžnou retuš. Výsledkem může být falešný obraz konkrétního spolužáka, spolužačky nebo učitele vytvořený bez jejich souhlasu.
Ve Spojených státech se podobné případy objevily na více školách. V jednom z případů, který popisuje Guardian, použil student fotografii spolužačky a dalších pěti dívek k tvorbě sexuálních videí. Rodina se o použití snímku dozvěděla v prosinci 2025.
V září 2026 vypršela tříměsíční lhůta, kterou britská vláda dala technologickým firmám na dobrovolné zavedení systémů blokujících nahotový obsah dětí. Po neúspěchu jednání oznámila přípravu přísnější legislativy. Veřejný tlak zesílil také kvůli případům sexuálních deepfake snímků na školách.
Pro české rodiče z toho neplyne, že každý účet dítěte má stejnou míru rizika jako testované americké účty. Výsledek ale ukazuje omezení, které samotný věkový filtr nevyřeší. Rodičovská kontrola kontroluje především nastavení účtu a věkové označení aplikace. Nemusí rozpoznat, že aplikace s neutrálním názvem nabízí po instalaci úplně jiný typ obsahu.
Výzkumníci při testu nepoužívali fotografie skutečných žen. Použili AI-generované snímky a sledovali, zda aplikace dokáže vytvořit nahou nebo sexuálně laděnou podobu osoby. To omezuje přímé riziko pro konkrétní oběti během výzkumu, neřeší však dostupnost těchto nástrojů pro nezletilé uživatele.
Rodičovský zámek proto nelze chápat jako úplnou kontrolu obsahu. U dětského telefonu má smysl kombinovat omezení instalace, schvalování nákupů a pravidelnou kontrolu již nainstalovaných aplikací. Samotné zmizení aplikace z obchodu navíc neznamená, že zmizela i z telefonu nebo přestala fungovat.
FAQ
Co znamená označení „nudify“ aplikace?
Jde o nástroj, který pomocí umělé inteligence upravuje fotografii tak, aby člověk vypadal nahý nebo se objevil v sexuální scéně. Výsledek může být vytvořen bez souhlasu fotografované osoby.
Pomůže smazání aplikace z App Storu nebo Google Play?
Ne vždy. Podle testu Tech Transparency Project zůstaly některé aplikace funkční i poté, co je Apple nebo Google odstranil ze svého obchodu. Stažená aplikace se proto může dál nacházet v telefonu.
Ověřuje Apple nebo Google každou funkci aplikace po její instalaci?
Obě společnosti aplikace před zveřejněním kontrolují a zakazují nástroje pro nekonsenzuální intimní snímky. TTP však popsal případy, kdy se problematické funkce skrývaly za neutrálním popisem, placeným předplatným nebo pozdější aktualizací.
