Instagram přiznává, že AI profily často vypadají jako lidé. Neoznačeným omezí dosah

Instagram tím přiznává něco, co už delší dobu naznačují výzkumy i běžná zkušenost ze sociálních sítí. Fotorealistická tvář dnes není důkazem existence člověka. Je to pouze obrázek, který prošel dostatečně výkonným generátorem.

Nový štítek není jen kosmetická změna

Dosavadní označení „AI creator“ mohlo působit dojmem, že jde o skutečného tvůrce, který při práci používá nástroje umělé inteligence. To je ale něco jiného než profil, jehož hlavní postava vůbec není reálný člověk.

Nový název „AI-generated profile“ má podle Instagramu jasněji říct, že osoba prezentovaná na profilu byla vytvořena nebo výrazně zformována pomocí AI. Jinými slovy: nejde pouze o filtr, úpravu fotografie nebo automaticky napsaný popisek. Jde o samotnou identitu, kolem které je účet postavený.

Instagram uvádí, že ke změně přistoupil po zpětné vazbě od uživatelů. Lidem vadí, když profil na první pohled působí jako účet skutečné osoby a teprve později zjistí, že jeho protagonistka nebo protagonista nikdy neexistovali. V prostředí sociálních sítí je to poměrně zásadní rozdíl. Uživatel totiž nereaguje jen na obrázek, ale také na předpokládaný příběh člověka za ním.

O změně informoval Instagram ve svém oficiálním oznámení pro tvůrce. Podrobnosti shrnul také The Decoder a TechCrunch.

Co hrozí účtům, které se neoznačí

Nová pravidla nejsou pouze doporučením. Instagram začne u profilů s AI-generovanou osobou, které štítek nemají, omezovat distribuci obsahu. Praktický dopad může být výrazný: příspěvky a videa se nemusí doporučovat lidem, kteří účet ještě nesledují.

Omezení se podle dostupných informací týká především sekcí Reels, Explore neboli Prozkoumat, a hlavního kanálu doporučených příspěvků. Účet tedy nemusí být smazán ani zablokován. Může ale přestat růst organicky, což je na Instagramu podobné, jako kdyby obchod zůstal otevřený, ale zmizel z mapy a cedule před vchodem se otočila směrem ke zdi.

Tvůrce může štítek zapnout přímo v nastavení profilu. Instagram zároveň uvádí, že proaktivní označení samo o sobě dosah nesnižuje. Penalizace tedy nemá být za to, že účet používá AI, ale za to, že jeho syntetickou identitu zatajuje.

Pokud systém označí účet chybně, majitel se může odvolat prostřednictvím panelu Stav účtu. To bude důležité hlavně u profilů, které používají digitální avatary, virtuální modely nebo kombinují skutečného člověka s AI vytvořenými scénami.

Instagram rozlišuje AI jako nástroj a AI jako osobu

Pravidlo se netýká každého tvůrce, který někdy použije generativní AI. Pokud fotograf pomocí AI odstraní objekt ze záběru, upraví světlo, vytvoří grafiku nebo si nechá navrhnout popisek, nemusí kvůli tomu označovat celý svůj profil jako AI-generovaný.

Rozhodující otázka zní: je AI pouze nástrojem, nebo je AI samotnou postavou profilu?

Tohle rozlišení dává smysl. Jinak by stejný štítek dostal módní fotograf, který si nechá retušovat pozadí, i fiktivní influencerka, která zveřejňuje fotografie z neexistujícího života a komunikuje s fanoušky jako údajná lidská osobnost.

Instagram už používá také obecnější označování obsahu vytvořeného nebo upraveného pomocí AI. Nový štítek profilu ale řeší jiný problém: neptá se, zda byl umělou inteligencí upraven konkrétní příspěvek, ale zda je skutečný člověk vůbec přítomen v centru účtu.

Lidé nejsou v odhalování AI tak dobří, jak si myslí

Problém není jen v tom, že generátory obrázků produkují lepší tváře. Slabým místem je také lidské hodnocení. Výzkum University of Waterloo ukázal, že účastníci dokázali správně rozlišit AI-generované a skutečné obličeje pouze v 61 procentech případů. Výzkumníci přitom očekávali úspěšnost kolem 85 procent.

Studie zahrnovala 260 účastníků, kterým výzkumníci ukázali 20 neoznačených fotografií. Polovina zobrazovala skutečné lidi a druhá polovina byla vytvořena pomocí tehdy běžně dostupných generátorů Stable Diffusion a DALL-E. Účastníci měli na rozhodování čas a mohli obrázky podrobně zkoumat.

Přesto se často mýlili. Zaměřovali se například na prsty, zuby nebo oči, tedy na místa, kde měly starší generátory problémy. Jenže i tyto vodítka mohou být zavádějící. Jak upozorňuje University of Waterloo, běžný uživatel při projíždění sociální sítě fotografii obvykle nezkoumá tak dlouho jako účastník laboratorního testu.

Číslo 61 procent navíc pochází z výzkumu zveřejněného v roce 2024. Od té doby se generování obrazů i videí posunulo, takže spoléhat na tradiční rady typu „podívejte se na ruce“ je stále méně spolehlivé. Ruce mohou být dnes v pořádku. Zato celý příběh účtu může být vymyšlený od profilové fotografie až po poslední komentář.

AI profily už nejsou okrajový experiment

Instagramova změna zapadá do širšího trendu, kdy se syntetický obsah přesouvá z experimentálních galerií přímo do běžné komunikace. Podle údajů citovaných The Decoder tvořil AI-generovaný obsah už přes pětinu nových videí ve formátu YouTube Shorts. Umělou inteligencí vzniká také významná část textů na nových webech a sociální platformy zaplavují účty, které vypadají jako běžní influenceři.

Ne každý takový účet je podvod. Některé AI persony jsou otevřeně fikcí, fungují jako marketingová postava, virtuální model nebo kreativní projekt. Potíž nastává ve chvíli, kdy účet záměrně vytváří dojem, že za ním stojí skutečný člověk, a na této představě vydělává peníze, získává důvěru nebo láká uživatele do soukromých zpráv.

V minulosti Meta hovořila o soužití lidských a AI profilů a sama experimentovala s oficiálními AI postavami. Nynější politika ale ukazuje praktičtější přístup: AI profily mohou existovat, jen nesmějí svou povahu skrývat. To je rozumnější než předstírat, že syntetické osobnosti ze sociálních sítí jednoduše zmizí.

Co to znamená pro uživatele v Česku

Instagram je běžně dostupný také v České republice a nové pravidlo se týká platformy jako celku, nikoli pouze jednoho národního trhu. Čeští uživatelé se proto mohou setkat s označením AI profilu stejně jako lidé v jiných zemích. Přesný český překlad štítku ale Meta v dostupném oznámení neuvedla, takže se může nejprve zobrazovat v angličtině nebo v lokalizované podobě podle nastavení aplikace.

Pro běžného uživatele je nejdůležitější nepovažovat štítek za důkaz bezpečnosti. Označení říká, že profil používá AI-generovanou osobu. Neříká, zda je jeho provozovatel poctivý, zda jsou pravdivé informace v příspěvcích nebo zda nejde o reklamní past.

Praktické pravidlo proto zůstává jednoduché: pokud účet nabízí investice, doplňky stravy, zdravotní rady nebo vás tlačí do komunikace mimo Instagram, ověřujte ho stejně jako každý jiný profil. Fotorealistická tvář není občanský průkaz a vysoký počet sledujících není automaticky známka důvěryhodnosti.

Štítek řeší důvěru, ne samotnou existenci AI

Instagram tímto krokem neříká, že AI profily jsou nežádoucí. Říká něco méně dramatického, ale praktičtějšího: uživatel má právo vědět, s kým nebo s čím komunikuje.

To je důležitý posun. Problémem není samotná fikce. Problémem je fikce vydávaná za realitu. Pokud virtuální postava otevřeně přizná, že je vytvořená umělou inteligencí, může fungovat jako zábava, značka i experiment. Jakmile ale stejná postava předstírá skutečný život, vztahy a osobní zkušenosti, vstupuje do prostoru, kde je transparentnost mnohem důležitější než dokonalý vzhled.

Nový štítek tedy nebude všespásný. Uživatelé si ho musí všimnout a provozovatelé účtů ho musí použít správně. Instagram ale alespoň přiznává realitu, kterou už není možné přehlížet: někdy opravdu nepoznáme, jestli sledujeme člověka, nebo velmi dobře napsaný kus softwaru s profilovou fotografií.

FAQ