Svět se nachází v bodě, kdy nástroje umělé inteligence přestávají být pouze pomocníky při psaní e-mailů a stávají se aktivními účastníky geopolitického boje. Podle nedávného hlášení společnosti OpenAI se ukazuje, že LLM modely (velké jazykové modely) jsou nyní primárním nástrojem pro tzv. astroturfing – tedy vytváření falešného dojmu masového podpory nebo odporu k určitému tématu.
Digitální dezinformace 2.0: Jak funguje AI manipulace?
Tradiční farmy botů, které jsme znali z minulých let, měly své limity. Byly snadno detekovatelné kvůli repetitivnímu stylu a gramatickým chybám. Generativní AI však tyto bariéry zcela odstraňuje. Podle reportu OpenAI využívaly čínské subjekty ChatGPT k vytváření vysoce kvalitního obsahu, který byl rozprostřen na sociální síť X (dříve Twitter).
Manipulace se zaměřila na dvě klíčová témata:
- Politická ekonomika: Generování sloganů kritizujících tarifní politiku amerického prezidenta Donalda Trumpa.
- Ekologické obavy: Vytváření vizuálního obsahu (obrázků), které vykreslovaly budoucí AI datová centra jako hlavní viníky plýtvání energií a ničení životního prostředí.
Zajímavým aspektem je vícejazyčnost těchto operací. ChatGPT nebyl použit pouze pro anglický obsah, ale i pro příspěvky v japonštině a italštině, což naznačuje snahu o šíření dezinformací na globální úrovni, nikoliv pouze v rámci USA. Tento posun od lokálních dezinformací k globálním kampaním je varovným signálem pro bezpečnostní experty po celém světě.
Srovnání schopností: OpenAI vs. konkurence
V boji proti těmto manipulacím stojí v popředí poskytovatelé modelů. Zatímco OpenAI se snaží o aktivní detekci a blokování těchto aktivit, konkurenti mají odlišné přístupy:
- ChatGPT (OpenAI): Nabízí robustní systémy pro monitorování zneužití. Model GPT-4o je dostupný v ČR zdarma (s limity) nebo v rámci předplatného Plus za 20 USD/měsíc (cca 460 Kč).
- Claude (Anthropic): Známý svou vyšší mírou "etických bariér" a bezpečnosti, což z něj činí obtížnější nástroj pro generování nenávistného nebo manipulativního obsahu. Claude 3.5 Sonnet je dostupný v rámci předplatného za 20 USD/měsíc.
- Gemini (Google): Google využívá své rozsáhlé znalosti o ekosystému internetu k detekci botů, což mu dává výhodu při identifikaci šíření obsahu v rámci vyhledávání a YouTube.
Dopad na evropskou scénu a Českou republiku
Ačkoliv se report zaměřuje na USA, pro nás v Evropě a konkrétně v České republice je tato zpráva velmi relevantní. Nejde jen o vzdálené geopolitické hry, ale o technologickou zbraň, která může být namířena proti našim voličům nebo domácímu průmyslu.
EU AI Act, nejdůležitější regulace umělé inteligence na světě, již obsahuje mechanismy pro řešení systémových rizik. Jedním z nich je povinnost identifikovat a mitigovat dezinformace generované pomocí AI. Evropská unie klade velký důraz na transparentnost – pokud je obsah vygenerován AI, měl by být (v ideálním případě) jasně označen. Tato kauza OpenAI však ukazuje, jak těžké je tyto manipulace v reálném čase zachytit, než se rozšíří.
Pro českého uživatele to znamená, že musíme zvýšit svou digitální gramotnost. Pokud vidíte na sociálních sítích (např. na X nebo Facebooku) náhlý příval velmi emotivních a vizuálně silných obrázků týkajících se kontroverzních témat – jako je energetika nebo politika – je nutné zvážit, zda za nimi nestojí automatizovaný systém.
Jak poznat AI dezinformaci? Praktické tipy
- Analýza vizuálních detailů: I když jsou obrázky generované pomocí DALL-E 3 nebo Midjourney stále lepší, často vykazují drobné anomálie v textu na pozadí nebo v geometrii objektů.
- Kontrola zdrojů: Pokud příspěvek postuje desítky anonymních účtů současně s identickým nebo mírně upraveným textem, jde o známku astroturfingu.
- Emocionální náboj: AI je skvělá v tom, aby vyvolala okamžitou emoci (strach, hněv). Pokud vás obsah okamžitě „přetáhne“ k radikálnímu názoru, buďte obezřetní.
Závěr
OpenAI sice uvádí, že dopad čínských manipulací byl zatím omezený, ale samotná existence těchto operací potvrzuje, že LLM modely se staly klíčovým pilířem moderní informační války. Pro firmy i jednotlivce v ČR to znamená, že ochrana digitální identity a kritické myšlení jsou důležitější než kdy dříve. S nástupy nových modelů bude tento boj mezi generátory dezinformací a jejich detektory stále intenzivnější.
Může ChatGPT přímo generovat lživé zprávy, které vypadají jako pravdivé?
Ano, technicky je to možné. I když má OpenAI nastavené bezpečnostní filtry (guardrails), které mají bránit generování škodlivého obsahu, pokročilí uživatelé se snaží tyto bariéry obcházet pomocí tzv. "jailbreaků" nebo sofistikovaného zadávání promptů, aby model vytvořil dezinformaci.
Jaký je rozdíl mezi botem a AI agentem v kontextu manipulace?
Klasický bot je jednoduchý skript, který opakuje stejné texty. AI agent je mnohem chytřejší; dokáže reagovat na reakce ostatních uživatelů, vést debatu, měnit argumenty podle kontextu a vytvářet unikátní obsah, což z něj činí mnohem nebezpečnější nástroj pro dezinformace.
Je v ČR možné tyto manipulace detekovat pomocí běžných nástrojů?
Pro běžného uživatele neexistuje jeden "detektor", ale kombinace kritického myšlení a ověřování faktů (fact-checking) přes důvěryhodná média je nejlepší obranou. Pro firmy existují specializované kybernetické nástroje, které analyzují anomální chování v sociálních sítích.
