Dvě kampaně, jeden cíl: ovlivnit veřejné mínění v USA
Podle zprávy OpenAI síť zneužívala chatbot k posilování odporu vůči clům a k formování názorů kolem rozvoje datových center. Firma popisuje dva hlavní shluky aktivity, každý s vlastním „brandingem“.
První kampaň, „Data Center Bandwagon“, produkovala obsah na sociální sítě, který tvrdil, že výstavba AI datových center žene vzhůru ceny elektřiny pro běžné rodiny. Druhá, „Tech and Tariffs“, šířila komentáře a obrázky vykreslující americká cla jako snahu získat náskok v technologické konkurenci. Jinými slovy: na první pohled obyčejné internetové názory, které se tváří jako hlas „obyčejných lidí“.
Kampaň „Tech and Tariffs“ byla podle OpenAI napojená na síť podezřelých falešných účtů, které navíc lživě tvrdily, že došlo k úniku uživatelských dat z ChatGPT. Tady se ukazuje chytřejší taktika: nejde jen o prosazení nějakého názoru, ale o přímé podkopání důvěry v samotný nástroj, který se útočníci snaží zneužít.
Jak taková operace funguje
Princip je v zásadě jednoduchý a hodně připomíná práci copywritera na zakázku, jen ve velkém. Generativní modely jako ChatGPT umí psát plynulý text v mnoha jazycích a za zlomek ceny, kterou by stál lidský tým. Operátoři síti zadávají pokyny, model vygeneruje slogany, karikatury nebo komentáře a ty se pak rozesílají na sociální platformy.
Podle OpenAI síť generovala obsah nejen v čínštině, ale i v italštině a japonštině pro komentáře pod články v těchto jazycích. To je důležitý detail: ovlivňovací operace se zřídka omezují na jeden trh. Stejný trik, který funguje na amerického čtenáře, se dá přeložit a použít prakticky kdekoliv.
Technicky vzato jde o klasický „coordinated inauthentic behavior“ — koordinované neautentické chování. Účty vypadají jako reální lidé, ale ve skutečnosti je řídí organizovaná skupina se společným zadáním. Detekce spočívá v hledání vzorců: stejné formulace, podobné načasování, nápadně podobná témata z jednoho místa.
Proč na tom záleží i pro Evropu a Česko
Je snadné to odbýt jako americký problém. Není. Stejné nástroje, které se použily na debatu o clech, se dají nasadit na jakékoliv veřejné téma — od energetiky přes migraci až po volby. Evropa se na to navíc připravuje legislativně. Akt o umělé inteligenci zavádí povinnost označovat syntetický obsah a pro velké modely platí přísnější pravidla transparentnosti.
Pro běžného čtenáře z toho plyne praktické ponaučení: u virálně šířených „názorů“ na citlivá témata se vyplatí zastavit se u toho, odkud vlastně pocházejí. ChatGPT ani žádný jiný model nedokáže sám od sebe poznat, že mu někdo zadává pokyny k manipulaci — to musejí odhalit lidé, kteří analyzují, jak se nástroj používá.
Širší kontext: Čína a tlak na AI infrastrukturu
OpenAI zprávu zasadila do širšího dění. Zmiňuje zprávu společnosti CrowdStrike, podle níž přes 58 % státem podporovaných kyberútoků na technologické firmy — zejména ty s AI aktivy — pochází z Číny. Logika je podle ní jednoduchá: americká omezení vývozu trénovacích čipů do Číny zpomalila tamní technologický postup, což zvýšilo motivaci k průmyslové špionáži.
V téže souvislosti americké ministerstvo obrany aktualizovalo takzvaný „1260H seznam“ — soupis firem podezřelých z napojení na čínský vojenský či obranný sektor. Nově na něj přibyly mimo jiné Alibaba, Baidu a BYD. Je to připomínka, že hranice mezi komerčním a státním v čínském technologickém sektoru není vždy ostrá.
Co z toho plyne pro AI obor
Pro OpenAI a jí podobné firmy už bezpečnost neznamená jen to, že model neodpoví nevhodně. Znamená to aktivně sledovat, jestli se platforma nezneužívá k organizovaným kampaním, a včas takové účty blokovat. OpenAI v tomto případě čínsky mluvící uživatele zapojené do sítí zablokovala a výsledky zveřejnila — právě zveřejnění je tu polovina hodnoty, protože bez něj by veřejnost o pokusu vůbec nevěděla.
Zároveň je dobré zachovat si nadhled. To, že útočníci ChatGPT zneužili, neznamená, že model nějak „selhal“. Text je jen text — otázka je, kdo a s jakým záměrem ho zadá. Skutečnou ochranou před podobnými kampaněmi není chytřejší AI, ale kombinace detekce na straně platforem, regulace a hlavně mediální gramotnosti čtenářů.
Jak poznám, že jde o koordinovanou dezinformační kampaň, a ne o skutečné názory lidí?
Sám o sobě to poznáte jen těžko, protože texty generované AI vypadají autenticky. Napovídají nepřímé znaky: nápadně stejné formulace u mnoha zdánlivě nesouvisejících účtů, neobvyklé načasování publikace nebo komentáře v jazyce, který neodpovídá profilu účtu. Spolehlivě takové sítě odhalují až platformy, které analyzují vzorce chování, ne samotný text.
Blokuje OpenAI podobné operace i mimo Spojené státy?
Ano. OpenAI sleduje zneužívání svých nástrojů globálně a v minulosti hlásila ovlivňovací kampaně z různých zemí. Detailní postupy nezveřejňuje, aby neusnadnila práci útočníkům, ale zveřejňování takových zpráv naznačuje, že monitorování běží průběžně.
Znamená to, že je ChatGPT v Česku nebezpečný?
Ne. Samotný nástroj nebezpečný není — riziko spočívá v tom, kdo a jak ho používá. Pro běžného uživatele v Česku se nic nemění; opatrnost je namístě spíš u obsahu na sociálních sítích, který se snaží vyvolat silnou emoci u citlivých témat.
