Svět umělé inteligence prochází obdobím, kdy se hranice mezi revolučním nástrojem pro produktivitu a sofistikovanou zbraní v rukou státních aktérů neustále stírajá. Nedávné zprávy od společnosti OpenAI potvrzují, že generativní modely jako ChatGPT se staly terčem cílených útoků ze strany čínských a íránských hackerských skupin. Tyto skupiny nepoužívají AI k jednoduchému psaní textů, ale k systematickému šíření malwaru a řízení komplexních vlivových kampaní.

Kybernetická zbraň v digitálním věku: Malware a phishing

Podle analýz bezpečnostních expertů se hackeři zaměřují na využití LLM (velkých jazykových modelů) k překonání tradičních bariér při tvorbě škodlivého kódu. I když mají moderní modely zabudované bezpečnostní filtry, útočníci hledají způsoby, jak tyto mechanismy obejít pomocí tzv. jailbreakingu nebo sofistikovaného promptingu.

Mezi nejvýznamnější identifikované incidenty patří:

• SweetSpecter: Čínská operace zaměřená na asijské vládní subjekty, která využívala spear-phishing (cílený phishing) k získání přístupu k citlivým datům.
• CyberAv3ngers: Íránská skupina, která se pokoušela využít ChatGPT k extrakci hesel z operačního systému macOS.
• Storm-0817: Útok zaměřený na Android zařízení, kde AI pomáhala při generování přesvědčivých komunikačních šablon pro krádež kontaktů a historie prohlížení.

Z technického hlediska jde o nebezpečný posun. Zatímco dříve musel hacker psát škodlivý kód ručně nebo pomocí specializovaných nástrojů, nyní může ChatGPT sloužit jako "inteligentní asistent", který pomůže s logickou strukturou útoku nebo vytvořením textu, který v kontextu phishingového e-mailu nepůsobí jako automatický překlad, ale jako autentická zpráva od důvěryhodné osoby.

Dezinformační kampaně: "Data Center Bandwagon" a politická manipulace

Kromě přímých technických útoků se AI stává klíčovým nástrojem pro hybridní válku. OpenAI identifikovala dvě koordinované kampaně s kódovými názvy „Data Center Bandwagon“ a „Tech and Tariffs“. Tyto operace měly za cíl prohloubit politické rozdíly v USA pomocí masivního generování komentářů, příspěvků na sociálních sítích a dokonce i politických karikatur.

Čínští operátoři parazitovali na reálných společenských témách – například na odporu komunit vůči výstavbě nových datových center. Pomocí ChatGPT dokázali vygenerovat obrovské množství obsahu, který vypadal jako organická diskuse reálných lidí, ale ve skutečnosti šlo o řízenou dezinformační operaci. Ačkoliv se podle analýz těchto kampaním nepodařilo získat masivní trakci, ukazuje to na extrémní efektivitu, s jakou lze AI využít k "zalévání" internetu falešným obsahem.

Srovnání bezpečnosti: OpenAI vs. konkurence