Evropa kvůli ChatGPT spustila poplach. Dnes z toho platí zákon

Jak Evropa na ChatGPT zareagovala

Europol na konci března 2023 zveřejnil zprávu, podle které velký jazykový model dokáže urychlit kriminální práci. Konkrétně: když útočník o dané oblasti nic neví, ChatGPT mu dá základní informace k phishingovým kampaním, tvorbě malwaru i přípravě teroristického útoku, a ty si pak může sám dál rozvíjet. Model nemusí nic vykonat za něj; stačí, že zkrátí dobu rešerše z hodin na minuty.

Reakce přišla rychle. Itálie v březnu 2023 ChatGPT dočasně zakázala poté, co chyba v systému odhalila uživatelům cizí názvy konverzací. Úřad Garante pohrozil OpenAI pokutami v řádu milionů dolarů, dokud firma nevyřeší, kam data uživatelů tečou a jak omezí přístup nezletilých. Španělsko, Francie a Německo se pustily do šetření stížností na osobní údaje a Evropský sbor pro ochranu osobních údajů (EDPB) založil pracovní skupinu, která měla postup 27 členských států koordinovat.

Europoslanec Dragoș Tudorache, spoluautor AI Actu, tehdy situaci pro Yahoo News popsal jako „budíček pro Evropu“. Zprávu Europolu i samotnou studii najdeš na webu Europolu.

Co tehdy zaznělo od odborníků

Mark Bünger z barcelonské konzultační firmy Futurity Systems upozornil na méně viditelnou věc: ChatGPT umí lépe než většina lidí programovat, takže bude rychle schopný napsat další, lepší verzi sám sebe. A ta verze pak naprogramuje něco, čemu nerozumí ani lidé.

Ozývala se i praktická varování. Nick Taylor z Edinburgh Centre for Robotics zmínil obavu škol, že odevzdané práce mohou být zčásti nebo zcela napsané modelem typu ChatGPT nebo Bard. Cecilia Tham z Futurity Systems popsala, jak vývojáři model přizpůsobili na tisíce specializovaných botů, od PlantGPT pro péči o rostliny po hypotetický ChaosGPT, který má podle svých stránek generovat chaotické výstupy.

Nejhlasitější byl dopis institutu Future of Life. Podepsali ho mimo jiné Elon Musk a spoluzakladatel Applu Steve Wozniak a žádali půlroční pauzu ve vývoji systémů výkonnějších než GPT-4. Europoslanec Brando Benifei nápad odmítl: moratorium podle něj není realistické, cesta vede přes regulaci, ne přes zastavení vývoje. Celý dopis je k přečtení na stránkách institutu.

Od poplachu k unijnímu zákonu

AI Act nevznikl ze dne na den. Evropská komise návrh předložila už v roce 2021, tedy dřív, než ChatGPT vůbec vyšel. Jarní poplach 2023 mu ale dal politickou váhu. Nařízení vstoupilo v platnost 1. srpna 2024 a plně použitelné je od 2. srpna 2026.

Konkrétní data jsou důležitá, protože zákon nabíhá po etapách. Zákaz nejrizikovějších praktik a povinnost AI gramotnosti platí od 2. února 2025. Pravidla pro univerzální modely (tzv. GPAI), tedy právě ChatGPT a jemu podobné, platí od 2. srpna 2025. Transparentnostní pravidla od srpna 2026. Vysoce rizikové systémy dostaly delší přechodné lhůty: systémy v citlivých oblastech do 2. prosince 2027, systémy zabudované do výrobků do 2. srpna 2028. Podrobný přehled najdeš na stránkách Evropské komise.

Co AI Act dnes konkrétně nařizuje

Zákon pracuje se čtyřmi úrovněmi rizika. Nejrizikovější praktiky zakazuje úplně. Mezi devět zakázaných patří sociální skóring, rozpoznávání emocí na pracovišti a ve školách nebo hromadné stahování snímků z internetu a kamer pro databáze rozpoznávání tváří. Zákazy 1 až 8 platí od února 2025, devátý, který míří na aplikace generující intimní obsah bez souhlasu, naběhne v prosinci 2026.

Univerzální modely typu ChatGPT musejí dodržovat pravidla transparentnosti a autorského práva, a pokud jsou dost schopné na to, aby nesly systémové riziko, i povinnost rizika vyhodnocovat a zmírňovat. Pro běžného uživatele je nejviditelnější transparentnost: chatbot musí dát najevo, že mluvíte se strojem, a výstupy umělé inteligence včetně deepfaků musejí být označené.

Porušení se vyplácí trestat. Nejpřísnější sazba dosahuje 35 milionů eur, nebo 7 % ročního globálního obratu firmy, podle toho, co je vyšší. U méně závažných povinností jsou sankce nižší.

Dopad na české firmy a uživatele

Nařízení platí přímo v celé EU, včetně Česka. Nepotřebuje přepis do českého zákona a jeho plné znění je dostupné i v češtině. Pro běžného uživatele se toho nejvíc projeví na dvou místech: chatboty musejí přiznat, že jsou stroj, a vygenerovaný obsah musí být označitelný.

Pro české firmy záleží na tom, co s AI dělají. Kdo používá AI v náboru, hodnocení zaměstnanců nebo při schvalování úvěrů, spadá do vysoce rizikové kategorie a musí se připravit na pravidla, která naběhnou 2. prosince 2027. Malé a střední podniky přitom dostaly zjednodušené požadavky, včetně jednodušší technické dokumentace, takže zátěž pro menší hráče je nižší.

ChatGPT běžně rozumí i česky, takže se nové povinnosti českých uživatelů týkají přímo. Pravidla nemění to, že model umí česky; mění to, co o sobě musí provozovatel říct a jak se s výstupy smí nakládat.

Časté otázky k AI Actu