Brusel zkoumá dopad ChatGPT

Evropská komise oficiálně zahájila proces zjišťování, zda OpenAI a jeho vlajkový produkt ChatGPT musí splňovat nejpřísnější kritéria Zákona o digitálních službách (Digital Services Act, DSA). Tento klíčový legislativní balíček EU, platný od roku 2024, má za cíl vytvořit bezpečnější a transparentnější online prostředí. Jeho nejtvrdší pravidla se vztahují na takzvané "velmi velké online platformy" (Very Large Online Platforms, VLOPs), které mají v Evropské unii více než 45 milionů aktivních měsíčních uživatelů.

Komise nyní formálně požádala OpenAI o poskytnutí podrobných informací o svých interních procesech. Jak informoval portál PYMNTS.com, hlavním cílem je "zhodnotit potenciální rizika spojená s generativní umělou inteligencí". Dotazy se týkají především možného šíření nelegálního obsahu, jako jsou dezinformace nebo nenávistné projevy, a také ochrany základních práv, včetně soukromí uživatelů.

Co znamená status "velmi velké platformy"?

Pokud by Evropská komise dospěla k závěru, že ChatGPT hranici 45 milionů uživatelů v EU překračuje – což je vzhledem k jeho globální popularitě vysoce pravděpodobné – znamenalo by to pro OpenAI revoluci v jeho evropských operacích. Status VLOP s sebou nese řadu přísných povinností, které byly primárně navrženy pro sociální sítě a internetové vyhledávače.

Mezi klíčové požadavky patří:

• Pravidelné hodnocení rizik: OpenAI by muselo provádět a zveřejňovat analýzy rizik, která jeho systém může představovat pro společnost – například v oblasti šíření dezinformací nebo manipulace voleb.
• Transparentnost algoritmů: Společnost by musela poskytnout regulátorům a prověřeným výzkumníkům přístup k datům a informacím o tom, jak její doporučovací a moderační systémy fungují.
• Nezávislé audity: Platforma by se musela podrobovat každoročním auditům, které by ověřovaly, zda plní své závazky plynoucí z DSA.
• Boj proti nelegálnímu obsahu: OpenAI by muselo implementovat robustní mechanismy pro odhalování a odstraňování nelegálního obsahu generovaného jeho AI.

Nedodržení těchto pravidel může vést k obrovským pokutám, které mohou dosáhnout až 6 % celosvětového ročního obratu společnosti.

Dopad na české uživatele a budoucnost AI v Evropě

Pro běžné uživatele ChatGPT v České republice by tato regulace mohla přinést hmatatelné výhody. Zvýšený tlak na transparentnost a moderaci obsahu by mohl vést k bezpečnějšímu prostředí s menším rizikem generování škodlivých nebo nepravdivých informací. Uživatelé by také mohli získat jasnější přehled o tom, jak jsou jejich data zpracovávána.

Na druhou stranu se ozývají hlasy, že přílišná regulace může brzdit inovace. OpenAI by mohlo argumentovat, že povaha generativní AI je odlišná od sociálních médií, kde obsah tvoří primárně uživatelé. Odpověď, kterou OpenAI Komisi poskytne, bude klíčová pro další směřování celého procesu. Tento případ je bedlivě sledován, protože jeho výsledek vytvoří precedent pro regulaci dalších pokročilých AI modelů, jako jsou Gemini od Googlu nebo Claude od Anthropiku, na evropském trhu. Jsme na počátku nové éry, kde se technologický pokrok střetává s nutností nastavit jasná a spravedlivá pravidla hry.