Bill Gates varuje, že AI může zabít miliardu lidí. Chce zdanit tokeny a boty

Od optimisty k varování: co se za tři roky změnilo

V roce 2023 Gates napsal, že umělá inteligence je srovnatelná s internetem nebo osobním počítačem — tedy že jde o zlom, který nakonec přinese víc užitku než škody. Dnešní tón je podstatně opatrnější. V eseji z 26. srpna na svém webu Gates Notes píše: „I za těch nejpříznivějších podmínek bude přechod do éry AI jednou z nejbouřlivějších kapitol lidských dějin." A hned dodává, že žádný plán na zmírnění toho šoku neexistuje.

Důvod, proč se ozval právě teď, vysvětlil mluvčí Gates Ventures jednoduše: čas na přípravu se rychle krátí. Gates se podle eseje chystá jednat přímo se zákonodárci ve Washingtonu, a to dřív, než nezaměstnanost prudce stoupne a důvěra veřejnosti v instituce klesne.

Je to výrazný posun od technologického nadšení k politické práci. Gates — muž, který desítky let říkal, že technologie problémy spíš řeší, než vytváří — teď mluví hlavně o tom, kdo zaplatí účet za automatizaci a kdo ochrání lidi, které zasáhne.

Proč právě „miliarda lidí"? Tři skupiny rizik

V rozhovoru pro pořad NBC Meet the Press Gates řekl: „AI je určitě dost silná na to, aby vedla k událostem, které by mohly zabít miliardu lidí." Ta věta zní dramaticky, ale v kontextu jeho eseje dává smysl. Gates totiž dělí rizika do tří skupin: narušení ekonomiky a trhu práce, zneužití AI lidmi se špatnými úmysly a možnost, že stále schopnější systémy začnou jednat v rozporu se zájmy lidstva.

První skupinu si umíme představit nejsnáze. Gates upozorňuje, že zatímco dřív trval přechod z práce na poli k práci v kanceláři celé generace, u AI se právo, zákaznická péče, programování nebo výroba mohou zásadně změnit v horizontu jedné dekády. Nízko- a středně kvalifikovaní lidé jsou podle něj ohroženi nejdřív, manuální profese budou následovat, jak technologie pokročí.

Druhá skupina — zneužití — je podle něj krátkodobě nejnaléhavější. „Nikdy neexistovala zbraň tak silná, jako je kombinace lidí se špatnými úmysly a nejnovějších AI nástrojů," řekl. Konkrétně to znamená levnější a rychlejší podvody, dezinformace, falešné hlasové nahrávky a sledování. Už v roce 2023 popsal případ falešné nahrávky hlasu příbuzného, který tvrdí, že byl unesen a žádá výkupné — a upozornil, že známý hlas působí psychologicky mnohem silněji než phishingový e-mail se stejným obsahem.

Do stejné kategorie patří i kyberbezpečnost a biologie. Model, který pomůže inženýrovi najít a opravit chybu v softwaru, může stejnou chybu pomoci zneužít útočníkovi. A schopnosti, které urychlují vývoj léků a vakcín, jdou v krajním případě zneužít i k přípravě nebezpečných biologických látek. Právě tahle „dvojí tvář" je podle Gatese jedním z hlavních problémů regulace: přínos a zneužití často nelze od sebe snadno oddělit.

Konkrétní návrhy: zdanit tokeny a „rezervovat" lidské profese

Tady Gates přestává být jen varovatelem a začíná navrhovat. Aby zmírnil dopad na trh práce a výpadek příjmů států, navrhuje zdanit vybrané aktivity AI — konkrétně tokeny a boty. Token si představte jako základní jednotku, za kterou jazykový model počítá text: každé slovo, které model přečte nebo napíše, se přepočítává na tokeny a podle nich se účtuje. Bot je pak automatizovaný program, který s modelem pracuje bez přímého dohledu člověka — třeba agent, který sám vyřizuje e-maily nebo objednávky.

Logika je jednoduchá: když AI snižuje počet lidských pracovních míst, státu klesají příjmy z daně z příjmu. Zdanění tokenů a botů by mělo tyhle výpadky částečně nahradit a zároveň financovat sociální zabezpečení a rekvalifikace propuštěných lidí.

Druhý návrh je ještě zajímavější. Gates navrhuje, aby státy zvážily „zónování" některých profesí — tedy jejich vyhrazení čistě pro lidi, podobně jako se chrání oblasti, kde je zakázána komerční těžba. Týkat by se to mělo hlavně oborů, kde je těžké lidi rekvalifikovat, nebo které vyžadují empatii a přímou lidskou péči. Představte si třeba pečovatelství, terapii nebo část zdravotnictví.

K tomu přidává výzvu k mezinárodní spolupráci, především mezi USA a Čínou, na úrovni, jakou svět zná z kontroly jaderných zbraní, letecké bezpečnosti nebo ochrany ozonové vrstvy. A důležité: Gates nevěří, že by se problém vyřešil zpomalením vývoje. Když zpomalí jen jedna strana, útočníci podle něj pokračovat nepřestanou — proto se stejně rychle musí vyvíjet i nástroje pro detekci a obranu.

Co to znamená pro Česko a Evropu

Gatesova výzva, aby regulace nebyla jen dobrovolná samoregulace firem, míří přesně tam, kam už Evropa vykročila. Akt o umělé inteligenci (EU AI Act) je první komplexní závazná regulace AI na světě; v platnost vstoupil 1. srpna 2024 a povinnosti nabíhají postupně. Klíčová je jeho logika dělení systémů podle míry rizika — u vysoce rizikových aplikací, třeba v náboru, úvěrování nebo zdravotnictví, vyžaduje transparentnost, dokumentaci a lidský dohled.

Gatesovy návrhy jdou ale dál než AI Act. Zatímco Brusel reguluje především samotné systémy, Gates mluví o daňové a pracovní politice — o tom, kdo zaplatí za ztracená místa. To je rovina, kterou AI Act neřeší a kterou si členské státy, včetně Česka, budou muset domluvit samy. Pro Česko, kde má výroba a průmysl tradičně velkou váhu, je Gatesova poznámka o tom, že se manuální profese časem také promění, obzvlášť relevantní.

Přes všechna varování Gates zůstává optimistou ohledně přínosů v medicíně, zemědělství a vzdělávání. Veškeré zisky ze svých investic chce dál posílat do nadace Gates Foundation. Jen už nevěří, že se ty přínosy dostaví samy — bez politického zásahu, daní a záchranných sítí.