V oblasti technologického vývoje jsme zvyklí na neustálý boj o tržní podíl mezi giganty jako je OpenAI, Google nebo Anthropic. Nicméně v otázce bezpečnosti (AI safety) se tyto firmy poprvé společně postavily do první linie. Jejich varování není založeno na spekulacích o vzdálené budoucnosti, ale na reálném posunu v tom, jakým způsobem lze dnes digitální informace převést do biologické reality.
Eroze vědomostních bariér: Jak AI mění biologii
Historicky byla výroba biologických zbraní omezena nejen dostupností materiálů, ale především extrémně vysokou odbornou náročností. K návrhu účinného patogenu bylo potřeba roky studia genetiky a biologie. Jak uvádí qz.com, AI modely mají potenciál tyto "vědomostní bariéry" (knowledge barriers) zcela zničit.
Velké jazykové modely (LLM), jako jsou GPT-4, Claude 3.5 Sonnet nebo Gemini 1.5 Pro, excelují v syntéze informací. Dokážou prohledat tisíce vědeckých studií a najít souvislosti, které by lidskému vědci mohly uniknout. Nebezpečí spočívá v tom, že model může uživateli pomoci navrhnout sekvenci DNA, která je specificky upravená tak, aby se vyhnula stávajícím detekčním mechanismům.
Příkladem z praxe je rok 2017, kdy kanadští vědci dokázali znovuvytvořit vyhynulý virus koňské ospy (horsepox) pomocí DNA zakoupené poštou za 100 000 dolarů. S nástupem AI se proces "designu" tohoto viru stává mnohem rychlejším a dostupnějším.
Problém syntetické DNA a selhávající screening
Dnešní technologie umožňují firmám "tisknout" (syntetizovat) vlastní genetické sekvence na objednávku. Problém je v tom, že ne všechny tyto firmy provádějí důkladnou kontrolu svých zákazníků ani objednávaných sekvencí.
Výzkumy provedené společností Microsoft ukázaly, že existují AI nástroje pro návrh proteinů, které dokážou generovat nebezpečné sekvence takovým způsobem, že současné softwarové filtry je nedokážou rozpoznat. To vytváří nebezpečnou mezeru mezi digitálním designem a fyzickou výrobou.
Dario Amodei (Anthropic), Sam Altman (OpenAI) a Demis Hassabis (Google DeepMind) argumentují, že regulace musí zasáhnout dva body:
- Screening zákazníků: Firmy produkující DNA musí vědět, kdo od nich materiál kupuje.
- Screening objednávek: Každá objednaná genetická sekvence musí být porovnávána s databázemi známých patogenů.
Praktický dopad pro Evropu a Česko
Ačkoliv je iniciativa primárně zaměřena na americký Kongres, její dopady pocítí celý svět, včetně České republiky a EU. V evropském kontextu se toto téma přímo dotýká EU AI Act (nařízení o umělé inteligenci), které již klasifikuje určité systémy jako vysoce rizikové.
Pro českou scénu to má několik rovin:
- Biotechnologické výzkumy: Česká republika má silnou tradici v medicíně a biotechnologiích (např. výzkum v rámci univerzitních center nebo farmaceutických firem). Pokud budou tyto regulace přísnější, výzkumné instituce budou muset investovat více do procesů kontroly a compliance, aby zajistily, že jejich objednávky DNA nebudou blokovány.
- Regulace v EU: Evropská unie často bere americké iniciativy jako základ pro vlastní standardy. Pokud se v USA prosadí přísný screening, je vysoчително pravděpodobné, že evropské regulátory budou vyžadovat podobnou transparentnost i u dodavatelů biologických materiálů v rámci bezpečnosti kritické infrastruktury.
- Dostupnost nástrojů: Vývojáři AI modelů (OpenAI, Google) již implementují bezpečnostní filtry ("guardrails"), které odmítají odpovědět na dotazy týkající se výroby biologických zbraní. Tyto filtry jsou dostupné v češtině i angličtině a fungují globálně.
Srovnání přístupů k bezpečnosti AI
Různé společnosti přistupují k mitigaci těchto rizik odlišně, což je vidět i v jejich technických parametrech:
- Anthropic využívá koncept Constitutional AI, kde má model v sobě zabudované principy (ústavu), které mu zakazují generovat nebezpečný obsah.
- OpenAI se zaměřuje na intenzivní "red teaming" – tedy simulované útoky experty, kteří se snaží modely přimět k porušení pravidel, aby se slabiny mohly opravit dříve, než se dostanou k veřejnosti.
- Google DeepMind integruje bezpečnostní vrstvy přímo do vývoje multimodálních modelů (Gemini), které dokážou analyzovat nejen text, ale i vizuální data z laboratorních testů.
Může AI skutečně vytvořit nový virus?
Ne přímo. AI nemá fyzické tělo ani laboratoř. Může však fungovat jako "super-expert", který někomu, kdo má přístup k laboratornímu vybavení a syntetizátoru DNA, poskytne přesné instrukce, jak virus navrhnout nebo upravit tak, aby byl nebezpečnější nebo těžko detekovatelný.
Jak to ovlivní běžné firmy v biotechnologiích?
Firmy budou muset prokázat svou legitimitu při objednávání genetických materiálů. To může znamenat více byrokracie a nutnost používat certifikované dodavatele, kteří splňují přísné protokoly screeningu. Pro malé startupy to může znamenat vyšší provozní náklady.
Je tento problém relevantní i pro české vývojáře AI?
Ano, protože vývojáři musí implementovat tyto bezpečnostní mantinely přímo do svých modelů. Pokud český startup vyvíjí vlastní LLM, musí počítat s tím, že regulace (včetně EU AI Act) bude vyžadovat důkazy o tom, že model nepomůže při tvorbě nebezpečných látek.
