Proč biologická AI potřebuje vlastní bezpečnostní pravidla

Biologická umělá inteligence není jen buzzword. Jde o reálné využití AI modelů — od predikce proteinových struktur přes návrh nových léků až po simulace buněčného stárnutí. Modely jako AlphaFold od DeepMind už ukázaly, že AI dokáže během hodin vyřešit to, co dřív trvalo roky. Jenže s rostoucími schopnostmi přichází i riziko.

Problém je v takzvaných black box modelech — AI systémech, jejichž vnitřní rozhodovací proces je netransparentní. Když takový model navrhne novou molekulu nebo genetickou modifikaci, nemusí být vůbec jasné, jestli je výsledek bezpečný. „Tradiční bezpečnostní checklisty tady selhávají, protože nemáte historická data, o která byste se opřeli," vysvětluje Justin Croyle, Chief Product Officer ve Fennec Engineering. „Když AI operuje na neprobádaném území, bezpečnost musí být postavena od prvních principů."

Kdo za partnerstvím stojí

Buck Institute for Research on Aging sídlí v kalifornském Novatu a je jedinou nezávislou americkou výzkumnou institucí, která se soustředí výhradně na propojení stárnutí a chronických nemocí. Jejich cílem není jen prodlužovat život, ale především prodlužovat healthspan — tedy roky prožité ve zdraví. V čele projektu stojí Dr. James Yurkovich, který na Buck Institute vede Laboratoř aplikované systémové BioAI (Yurkovich Lab).

Na druhé straně stojí Fennec Engineering z Columbusu v Ohiu. Firma má kořeny v Amazon Robotics a specializuje se na funkční bezpečnost autonomních systémů. Její platforma ASAP (Automated Safety Assurance Platform) už stojí za certifikací více než milionu robotických systémů po celém světě. Mezi klienty Fennecu patří Amazon, Meta, General Motors i TÜV Rheinland. Teď své know-how z průmyslové robotiky přenáší do biomedicínského výzkumu.

Jak bude bezpečnostní systém fungovat

Jádrem spolupráce je integrovaný bezpečnostní rámec, který zabudovává automatizované bezpečnostní pojistky přímo do AI řízených biologických simulací. Tyto pojistky nejsou jen dodatečným filtrem na konci procesu — jsou součástí samotné architektury systému.

Klíčový koncept, který partneři razí, se jmenuje proactive trust (proaktivní důvěra). V praxi to znamená, že systém dokáže predikovat a neutralizovat vznikající rizika ještě předtím, než opustí digitální simulační prostředí. Jinými slovy — nebezpečné výstupy by měly být zachyceny a eliminovány v „laboratorním inkubátoru" počítačové simulace, nikoli až ve fázi laboratorního testování na živých buňkách.

„Jak do našeho výzkumu biologických simulací zapojujeme stále více AI, je zásadní vybudovat potřebné bezpečnostní zábrany," říká Dr. Yurkovich. „Toto partnerství nám umožňuje postupovat tempem, které tento rozvíjející se obor vyžaduje, s jistotou, že bezpečnost je prioritou číslo jedna."

Od průmyslových robotů k buněčným simulacím

Přenos zkušeností z průmyslového prostředí do biomedicíny není náhodný. Funkční bezpečnost (functional safety) je disciplína, která říká: systém musí fungovat správně i tehdy, když něco selže. V autonomních vozidlech to znamená, že auto bezpečně zastaví i při výpadku senzoru. V biologické AI to znamená, že model, který navrhuje nový protein, musí být schopen ověřit, že jeho výstup nezpůsobí nechtěné buněčné interakce.

Fennec Engineering přináší metodiku Build, Test, Certify, kterou už otestoval na více než milionu robotických systémů. V kontextu biologické AI bude tento rámec adaptován tak, aby zohlednil specifika biologických systémů — jejich komplexitu, zpětnovazební smyčky a emergentní chování, které se v mechanických systémech nevyskytuje.

Co to znamená pro výzkum stárnutí a medicínu

Praktický dopad je obrovský. AI modely už dnes pomáhají identifikovat nové terapeutické cíle pro léčbu Alzheimerovy choroby, rakoviny nebo diabetu — tedy nemocí, jejichž rizikový faktor číslo jedna je právě věk. Bezpečnostní infrastruktura, kterou Buck a Fennec budují, by mohla dramaticky zkrátit cestu od počítačové simulace ke klinickému testování.

Pro evropský a český kontext je to důležité hned z několika důvodů. Zaprvé, EU AI Act klasifikuje AI systémy ve zdravotnictví jako vysoce rizikové a vyžaduje prokazatelnou bezpečnost. Rámec, který vzniká v této americké spolupráci, může sloužit jako referenční model i pro evropské regulační orgány. Zadruhé, Česká republika má silnou tradici v biomedicínském výzkumu — od Ústavu organické chemie a biochemie AV ČR až po biotechnologické inkubátory v Brně — a podobné bezpečnostní standardy budou pro české výzkumné týmy stále relevantnější.

Bezpečnost jako konkurenční výhoda

Partnerství přichází v době, kdy investice do AI ve zdravotnictví raketově rostou. Podle analýzy Yahoo Finance by trh s AI v medicíně mohl do roku 2035 dosáhnout hodnoty 3,36 bilionu dolarů. V tomto kontextu není bezpečnostní infrastruktura jen regulatorní nutností — je to konkurenční výhoda. Výzkumné týmy, které dokážou prokázat, že jejich AI výstupy jsou bezpečné od základu, budou mít náskok při schvalování léčiv i při získávání grantů.

Fennec a Buck Institute tímto partnerstvím definují novou kategorii — bezpečnostní dodavatelský řetězec pro biologickou AI. Stejně jako cloudová infrastruktura AWS umožnila startupům škálovat bez budování vlastních serveroven, tato iniciativa by mohla umožnit výzkumným týmům vyvíjet bezpečné AI aplikace bez nutnosti budovat vlastní bezpečnostní rámce od nuly.