Co je AIXI Labs a proč by vás to mělo zajímat

AIXI Labs je malá londýnská nezisková organizace, která se specializuje na teoretické základy bezpečnosti umělé inteligence. Její výzkumný program staví na algoritmické teorii informace — matematickém přístupu, který se snaží formálně popsat, jak inteligentní agenti fungují a kde mohou selhat.

Její výzkumný ředitel Marcus Hutter je v AI komunitě dobře známá postava. Právě on stojí za modelem AIXI — teoretickým konceptem „dokonalého“ inteligentního agenta, který slouží jako matematický nástroj pro pochopení limitů umělé inteligence. Hutter je také autorem Hutterovy ceny za kompresi dat, která je považována za jeden z milníků na cestě k umělé obecné inteligenci.

V týmu dále působí zakladatel Cole Wyeth a vědec Aram Ebtekar. Dohromady nabízejí stipendistům close mentorship — nejde tedy jen o to dostat peníze a „něco vyzkoumat“, ale o skutečné vedení zkušenými lidmi z oboru.

Co stipendium nabízí

Program je koncipován jako čtvrtletní, opakující se — jeden fellowship trvá zhruba tři měsíce a v mimořádných případech ho lze prodloužit. Stipendisté dostávají:

• Měsíční stipendium 2 000–3 500 liber (cca 57 000–100 000 Kč dle aktuálního kurzu)
• Výpočetní rozpočet pro machine learning experimenty
• Mentoring od výzkumného týmu AIXI Labs
• Možnost publikovat články, technické zprávy nebo blogposty
• Zapojení do globální sítě výzkumníků zaměřených na AI safety

Pro srovnání: standardní doktorské stipendium v České republice se pohybuje kolem 15 000–18 000 Kč měsíčně (po složení zkoušek cca 18–20 tisíc). I spodní hranice stipendia AIXI Labs je tedy trojnásobek toho, na co dosáhnou čeští PhD studenti.

Práce je plně vzdálená — můžete bádat odkudkoliv na světě, nebo se připojit přímo v Londýně. To znamená, že se do programu může přihlásit i výzkumník z Česka, aniž by musel opustit své současné působiště.

Koho hledají

Minimum je výzkumné zázemí na úrovni doktoranda. Pro empiricky zaměřené projekty stačí magisterská úroveň matematiky plus významná průmyslová nebo aplikovaná výzkumná praxe. Klíčové kompetence:

• Pravděpodobnost, statistika, teorie informace
• Reinforcement learning
• Schopnost komunikovat složité myšlenky (písemně i verbálně)
• Autentický zájem o snižování existenčních rizik spojených s pokročilou AI

Výhodou jsou publikace na špičkových konferencích (NeurIPS, ICML, ICLR, ALT, COLT), zkušenosti s fine-tuningem LLM, red-teamingem nebo RL agenty. Předchozí znalost AIXI či algoritmické teorie informace není nutná — stačí chuť se do tématu ponořit.

Proč na bezpečnosti AI záleží — a proč právě teď

Stipendium přichází v době, kdy se téma bezpečnosti umělé inteligence dostává do popředí jako nikdy předtím. Anthropic, tvůrce modelu Claude, v posledních měsících několikrát varoval před nekontrolovaným vývojem AI a dokonce dočasně zastavil vývoj nových modelů na žádost americké vlády. EU AI Act, který vstoupil v platnost v roce 2024 a jehož implementace právě probíhá, zavádí první komplexní regulaci AI systémů na světě — včetně povinných bezpečnostních opatření pro vysoce rizikové aplikace.

Přesto zůstává zásadní problém: prakticky neexistuje matematicky rigorózní rámec, který by dokázal dopředu garantovat, že se pokročilý AI agent nevymkne kontrole. Většina dnešního výzkumu je buď příliš teoretická na to, aby se dala aplikovat na reálné modely (jako GPT nebo Claude), nebo příliš praktická na to, aby poskytla skutečné bezpečnostní záruky. AIXI Labs se snaží tuto mezeru zacelit — a hledá lidi, kteří jim s tím pomohou.

Co to znamená pro české výzkumníky

V České republice se AI safety jako samostatný obor teprve rodí. Na několika univerzitách (ČVUT, MFF UK, VUT Brno) vznikají výzkumné skupiny zaměřené na strojové učení a umělou inteligenci, ale specializovaný výzkum bezpečnosti AI je zatím spíše okrajový. Stipendium AIXI Labs tak představuje jedinečnou příležitost pro české doktorandy a výzkumníky, jak:

• Získat mezinárodní zkušenost bez nutnosti stěhování
• Pracovat pod vedením špičkových odborníků na AI safety
• Publikovat ve spolupráci s respektovanou výzkumnou institucí
• Finančně si výrazně polepšit oproti českému doktorandskému stipendiu

Marcus Hutter má navíc k Evropě blízko — působil na Australian National University a nyní vede výzkum v Londýně. Jeho práce je dobře známá i na evropských konferencích zaměřených na teorii strojového učení.

Jak se přihlásit

Přihlášky se podávají přes Google formulář na webu AIXI Labs. Není stanoven žádný uzávěr — přihlášky se vyhodnocují průběžně. Pokud jste se hlásili už dříve a neuspěli, můžete to zkusit znovu v dalším kole.

V přihlášce byste měli prokázat výzkumné zázemí, technické dovednosti, motivaci pro AI safety a nastínit oblasti, kterým byste se chtěli věnovat. Nečekejte ale, že musíte mít dopředu hotový projektový plán — tým AIXI Labs pomáhá s nasměrováním výzkumu podle vašich silných stránek.