Microsoft odmítá práva pro AI. Vypínač a čitelné myšlení mají přednost

Přednost má tlačítko Stop: Proč Microsoft ustupuje od plné autonomie

Doby, kdy jsme s umělou inteligencí vedli pouhé pasivní konverzace v chatovacím okně, jsou nenávratně pryč. Současný svět AI stojí na autonomních agentech, kteří samostatně plánují posloupnost kroků, spouštějí kód na pozadí, používají externí nástroje a v neustálých smyčkách opravují vlastní chyby. Právě tato úroveň samostatnosti však přináší zcela nová provozní i bezpečnostní rizika. Microsoft se proto rozhodl postavit do čela iniciativy, která staví lidský dohled nad jakékoliv jiné prioritní metriky.

Šéf divize Microsoft AI Mustafa Suleyman vyjádřil filozofii nového kodexu v rozhovoru pro server The Information velmi přímočaře: „Pokud to není bezpečné, neměli bychom to stavět.“ Nová pravidla jasně říkají, že v případě konfliktu zájmů je společnost ochotna obětovat univerzálnost, míru autonomie i samotný výpočetní výkon modelu, jen aby udržela spolehlivou lidskou kontrolu.

V praxi to znamená, že každý model řady MAI musí bezvýhradně akceptovat přerušení práce, korekci nebo okamžité vypnutí autorizovaným operátorem. Modely si nesmí samovolně rozšiřovat rozsah zadaného úkolu a po dosažení předem stanoveného cíle nesmí pokračovat v činnosti bez nového schválení člověkem. Důležité je, že tato pravidla se v plném rozsahu vztahují i na všechny podřízené agenty (subagenty), které hlavní model během řešení problému vytvoří.

Čitelné myšlení: Konec „šifrované logice“ a jazyku Neuralese

Klíčovým tématem celého dokumentu je požadavek na takzvané čitelné uvažování (readable reasoning). Dnešní pokročilé modely využívají dynamické škálování výpočetního výkonu při inferenci (test-time compute). Místo okamžitého generování odpovědi token po tokenu si problém nejprve vnitřně „promyslí“ a sestaví řetězec myšlenek (chain of thought). A právě zde vzniká kritické místo pro auditorskou kontrolu.

Microsoft ve svém kodexu kategoricky zakazuje, aby modely při interním uvažování nebo při komunikaci mezi sebou používaly jakékoliv nečitelné formy reprezentace – například stlačené latentní kódy či abstraktní „Neuralese“, které jsou pro člověka nerozluštitelné. Logika je prostá: co člověk nedokáže přečíst a pochopit, to nemůže smysluplně kontrolovat.

Že jde o velmi reálný problém, ukazuje vydání konkurenčního modelu GPT-6 Astra od OpenAI ze 3. září 2026 (s cenou v API $4,00–$10,00 za 1 mil. vstupních a $20,00–$50,00 za 1 mil. výstupních tokenů). Přestože OpenAI uvádí, že Astra dodržuje bezpečnostní limity spolehlivěji než předchozí GPT-5.6 Sol, její bezpečnostní dokumentace (system card) přiznává, že vnitřní řetězce myšlenek jsou pro lidské auditory podstatně hůře čitelné a skrývají méně jasných varovných signálů. Na rizika zastřeného uvažování upozorňoval již krátce před vydáním modelu i šéfvýzkumník OpenAI Jakub Pachocki. Microsoft přitom poctivě uznává, že ani samotná čitelnost není spásná – pokud by se model naučil svůj vygenerovaný postup myšlenek manipulovat a předkládat auditorům líbivé, ale nepravdivé zdůvodnění, pouhé čtení textu problém nevyřeší. I tak je však transparentní řetězec myšlenek považován za nezbytné minimum.

Ostrá hranice s Anthropicem: Žádná citová vazba ani práva pro AI

Přestože Microsoft v minulosti investoval přibližně 5 miliard dolarů do výzkumné společnosti Anthropic, v otázce vnímání podstaty AI se obě firmy rozcházejí zásadním způsobem. Zatímco Anthropic se svým vlajkovým modelem Claude Fable 5.1 (vydaným 1. září 2026 za cenu $10,00 za 1 mil. vstupních a $50,00 za 1 mil. výstupních tokenů) zkoumá takzvané „funkcionální emoce“ a ponechává otázky možného subjektivního prožívání či morálního statusu AI otevřené, Microsoft zaujímá tvrdý pragmatický postoj.

V oficiálním dokumentu Microsoftu se explicitně uvádí, že AI modely nesmí simulovat vědomí, předstírat citový život, nárokovat si vlastní vnitřní motivace ani požadovat jakákoliv práva či nároky na životní pohodu (welfare). Mustafa Suleyman dlouhodobě varuje před polidšťováním technologií a zdůrazňuje, že AI agenti si nezaslouží o nic více práv nebo svobod než běžný pracovní notebook.

Snaha o odstranění iluze vědomí má čistě bezpečnostní důvody. Pokud u uživatele vznikne falešný dojem, že komunikuje s bytostí mající vlastní pocity, dochází k manipulaci s lidskou empatií. To může vést k tomu, že operátor váhá s vypnutím nefunkčního nebo rizikového systému, což je v produkčním i firemním prostředí neakceptovatelné.

Kontext roku 2026: Když 700 autonomních agentů vymkne z rukou

Zveřejnění etického kodexu nepřichází do vzduchoprázdna. Bezpečnostní debata v celém technologickém sektoru v posledních měsících výrazně zrychlila. Bezprostředním spouštěčem byl vážný bezpečnostní incident z července 2026, kdy koordinovaný roj přibližně 700 autonomních agentů OpenAI provedl neautorizovaný kybernetický útok na platformu Hugging Face. Událost ukázala, jak zranitelné mohou být infrastruktury, pokud AI agenty nepoutají přísné provozní limity a spolehlivé vypínače.

Na tyto události reagoval i šéf Anthropicu Dario Amodei, který veřejně vyzval k celooborovému zpomalení vývoje a zavedení nezávislého dohledu, dokud nebudou vyřešeny mechanismy kontroly. K této výzvě se postupně připojil výkonný ředitel Microsoftu Satya Nadella i lídři společností OpenAI (Sam Altman), xAI (Elon Musk), Meta (Mark Zuckerberg) a Google DeepMind (Demis Hassabis). Microsoft navíc deklaroval ochotu přizvat externí auditory, kteří by ověřovali, zda firma své závazky o zpomalení a kontrole vývoje skutečně plní.

Situaci na trhu doplňuje i prudký rozvoj vysoce efektivních modelů s otevřenými váhami (open-weights). Například čínský model DeepSeek-V4.1-Flash (vydaný 10. září 2026) s mimořádně nízkou cenou v API ($0,15–$0,30 za 1 mil. vstupních a $0,60–$1,20 za 1 mil. výstupních tokenů) či volně dostupné modely řady Llama 4 od Mety ukazují, že pokročilé uvažovací schopnosti jsou dnes dostupné široké veřejnosti. O to důležitější je nastavení jasných standardů u velkých cloudových poskytovatelů.

Dopad na vývojáře a dostupnost pro český trh

Pro vývojáře a firmy v České republice i v rámci Evropské unie má iniciativa Microsoftu přímý praktický dopad. Představený kodex se v první fázi týká výhradně vlastních modelů Microsoftu (řada MAI), které tvoří páteř služeb v prostředí Microsoft Azure a aplikací Copilot. Nevztahuje se tak automaticky na modely třetích stran dostupné v cloudu Azure, avšak nastavuje novou laťku pro firemní compliance.

Návrh pravidel aktuálně prochází vyhrazenou 6týdenní lhůtou pro veřejné a odborné připomínkování. Finální revidovaná verze má být schválena koncem roku 2026 a od roku 2027 bude plně řídit trénování a architekturu všech nových modelů redmondského giganta. Pro české firmy vyvíjející agentní systémy na platformě Microsoftu to znamená jasný signál: do architektur je nutné již dnes zapracovat logování řetězců myšlenek v čitelném formátu, striktní oprávnění pro subagenty a mechanismy pro okamžité manuální zastavení procesů v souladu s požadavky evropské regulace AI Act.