Kdo je architekt AI
Podle článku na KDnuggets od Vinoda Chuganiho nepotřebuje architekt AI umět napsat jazykový model od nuly. Potřebuje modelům rozumět natolik, aby dokázal posoudit, jestli je navržená funkce reálná, kolik bude stát a kde pravděpodobně selže. U téhle role jde o šířku znalostí, ne o hloubku.
Stejnou váhu jako modely má datová architektura. O návrhu systému rozhoduje, kde data leží a jak rychle se k nim systém dostane. Základní pojmy: datové jezero (centrální úložiště nezpracovaných dat), proudové zpracování (data tečou průběžně místo v dávkách) a vektorová databáze (ukládá číselné reprezentace textu, aby systém uměl hledat podle významu). Architekt je nemusí stavět. Stačí mu vědět, co která volba stojí a kdy se nehodí.
Pod tím vším leží cloud: kontejnery, orchestrátor Kubernetes, nástroj na správu infrastruktury Terraform a AI služby velkých poskytovatelů, tedy Amazon SageMaker a Bedrock, Microsoft Azure AI nebo Google Vertex AI.
Pět oblastí práce architekta AI
Autor roadmapy dělí roli na pět oblastí, které na sebe navazují.
Technické a datové základy
První oblast. Architekt rozumí jazykovým modelům a datové architektuře natolik, aby odhadl proveditelnost a náklady návrhu dřív, než se začne stavět.
Návrh architektury
Jádro celé role. Architekt skládá systémy z osvědčených vzorů, mezi které patří RAG (retrieval-augmented generation, tedy připojení modelu k externím znalostem v okamžiku dotazu), orchestrace více agentů nebo směrovací brány, které posílají požadavky různým modelům podle ceny a zátěže. Hlavním výstupem je architektonický diagram. Číst ho a kreslit je profesní povinnost.
Výběr technologií
Rozhodnutí, které je architekt placený za to, aby udělal dobře. Typickým příkladem je volba mezi vlastním otevřeným modelem a pronajatým komerčním modelem.
Škálování, spolehlivost a náklady
Systém, který funguje při malém objemu, nebude automaticky fungovat při velkém. Náklady na AI se navíc koncentrují do mála míst: spotřeba tokenů, výpočet pro inferenci a vyhledávání dat.
Řízení a propojení s byznysem
Bezpečnost, správa dat, soulad s předpisy a odpovědná AI nejsou kolonky v auditu, ale požadavky návrhu. Právě tady technicky zdatní lidé nejčastěji uváznou.
Vlastní model, nebo pronajatý
Nejtypičtější rozhodnutí roku 2026. Vlastní hosting otevřených modelů, jako jsou Llama od Mety nebo Mistral, dává kontrolu nad daty, předvídatelné náklady při velkém objemu a nezávislost na dodavateli. Za to platíte provozní zátěží: infrastrukturou, aktualizacemi a časem vývojářů.
Pronajaté modely od OpenAI nebo Anthropicu nabízejí silný výkon a nízkou provozní režii. Nevýhodou je platba za token, která při velkém objemu narůstá, a data, která opouštějí vaše prostředí.
| Kritérium | Vlastní model (Llama, Mistral) | Pronajatý model (OpenAI, Anthropic) |
|---|---|---|
| Kontrola nad daty | Data zůstávají u vás | Data odcházejí k poskytovateli |
| Cena při velkém objemu | Předvídatelná | Roste s každým tokenem |
| Provozní režie | Vlastní infrastruktura a údržba | Nízká, stará se poskytovatel |
| Závislost na dodavateli | Žádná | Riziko lock-inu |
Podle roadmapy neexistuje univerzálně správná odpověď. Záleží na nákladech při plánovaném objemu, latenci, požadavcích na soukromí dat, toleranci k závislosti na dodavateli a schopnostech týmu. Dvě časté chyby: předimenzování (stavíte vlastní infrastrukturu tam, kde by stačila spravovaná služba) a podfinancování (zavedete vlastní hosting, který tým nezvládne udržet).
Náklady, výpadky a selhání
AI systémy selhávají jinak než běžné aplikace. Latence kolísá, protože doba inference modelu není konstantní. Výstup je nedeterministický, takže stejný vstup nemusí vrátit stejný výsledek.
Proti tomu se používají dva nástroje. Záložní směrování přesměruje požadavek na jiný model nebo do mezipaměti, když primární model selže či překročí limit odezvy. Sémantická mezipaměť na rozdíl od běžné cache neporovnává jen přesné shody řetězců, ale vrací zásah i tehdy, když se nový dotaz podobá dřívějšímu odpovězenému dotazu významem. Při velkém objemu výrazně snižuje náklady i odezvu.
Náklady se v AI systémech koncentrují na tři místa: spotřebu tokenů, výpočet pro inferenci a vyhledávání dat. Disciplína, která je hlídá, se označuje jako FinOps. Architekt, který nedokáže spočítat cenový dopad svého návrhu, dělá jen část práce. Pro distribuované výpočty se používá Ray, pro experimenty a pipeline MLflow a Kubeflow.
EU AI Act a české firmy
Pro české čtenáře je tady část, která se týká nás všech. Evropský AI Act vstoupil v platnost 1. srpna 2024 a plně se použije od 2. srpna 2026. Pravidla pro modely obecného určení platí už od 2. srpna 2025 a zákazy vybraných praktik od 2. února 2025.
Pro vysoce rizikové systémy, tedy AI v kritické infrastruktuře, školství, náboru zaměstnanců nebo zdravotnictví, začnou povinnosti platit 2. prosince 2027, u systémů zabudovaných do výrobků až 2. srpna 2028. Každý systém, který slouží evropským uživatelům nebo ho staví evropská firma, se těmito pravidly musí řídit. Architekt, který s požadavky na soulad počítá od začátku návrhu, ušetří firmě přepisování systému později.
Roadmapa vedle AI Actu zmiňuje i americký rámec NIST AI Risk Management Framework pro řízení rizik a AWS Well-Architected Framework pro spolehlivost a bezpečnost.
Jak se připravit a kolik to stojí
Formální cestou jsou cloudové certifikace. Zkouška AWS Solutions Architect Associate stojí 150 dolarů (128 eur), v přepočtu zhruba 3 300 Kč. Profesionální úroveň vyjde na 300 dolarů (256 eur), zhruba 6 700 Kč. Obdobné certifikace nabízejí Google Cloud a Microsoft Azure.
Pro lidi, kteří preferují knihy, roadmapa doporučuje Designing Machine Learning Systems od Chip Huyenové a Machine Learning Design Patterns. Systémový návrh pro AI vyučují i kurzy DeepLearning.AI.
Nejdůležitější rada je přitom zdarma. Nečekejte na povýšení. Začněte hned kreslit diagramy a psát záznamy o rozhodnutích (takzvané ADR, architecture decision records), bez ohledu na současnou pozici. Portfolio takových záznamů prokáže připravenost lépe než jakákoli certifikace.
Musí architekt AI umět programovat?
Ano, ale ne na úrovni specialisty na strojové učení. Roadmapa předpokládá určité inženýrské zkušenosti a pochopení infrastruktury. Hlavní práce ale spočívá v návrhu a rozhodnutích, ne v psaní modelů od nuly. Kdo dává přednost stavění na úrovni kódu, může zůstat u role LLM inženýra.
Vyplatí se cloudová certifikace, když s AI teprve začínám?
Certifikace dává strukturu a ověřitelný základ, ale architekta dělá praxe. Podle článku na KDnuggets jsou ceněnější doložená rozhodnutí a diagramy než titul sám o sobě. Začněte vlastním návrhem systému a certifikaci berte jako doplněk.
Jak dlouho trvá stát se architektem AI?
Zdroj konkrétní časový rámec neuvádí, protože role staví na postupném úsudku. Předpokládá už existující inženýrskou zkušenost a doporučuje začít produkovat výstupy role (diagramy, záznamy o rozhodnutích) okamžitě, na jakékoli současné pozici.
