Od skriptu v Pythonu k monstru se 500 petabyty dat
Když OpenAI na akci DevDay v roce 2023 spouštěla podporu pro vlastní GPTs, Habitat nebyl ničím jiným než skromnou klientskou knihovnou napsanou v Pythonu. Běžel přímo v hlavní aplikaci ChatGPT a komunikoval s jedinou spravovanou databází. Pro vývojáře produktů to bylo ideální řešení: nemusely je zajímat detaily o databázových schématech, šifrování, uspořádání požadavků ani spravování síťových spojení. Napsali dotaz a knihovna se postarala o zbytek.
Představte si to jako instalaci chytrého rozdělovače do rodinného domku. Pokud v domě žije jedna rodina, stačí jednoduchá odbočka v trubce. Jenže co se stane, když se z domku během tří let stane megaměsto? Systém, který v roce 2023 obsluhoval zlomek dnešního provozu, dnes uchovává více než 500 petabytů dat distribuovaných téměř ve 40 geografických regionech po celém světě. To je objem dat, pro který byste potřebovali zhruba milion běžných pevný disků o kapacitě 500 GB.
Inženýři v OpenAI přiznávají, že běžná poučka pro stavbu IT infrastruktury doporučuje dimenzovat systémy na desetinásobek (10x) očekávané zátěže s tím, že architektura vydrží pár let. OpenAI však rostla o více než 10x meziročně tři roky po sobě. Místo dlouhého teoretizování tak museli inženýři za chodu mačkat z existujícího kódu maximum a nakupovat čas pro zásadní strukturální přestavbu.
Proč klienti přestali stačit a narostl technický dluh
Do poloviny roku 2025 narážela architektura postavená na klientské knihovně na své fyzické i provozní limity. Protože klientskou knihovnu využívaly desítky samostatných mikroslužeb uvnitř OpenAI, jakákoliv změna protokolu vyžadovala obrovské úsilí a koordinaci vícero týmů.
Technický blog OpenAI popisuje konkrétní situaci, která rozhýbala změnu: inženýři potřebovali rozložit kritická data do více regionálních účtů databáze Azure Cosmos DB, aby omezili dopad případného výpadku v jednom datovém centru. Vytvoření směrovací logiky přímo v klientské knihovně si vyžádalo koordinaci napříč desítkami služeb. Změna se zaváděla několik dní. Pak bylo potřeba přidat stínové testování — další dny. Když se následně opravovala drobná chyba, jeden z produktových týmů z nepropojených důvodů vrátil svou službu k starší verzi knihovny a způsobil přesně ten výpadek, kterému se celým nasazením snažili zabránit.
Ukázalo se, že správa distribuované logiky na straně klientů je příliš křehká. Řešením bylo vytvoření samostatné, centralizované služby Habitat. Oddělením úložné logiky do dedikovaného serverového systému získala OpenAI jedno řídicí místo pro aktualizace, monitorování i bezpečnostní politiky.
Rizikový přechod a sázka na kódování pomocí AI
Rozhodnutí provozovat masivní databázovou infrastrukturu jako službu napsanou v Pythonu bylo odvážné. Python je skvělý pro rychlý vývoj, ale u služeb s vysokou propustností přináší značnou režii na procesor i paměť a zvyšuje latenci sítě. Inženýři OpenAI si byli vědomi toho, že při stomilionových násobcích zátěže bude nákladnost Pythonu neúnosná a kompletní přepis do výkonnějšího jazyka bude nevyhnutelný.
Přesto vědomě přijali tento technický dluh. Jejich primárním cílem totiž nebylo v danou chvíli šetřit na provozních nákladech, ale nebrzdit vývojáře nových funkcí pro ChatGPT. Učinili přitom strategickou sázku: vsadili na to, že do doby, než bude přepis z Pythonu nezbytný, budou jejich vlastní kódovací modely řady Codex a GPT natolik pokročilé, že převážnou část přepisu do úspornějšího jazyka zvládne AI automaticky. A tato sázka jim vyšla. Klíčové výkonnostní bottlenecks a asynchronní obsluhu (asyncio) postupně nahradily vysoce optimalizované služby napsané v jazyce Rust.
Díky centralizaci do služby Habitat získala OpenAI také kontrolní uzel pro datovou bezpečnost. Právě zde se dnes v reálném čase ověřují přístupová práva, provádí se auditní logování a kontroluje se, zda k uloženým datům přistupuje oprávněný uživatel, interní vývojář, nebo autonomní agentní systém.
Dopad na uživatele v České republice a v Evropě
Ačkoliv jde o technický detail z hlubin kalifornské architektury, má přímé důsledky i pro český trh a evropské firmy využívající API nebo ChatGPT Plus. Správná funkčnost platformy Habitat v téměř 40 regionech světa zajišťuje, že odezva dotazů v češtině zůstává stabilní bez ohledu na to, zda v USA právě probíhá špička.
V současnosti, kdy se na trhu utkávají spičkové modely jako GPT-6 Astra, Claude Fable 5.1 či Gemini 3.8 Flash, nerozhoduje o použitelnosti služeb pouze samotná inteligence modelu, ale především infrastruktura kolem něj. Pokud by model musel na získání paměti konverzace čekat stovky milisekund, dojem ze živé komunikace by se okamžitě rozpadl. Architektura Habitat ukazuje, že udržet v chodu AI pro osminu planety není jen o GPU čipech, ale především o extrémně dimenzovaném databázovém inženýrství.
Co je to platforma Habitat a k čemu slouží?
Habitat je interní úložná infrastruktura společnosti OpenAI. Zajišťuje rychlé, bezpečné a spolehlivé ukládání a načítání dat pro ChatGPT i další produkty, přičemž vývojářům odstíňuje komplexní správu databází.
Jaké databázové technologie OpenAI pro Habitat využívá?
Primární databázovou vrstvou pod kapotou Habitatu je spravovaná cloudová databáze Azure Cosmos DB od Microsoftu, doplněná o vlastní cache vrstvy a směrovací služby přepsané do jazyka Rust.
Jak Habitat ovlivňuje rychlost odpovědí v aplikaci ChatGPT?
Habitat zkracuje latenci při načítání historie konverzací, uživatelských profilů a nastavení. Díky regionálnímu rozdělení ve 40 regionech vyřizuje požadavky blízko uživateli, což zrychluje reakční dobu i pro uživatele v ČR.
