Co přesně DigitalOcean spustila
DigitalOcean je americký poskytovatel cloudu, který si historicky oblíbili hlavně menší vývojářské týmy a startupy. Jeho heslem je jednoduché a předvídatelné účtování. V posledních týdnech ale firma rychle staví nabídku pro takzvané AI agenty, tedy programy, které na rozdíl od běžného chatbota samy konají úkoly – volají nástroje, prohledávají dokumenty, píšou kód nebo vyřizují požadavky zákazníků.
Novinka oznámená 12. října se skládá ze dvou částí. První je Agent Learning Services, trojice produktů, která funguje jako jeden uzavřený cyklus. Druhá je Agent Data Services, datová vrstva, na které celý cyklus běží. Podle šéfa produktů a technologií Vinaye Kumara se otázka firem změnila z „dokážeme agenta spustit?“ na „zlepšuje se náš agent s každým dalším během?“.
Jak vypadá smyčka vylepšování
Ta trojice nástrojů má jednoduchou logiku, kterou pochopí i člověk mimo IT. Insights zaznamenává, co agent při každém úkolu dělá – krok po kroku. Signals pak v těchto záznamech najde místa, kde agent zasekl, zacyklil se, ztratil uživatele nebo úplně selhal. Tyto označené relace se stanou podkladem pro navrhovanou opravu.
Klíčová je třetí část, Evaluations & Simulations. Ta změnu otestuje ještě před nasazením, a to na realistických konverzacích sestavených právě z označených problematických relací. Výsledek se pak vrací zpět do cyklu. Zjednodušeně: firma nejdřív zjistí, kde agent chybuje, pak navrhne opravu a tu nejprve vyzkouší v simulaci – teprve potom ji pustí na skutečné zákazníky.
Proč to dosud nešlo
DigitalOcean v tiskové zprávě popisuje i problém, který nástroje řeší. Když se agent jednou nasadí, jeho výkon se zastaví. Záznam o tom, co dělal, obvykle leží v monitorovacím nástroji, který ukazuje jen to, jestli systémy běží – ne proč agent zavolal špatný nástroj nebo ztratil zákazníka. Oprava bývá jen drobná úprava pokynu, kterou není jak otestovat, takže první, kdo si všimne zhoršení, je zákazník. Vylepšování modelu zase znamená vyvézt produkční data k externímu dodavateli a propojit čtyři nebo pět nástrojů, takže k němu dochází jednou za čtvrtletí, nebo vůbec.
Vylepšený Inference Router k tomu přidává automatický výběr nejlépe hodnoceného modelu pro každý úkol. Optimalizuje podle ceny, kvality nebo vlastních hodnocení týmu a hodnocení znovu přepočítává, jakmile vyjde nový model. Tento automatický cyklus zatím funguje pro modely; u celých agentů DigitalOcean plánuje podobnou automatizaci teprve doplnit, dnes stále stojí na lidském schválení.
Kolik to stojí
Samotné Agent Learning Services firma zatím nacenila jen jako náhled, ceník nezveřejnila. Kontext cen ale dává související produkt Agent Droplets, který DigitalOcean spustila 1. října. Ten sdružuje vše, co agent potřebuje, do jedné měsíční platby: varianta Pro stojí 50 dolarů měsíčně (v přepočtu zhruba 1 150 Kč), varianta Team 200 dolarů (zhruba 4 600 Kč). K tomu se na zahrnuté prostředky uplatňuje sleva 15, respektive 20 procent. Nový zákazník dostane zkušební kredit 5 dolarů bez zadání karty. Přepočet je orientační při kurzu kolem 23 korun za dolar.
Data a soukromí
Agent Data Services je vrstva, která data připravuje pro agenty: video přepíše a popíše, dokumenty přečte a zaindexuje, záznamy relací sestaví s nastavitelným skrýváním citlivých údajů. Vše se ukládá do jednoho katalogu, logicky odděleného pro konkrétního zákazníka, s řízením přístupu tak, aby k jednotlivým datům směli jen oprávnění lidé a agenti. Podstatné je, že trénovací a testovací data si Optimizer bere jen tam, kde k tomu zákazník výslovně dá souhlas.
Pro české firmy je relevantní i umístění dat. DigitalOcean provozuje 16 datacenter ve 13 regionech, z toho tři v Evropě: v Amsterdamu, Londýně a Frankfurtu. Kdo potřebuje držet data v Evropské unii kvůli nařízení GDPR, může si vybrat evropské datacentrum.
Kdy to bude dostupné
Insights, Signals a Evaluations & Simulations jsou ode dneška dostupné ve veřejném náhledu (public preview). Inference Router a Agent Data Services běží v uzavřeném náhledu a zájemci si musejí požádat o přístup. DigitalOcean novinky předvede živě 13. října na konferenci Open Intelligence Summit v San Francisku. Náhledy přitom nejsou určené pro produkční provoz: firma upozorňuje, že se dodávají „jak jsou“, bez záruky podpory a mohou se změnit, nemusí se dočkat ostré verze, nebo mohou být ukončeny.
Je DigitalOcean vhodná i pro malou českou firmu, nejen pro vývojáře?
Ano, právě na menší týmy a startupy se DigitalOcean dlouhodobě zaměřuje. Produkty jako Agent Droplets začínají na 50 dolarech měsíčně, mají jednotnou měsíční cenu a žádné poplatky za další uživatele. Rozhraní je českým uživatelům dostupné v angličtině, čeština v něm zatím není.
Co přesně znamená, že je něco v public preview?
Jde o testovací fázi, kdy službu může vyzkoušet kdokoli, ale není určená pro kritický provoz. Poskytovatel za ni neručí stejně jako za ostré služby, neposkytuje plnou podporu a funkce i ceny se mohou změnit, případně produkt nemusí být vůbec dokončen.
Můžou se moji agenti učit na citlivých firemních datech bez mého vědomí?
Podle DigitalOcean ne. Trénovací a testovací data si nástroj Optimizer bere jen tam, kde k tomu zákazník výslovně dá souhlas, a Agent Data Services umožňuje nastavit skrývání citlivých údajů v záznamech relací.
