DoorDash zrychlil AI nákupní seznam z 16 na 2 sekundy: většinu práce přesunul mimo živý dotaz

DoorDash si připraví nákupní seznam dopředu

DoorDash změnu popsal v technickém článku o asistentovi Ask DoorDash. Funkce „reorder my usuals“ má z nákupní historie odhadnout potraviny, které uživatel pravděpodobně kupuje opakovaně, a vytvořit z nich upravitelný seznam.

Původní řešení provádělo většinu práce až po odeslání požadavku. Agent musel načíst historii, rozhodnout, které položky patří mezi pravidelné nákupy, najít odpovídající produkty v aktuálním katalogu a sestavit seznam. Podle DoorDash tento postup trval přibližně 16 sekund. (careersatdoordash.com)

Nový návrh rozděluje úkol na dvě části. Systém nejprve mimo živý požadavek analyzuje nákupní chování zákazníka. Teprve když se zákazník vrátí do aplikace, dohledá aktuální produkty, ceny a dostupnost.

DoorDash pro tento výpočet používá nákupní historii za posledních 90 dní a vybrané údaje z profilu zákazníka. Nehodnotí přitom pouze počet nákupů. Rozlišuje například položku nakoupenou šestkrát v šesti různých objednávkách od šesti kusů stejné věci v jediné objednávce. První případ je pro odhad pravidelné potřeby přesvědčivější. (careersatdoordash.com)

Výsledkem je předpočítaný balíček obvyklých položek. Když uživatel požádá o opakování běžného nákupu, systém tento balíček načte a teprve potom ho spojí s aktuální nabídkou obchodu.

Model rozhoduje, kód kontroluje

Důležitou částí návrhu je oddělení práce jazykového modelu od pravidelného aplikačního kódu. Model odhaduje, co je pro zákazníka obvyklá položka. Deterministická validace potom ověřuje, zda výsledek obsahuje použitelné identifikátory, správné množství a data, která lze bezpečně zobrazit.

To je praktický rozdíl oproti představě, že AI jednoduše projde historii a sama sestaví košík. Jazykový model může rozhodovat o významu chování, ale neměl by mít poslední slovo u každého technického detailu. Pokud se například změní identifikátor produktu nebo položka zmizí z nabídky, systém ji hledá v několika úrovních.

Nejdříve zkouší původní položku konkrétního obchodu. Potom katalogový identifikátor produktu a nakonec obecný vyhledávací výraz. Díky tomu může systém najít odpovídající zboží i po změně nabídky. (careersatdoordash.com)

Tento princip je podobný rozdílu mezi osobním nákupním seznamem a fotografií starého účtenkového dokladu. Účtenka ukazuje, co člověk koupil dříve. Seznam musí ještě ověřit, co lze koupit dnes.

Rychlost přišla díky menšímu množství práce

DoorDash uvádí, že nová cesta zkrátila dobu vytvoření seznamu z přibližně 16 sekund na zhruba 2 sekundy. To neznamená, že jazykový model nyní odpovídá osmkrát rychleji. Velká část původní práce se vůbec neprovádí během živého požadavku.

V původním průchodu mohl agent během jednoho požadavku uskutečnit šest až osm volání jazykového modelu a několik volání nástrojů. Každé volání znamená další čekání, přenos dat a možnost, že systém bude muset reagovat na výsledek předchozího kroku. (careersatdoordash.com)

Nový systém proto předem vypočítá pomalejší část, která se mění jen postupně. Do živého požadavku zůstává to, co se mění rychle – dostupnost, ceny, akce, velikost balení a konkrétní nabídka obchodu.

Toto rozdělení má ještě jeden důsledek. Model může historická data zpracovat dávkově a bez tlaku na okamžitou odpověď. DoorDash uvádí, že tím získal prostor použít pro tvorbu seznamu schopnější model a současně zkrátit čekání uživatele. (careersatdoordash.com)

Po vytvoření seznamu už běžné změny nevyžadují další průchod jazykovým modelem. Uživatel může změnit množství, položku odstranit nebo ji upravit přímo ve strukturovaném seznamu. Agent se zapojí až ve chvíli, kdy je potřeba složitější rozhodování, například najít levnější alternativu s ohledem na aktuální cenu, akci, velikost balení a preference zákazníka.

Výsledek se projevil v používání

Podle DoorDash si výsledný seznam zobrazilo dvakrát více uživatelů. Objednávkový poměr v tomto toku vzrostl přibližně o 34 procent. Jde o údaje, které uvádí samotná firma v technickém článku, nikoli o nezávislé měření. (careersatdoordash.com)

Čísla dávají smysl hlavně u opakovaného nákupu. Čekání 16 sekund nemusí být problém při plánování velkého košíku, kde uživatel mezitím hledá další položky. U jednoduchého požadavku typu „objednej moje obvyklé potraviny“ však působí dlouhá odpověď rušivě. Uživatel očekává seznam, ne krátkou konzultaci s digitálním nákupčím.

DoorDash uvádí, že opakované nákupy tvoří přibližně jednu ze tří objednávek v daném scénáři. Firma současně upozorňuje, že opakování nákupu není pouhé přehrání staré objednávky. Historie zachycuje nákup, nikoli jistotu, že zákazník stejnou věc potřebuje právě dnes. (careersatdoordash.com)

Systém proto může seznam zmenšit nebo nevytvořit žádný balíček, pokud v historii není dost důkazů. To je rozumnější než doplňovat seznam náhodnými produkty jen proto, aby vypadal kompletně.

Ask DoorDash využívá společnou platformu

Grocery agent je součástí širší platformy Ask DoorDash, která pracuje s více specializovanými agenty. DoorDash společné části platformy používá pro orchestrace, paměť, přístup k modelům, sledování požadavků, vyhodnocování a řízení nasazení. Jednotlivé domény si ponechávají vlastní instrukce, nástroje a hodnoticí pravidla. (careersatdoordash.com)

Firma uvádí, že Ask DoorDash spustila s podporou restaurací a potravin přibližně během dvou měsíců. Přidání agenta pro rezervace podle ní trvalo jeden týden, což bylo zhruba desetkrát rychleji než vytvoření prvních doménových agentů. Tento údaj popisuje interní vývoj DoorDash a nelze ho automaticky přenést na jiné firmy. (careersatdoordash.com)

Architektura stojí na specializovaných agentech místo jednoho univerzálního systému. Grocery agent řeší nákupy, jiný agent restaurace a další rezervace. Společná infrastruktura sjednocuje provoz, ale samotné úkoly zůstávají oddělené.

DoorDash také používá vrstvu nástrojů mezi agenty a interními službami. Model tak nevolá přímo nízkoúrovňová API. Nástroje mají užší rozhraní a deterministický kód před jejich provedením kontroluje oprávnění a obchodní pravidla. (careersatdoordash.com)

Dostupnost v Česku zůstává omezená

Pro českého zákazníka má zpráva zatím hlavně technický význam. Asistent Ask DoorDash funguje pouze ve vybraných oblastech USA na iOS a samotná aplikace DoorDash v tuzemsku přímo nepůsobí. Na českém trhu je však společnost přítomná prostřednictvím své dceřiné doručovací platformy Wolt. U lokálních online supermarketů, jako jsou Rohlík či Košík, je navíc predikce pravidelných nákupů a generování chytrých nákupních seznamů klíčovou disciplínou. Právě zde architektura oddělující předpočítání historie od okamžitého dotazu do skladového katalogu dává přímý smysl. (careersatdoordash.com)

Podobný směr zvolil také Instacart, který svůj AI asistent používá pro plánování jídel, tvorbu nákupních seznamů a hledání produktů podle místní nabídky. Rozdíl je v tom, že DoorDash v tomto případě zveřejnil konkrétní technický rozklad opakovaného nákupu a měření latence. (company.instacart.com)

Přínos ukázky nespočívá v samotném použití jazykového modelu. Nejvíce práce odvedlo rozhodnutí, co musí AI řešit během požadavku a co lze připravit předem. Ceny, skladová dostupnost a aktuální katalog zůstaly živé. Analýza pomalu se měnící nákupní historie se přesunula mimo čekání zákazníka.