Provoz pokročilých autonomních systémů s sebou nese výrazné finanční nároky. Garry Tan v podcastu The Builders uvedl, že za tokeny pro AI agenty utratí zhruba 100 000 až 200 000 dolarů ročně[1]. Současné náklady na provoz osobních AI agentů přitom Tan označil za příliš vysoké a za výsadu, kterou si nemůže dovolit každý[2]. Sám přitom sdílel na platformě GitHub sadu 23 dovedností pro Claude Code pod názvem gstack[3]. Příkladem rozsáhlého nasazení v praxi je akcelerátor Y Combinator, který využívá interního AI agenta Stray Light disponujícího kompletním kontextem všech podpořených zakladatelů, e-mailů i přihlášek[4].

Proč spotřeba tokenů narůstá do extrémních rozměrů

Podle inženýrského týmu společnosti Anthropic spotřebují samostatní agenti zhruba 4× více tokenů než chat a multi-agentní systémy přibližně 15× více tokenů než běžné chatové interakce[5]. Zvýšená spotřeba je však vykoupena výkonem, jelikož multi-agentní systém Anthropic překonal jednoho agenta Claude Opus 4 o 90,2 % v interní evaluaci výzkumných úloh[6]. V evaluačním testu BrowseComp samotná spotřeba tokenů vysvětlila 80 % rozptylu ve výkonu systémů[7].

Za strmým nárůstem spotřeby stojí kumulace dat v jednotlivých krocích. Při desetistupňové úloze agent neplatí pouze za deset jednotlivých kroků, ale za kumulativní součet 1+2+3…+10 přeposílané historie[8]. K tomu se přidává masivní režie nástrojových rozhraní, kdy samotný MCP server pro GitHub obsahuje přibližně 55 000 tokenů schémat nástrojů[9]. Konfigurace zahrnující MCP servery pro GitHub, Slack a Sentry načte zhruba 143 000 tokenů ještě před odesláním první zprávy agentovi[10].

Značné nároky vyžaduje i samotný start pomocných procesů. Audit subagentů Claude Code v roce 2025 vyčíslil režijní náklad na inicializaci jednoho subagenta na zhruba 20 000 tokenů[11]. Měření z července 2026 navíc zjistilo, že obecný subagent s hierarchií instrukcí o rozsahu 28 620 slov spotřeboval 111 253 tokenů, aniž provedl jediné volání nástroje[12].

Od ceny za tokeny k ceně za vyřešený úkol

Kvůli specifickému fungování agentních smyček se rozhodující metrikou produkční ekonomiky autonomních kódovacích agentů stává cena za úspěšně vyřešený úkol, nikoli cena za milion tokenů[13]. Pokusy o naivní snížení nákladů však často selhávají. Omezení parametru maxOutputTokens na 300 tokenů u modelu gemini-3.8-flash nepřineslo u jednoduchých úloh žádnou finanční úsporu[14]. Tento nastavený strop 300 výstupních tokenů naopak způsobil selhání u 7 z 25 náročných úloh, protože modelu došel prostor pro proces uvažování[15].

Dynamické směrování modelů v praxi

Doporučenou metodou snížení nákladů je směrování subagentů podle rolí, kde orchestrátor zůstává na nejpokročilejším modelu a dílčí úlohy přebírají levnější modely[16]. Pro efektivní třídění požadavků je však nutné správně odhadnout jejich složitost. Lokální heuristika v Pythonu založená na délce promptu a regulárních výrazech sice dosáhla na 16 vývojových úlohách úspěšnosti 93,8 %[17], na 34 neviděných testovacích úlohách však úspěšnost zmrazené lokální heuristiky klesla o 23,2 procentního bodu na 70,6 %[18].

Naproti tomu specializovaný klasifikátor Jev vyhodnocuje strukturované klasifikační primitiva v jediném dopředném průchodu místo postupného generování textu token po tokenu[19]. Jeho klasifikační primitivum Noul vrací pravděpodobnost v rozmezí 0 až 1 pro binární tvrzení[20]. Klasifikátor Jev správně zařadil všech 34 neviděných úloh a dosáhl celkové shody 96,0 % napříč 50 testovanými úlohami[21].

V experimentu byl nejúspěšnější konfigurací bez směrovače model Gemini 3.8 Flash s nízkou úrovní uvažování, který vyřešil všech 50 úloh[22]. Model Flash-Lite sám o sobě sice zodpověděl jednoduché úlohy za půl sekundy, ale selhal u 6 z 25 náročných úloh[23]. Směrovač Jev proto posílá všechny úlohy nejprve na Flash-Lite a eskaluje na Gemini 3.8 s nízkým uvažováním jen komplexní dotazy, čímž vyřešil všech 50 úloh při nižších nákladech a odezvě[24].