AI strategijaAug 19, 2026ENSL

Manj tokenov, boljši rezultat

Ko pride ven nov model, ga vsi vklopijo za vse. To je najdražji možni način dela. Kako izgleda razmerje 90 / 9 / 1, ko delo razdeliš po tem, koliko presoje res zahteva, in zakaj je pri osebnem workflowu razmerje drugačno.

AD
Amadej DemsarUstanovitelj, NativeAI
·6 min read

Teza: ne rabiš močnejšega modela, rabiš boljši routing.

Ko pride ven nov model, se zgodi ista stvar. Vsi preklopijo nanj za vse, ker če je boljši, naj dela vse. To je najdražji možni način dela in hkrati najbolj len.

Človek, ki vodi Varick Agents in na omrežju X piše kot vasuman, je v članku »Spend Less Tokens« zapisal stavek, ki ga je vredno prebrati dvakrat: 90 odstotkov porabe tokenov v podjetju sploh ne bi bilo potrebne. Razlog je preprost. Večina delovnih tokov je determinističnih. Koraki so znani vnaprej, vhodi so strukturirani, izhod je predvidljiv. Če to poženeš skozi frontier model, plačuješ sklepanje za nekaj, kar bi moral biti navaden pogoj v kodi.

Njegova ekipa gradi agente za velika podjetja in vsakič znova naleti na isto. Delovni tok, ki od zunaj izgleda agentski, se po razčlenitvi izkaže za večinoma determinističnega. Število korakov in količina potrebne inteligence sta dve popolnoma različni stvari.

Piramida

Delo razdeli po tem, koliko presoje res zahteva.

Piramida usmerjanja: koda na dnu, nad njo mali modeli, near-frontier in frontier na vrhu
Piramida usmerjanja: koda na dnu, nad njo mali modeli, near-frontier in frontier na vrhu

Koda in avtomatizacija (osnova). Vse deterministično: parsanje, validacija, klici API-jev, premikanje podatkov, sprožilci, formatiranje. Tu model ni potreben. Če se korak da napisati kot funkcija, naj bo funkcija.

Mali modeli (90 %). Klasifikacija, ekstrakcija, povzemanje, prepis, usmerjanje, kratki odgovori po šabloni. Naloge, kjer je pravilen odgovor ozko določen in ga je poceni preveriti.

Near-frontier modeli (9 %). Več korakov in nekaj presoje, ampak jasen kontekst: pisanje kode po specifikaciji, daljša sinteza, debugiranje znane napake.

Frontier modeli (1 %). Odprti problemi, arhitekturne odločitve, strategija, težko sklepanje, sinteza več virov brez jasne poti. Samo tu se višja cena res povrne.

Temu razmerju pravi 90/9/1. Prihranek nad 90 odstotkov, ki ga navaja, je razlika med tem razmerjem in scenarijem, kjer vse teče na frontier modelu.

Napačna enota avtomatizacije

Največja napaka pri načrtovanju ni izbira modela. Napaka je, da avtomatiziraš na nivoju celotnega delovnega toka.

Isti delovni tok, enkrat kot en klic na frontier modelu, drugič razbit na korake z različnimi zahtevami
Isti delovni tok, enkrat kot en klic na frontier modelu, drugič razbit na korake z različnimi zahtevami

Model dobi kontekst, dobi nekaj orodij in se sam prebije skozi zapleten postopek. Deluje, zato se zdi, da je stvar rešena. V resnici model dela tudi v vseh tistih točkah, kjer sploh ni bil potreben, in tam gre proračun.

Pravilna enota je posamezna naloga znotraj toka. Vsaka naloga ima svojo zahtevo po inteligenci. Model rabiš tam, kjer pravega odgovora ni mogoče vedeti vnaprej, ker je odvisen od situacije in obstaja več smiselnih načinov, kako ravnati. Vse ostalo je pogoj v kodi.

Pri osebnem workflowu je razmerje drugačno

Podjetje si lahko privošči, da vsak korak razdela do konca in ga zaklene. Pri osebnem delu (Claude Code, Codex, agenti) tega ne moreš, ker je naloga vsakič druga in specifikacije pogosto sploh ni.

Primerjava razmerij: 90/9/1 v podjetju proti 70/20/10 pri osebnem delu
Primerjava razmerij: 90/9/1 v podjetju proti 70/20/10 pri osebnem delu

Realno razmerje je bližje 70 / 20 / 10. Še vedno je to ogromna razlika proti »vse na najmočnejšem« in točno ta razlika naredi, da subscription zdrži cel mesec namesto deset dni.

Kaj to pomeni v praksi

  • Orkestrator močan, izvajalci ne. Planiranje, dekompozicija in končna odločitev na vrhu. Iskanje po datotekah, bulk urejanje, boilerplate, testi in migracije gredo na mali model.
  • Subagenti vračajo destilirane povzetke, ne surovega materiala. Vsak odvečen token, ki pride v glavni kontekst, plačaš znova pri vsakem naslednjem obratu.
  • Najprej se vprašaj, ali je to sploh naloga za model. Skripta, ki jo napišeš enkrat, teče tisočkrat brez tokenov.
  • Definiraj nalogo namesto da jo model ugiba. Večina poseže po najmočnejšem modelu prav zato, ker naloge ni definirala. Ugibanje je drago.
  • Kar se ponavlja, shrani. Isti vhod, ki se vrača vsak dan, ne rabi novega klica. Rezultat gre v predpomnilnik in se bere od tam.
  • Kontekst je strošek, ne udobje. Kar ne vpliva na naslednjo odločitev, ne sme biti notri. Ožji kontekst je poleg tega bolj natančen, ker se model zmede prav ob nepomembnih podatkih.

Zakaj bo to vse bolj pomembno

Predpostavka je preprosta. Modeli na samem vrhu ne bodo cenejši, vsaka nova generacija pa potisne prejšnjo v cenovni razred, ki je za veliko večino nalog čisto dovolj. Kdor za vse uporablja najnovejše, plačuje strmo ceno za razliko, ki je pri 90 odstotkih nalog niti ne opazi.

Prava veščina ni dostop do najboljšega modela. Prava veščina je vedeti, kaj točno rabiš, razbiti workflow na korake in vsakemu koraku dodeliti najcenejše orodje, ki ga zanesljivo opravi.

Pričakovanje, da iz nedorečenega prompta pride velik rezultat, ni optimizacija. To je prelaganje lastnega dela na model, ki ti ga zaračuna po najvišji tarifi.


Vir: vas (vasuman), Spend Less Tokens, 17. 8. 2026, x.com/vasuman/status/2089436710257959073

Tags

usmerjanje-modelovporaba-tokenovstroski-aiai-agenticlaude-codecodexavtomatizacijadelovni-tok
Manj tokenov, boljši rezultat | NativeAI