Tomáš Kubica

Jak snížit náklady v 15 minutách

Šetříme tokeny v GitHub Copilot

Od snadných výher po pokročilý context engineering. Cílem není utratit nejméně tokenů, ale získat z každého maximální hodnotu.

Mentální model

Náklad neplyne jen z toho, co napíšete do chatu. Sčítá se z mnoha vrstev:

  • Vždy-zapnuté instrukce — AGENTS.md, custom instructions, hooky
  • Vybrané a otevřené soubory v kontextu
  • Historie chatu a shrnutí mezi tahy
  • Definice MCP nástrojů a jejich JSON schémata — i ty, které nepoužijete
  • Výsledky tool callů zopakované jako input v dalším kroku
  • Výstup modelu (output tokeny jsou nejdražší)
  • Retries, subagents, smyčky v agent módu

Tři typy tokenů — proč na nich záleží:

  • Input — vše, co posíláte modelu poprvé (prompt, kontext, tool results)
  • Cached input — opakovaný prefix, který model už viděl v předchozím tahu téže session. ~10× levnější než fresh input.
  • Output — to, co model vygeneruje. ~6× dražší než fresh input, ~60× dražší než cached input.

Příklad z reálného aktuálního ceníku (USD za 1M tokenů):

Model Krátký cache Krátký input Krátký output Dlouhý cache Dlouhý input Dlouhý output
gpt-5.5 $0,50 $5,00 $30,00 $1,00 $10,00 $45,00
gpt-5.4 $0,25 $2,50 $15,00 $0,50 $5,00 $22,50
gpt-5.4-mini $0,075 $0,75 $4,50 — — —
gpt-5.4-nano $0,02 $0,20 $1,25 — — —

Mini a nano dlouhý kontext nemají.

Ballpark pravidla:

  • Cache : Input : Output ≈ 1 : 10 : 60
  • Každý tier dolů je ~3–4× levnější
  • Dlouhý kontext zdraží ~2× input/cache a ~1,5× output
  • Cache je důvod, proč /compact není zadarmo

Snadné výhry pro každého

Pokud si nejste jistí, proč potřebujete premium reasoning model, začněte s Auto.

  • Routuje podle složitosti úkolu, dostupnosti a zdraví systému
  • Nezůstane vám pinnutý drahý model na rutinu
  • 10% sleva na multiplier u placených plánů
  • Manuální override pro architekturu nebo těžký debug zůstává

V praxi to znamená, že pro běžnou práci ušetříte 10 % oproti pinnutí konkrétního modelu — a navíc často dostanete levnější model, který úkol zvládne.

Drahé 
Pochop tento repozitář a oprav problém s loginem.
Levné 
Soustřeď se na src\auth\login.ts a tests\auth\login.test.ts.
Bug: validateEmail odmítá user+tag@example.com.
Přidej test a oprav jen tohle chování.

Pravidlo: konkrétní cesty k souborům jsou levnější než průzkum celého repozitáře.

Bonus: batchujte související úkoly do jednoho promptu.

V src\auth\login.ts:
1. validateEmail — povol user+tag@example.com
2. přidej test do tests\auth\login.test.ts
3. doplň docstring k funkci
4. zapiš změnu do CHANGELOG.md

Místo „rozumíš tomu celému?" se zeptejte:

Najdi nejmenší množinu souborů, kterou potřebuju pro pochopení event-driven flow.
Vypiš jen cesty a jednu větu proč. Nedělej shrnutí celého repa.

Pak teprve zadejte úkol — s vědomím, co je relevantní.

Drahé 
Vysvětli detailně všechno, co jsi změnil.
Levné 
Vypiš: změněné soubory, proč, testy. Max 5 odrážek.

„Caveman" styl výstupu pro reporty:

Hotovo. Vypiš: soubory, proč, validace, rizika. Bez úvodu. ≤5 odrážek.

Stejná informace ve třech verzích. Ukazuje, kde je „sweet spot" mezi srozumitelností a úsporností.

Ahoj zlatíčko, mamka přijde domů kolem šesté hodiny večerní. Prosím tě, udělej si nejdřív domácí úkoly z matematiky a češtiny, ano? Až je budeš mít hotové, můžeš si hodinu hrát na tabletu. V lednici je rajská polévka, kterou si ohřej v mikrovlnce na tři minuty na nejvyšší výkon. Nezapomeň prosím vyvenčit Bertíka kolem páté hodiny a dej mu pak granule do misky. Mám tě moc ráda, mamka 💕

Metrika Hodnota
Znaky 388
Tokeny (GPT-5) 140
Čitelnost vysoká
Pro koho lidi s časem

U terminálových výstupů je screenshot antipattern. Místo 5 000 řádků CI logu pošlete jen relevantní výňatek:

Command: npm test
Exit code: 1
Relevantní chyba:
  TypeError: Cannot read property 'id' of undefined
  at UserService.findById (src/services/user.ts:42)

Posledních 30 řádků:
  ...

U vizuálních otázek je efektivnější použít Playwright MCP nebo browser canvas.

Tokenizer je trénovaný hlavně na anglickém textu, ale není to dogma:

  1. Strukturovaný formát smaže většinu rozdílu
  2. Kvalita má přednost před úsporou
  3. Cena za chybu > cena za tokeny
Vytvoř POST endpoint /api/users, který validuje povinné pole name a email,
při chybě vrátí 400 a při úspěchu 201 s vytvořeným uživatelem.
Jazyk Znaky Tokeny vs EN
Angličtina 148 31 1.00×
Čeština 148 50 1.61× 
POST /api/users
Validuj: name pov, email pov+platny
400 chyby
201 user
Jazyk Znaky Tokeny vs EN
Angličtina 71 20 1.00×
Čeština 70 23 1.15× 
Prosím tě, mohl bys mi vytvořit nový HTTP endpoint typu POST
na cestě /api/users, který přijme JSON s polem name a email,
validuje, že jsou obě hodnoty přítomné a email je ve správném formátu,
a v případě úspěchu vrátí 201 Created s vytvořeným objektem uživatele,
zatímco při validační chybě vrátí 400 Bad Request s detaily chyb?
Verze Tokeny vs strukturovaný
Verbose CZ ~95 +313 %
Normální CZ 50 +117 %
Strukturovaný CZ 23 baseline

Pokročilé techniky

Always-on instrukce jsou opakovaná daň — platíte je v každém tahu.

Typ kontextu Kam patří Pravidlo
Always-on (drobné) AGENTS.md jen fakta, která agent nemůže odvodit
Path-specific .github\instructions\*.instructions.md načítá se jen u relevantních souborů
Workflow-specific prompt files spouští se na vyžádání
Detailní capability .github\skills\ progressive reveal — jen když je téma
Live data MCP server fetch on demand

Nechte agenta psát kontext pro budoucnost.

Napiš do .github\skills\auth-flow\SKILL.md
stručný (≤60 řádků) popis auth flow tak, jak jsme ho právě
pochopili. Zaměř se na: vstupní body, klíčové soubory, pasti,
co dělat při změně. Žádná próza, jen seznamy a odkazy.

MCP má tři skryté nákladové vrstvy:

  1. Tool definice a JSON schémata načtená do kontextu
  2. Argumenty tool callu jako output tokeny
  3. Výsledky toolu replayované jako input v dalším kroku
1. search nebo list kandidáty
2. vyberte jednoho
3. fetch jen detail, co potřebujete pro rozhodnutí
4. shrňte výsledek, než pokračujete

Pokud existuje algoritmus, který úkol vyřeší přesně, nenuťme model dělat to přes několik tahů.

Typičtí kandidáti:

  • JSON → XML / CSV konverze
  • Token counting, log slicing, schema validace
  • Extrakce dependency grafu
  • Sort, filter, deduplikace velkých dat
  • Generátory ID, šablony s parametry

Ekonomika je vždy stejná: stará cache je nejlevnější, fresh input ~10×, output ~60×.

Situace Příkaz Co se stane
Krátký dotaz mimo téma /ask (/btw) cache zůstává, odpověď neroste do historie
Špatný poslední tah /undo (/rewind) odstraní změny i kontext posledního tahu
Sidequest na stejném základě /fork větve sdílejí cached prefix
Návrat po pauze /resume často cache hit, později input
Nové téma /new stará session uložena, nová bez cache
Trvale ukončit /clear session zahozena, změny v souborech ne
Context narostl /compact drahá operace, output bolus + invalidace cache
Export sezení /share vstup pro analýzu a zlepšování

/chronicle tips, /chronicle cost-tips a /chronicle improve slouží jako pravidelná self-reflection.

Paralelní agenti mohou ušetřit wall-clock, ale znásobit input tokeny, pokud čtou stejné soubory.

Použijte subagenta když:

  • Práce je opravdu nezávislá
  • Kontext jde shardovat podle service / file area
  • Stačí levnější model
  • Výsledek lze vrátit jako krátké shrnutí

Nepoužívejte když:

  • Všichni agenti potřebují stejný kontext
  • Úkol je sekvenční
  • Coordination overhead dominuje

Token efficiency není jednorázový audit — je to engineering discipline s feedback loopem.

Měřte:

  • input, output, cached tokens
  • počet tahů
  • tool calls
  • latency
  • retry rate
  • kvalitu výsledku
on: pull_request
  paths: ['.github/skills/**', 'AGENTS.md', '.github/prompts/**']

steps:
  - run: copilot-token-lab run --scenarios skills-regression --iterations 3
  - run: copilot-token-lab compare --baseline main --head HEAD
  - fail-if: weighted_units_delta > +10% AND quality_score < baseline
  - comment-pr: report.md

Shrnutí

Snadné

  • Auto model jako default
  • Pojmenujte přesné soubory a done criteria
  • Nalezení souborů jako první krok
  • Omezte výstup
  • Výňatky z logů, ne dumpy
  • Strukturovaný formát smaže rozdíl jazyka

Pokročilé

  • Drobný AGENTS.md + skills + path instructions
  • MCP jako search → select → fetch
  • Deterministické toolery
  • /ask, /fork, /resume vědomě, /compact opatrně
  • Subagents jen na nezávislou práci
  • Měřte v CI a ptejte se agenta na sebezlepšení

Tokeny nejsou náklad ke škrcení. Jsou investicí. Řešte návratnost, ne spotřebu.