Šetříme tokeny v GitHub Copilot

Pokud si nejste jistí, proč potřebujete premium reasoning model, začněte s Auto.

• Routuje podle složitosti úkolu, dostupnosti a zdraví systému
• Nezůstane vám pinnutý drahý model na rutinu
• 10% sleva na multiplier u placených plánů
• Manuální override pro architekturu nebo těžký debug zůstává

V praxi to znamená dvě věci: Auto vybere vhodný model pro session a u placených plánů má 10% slevu na multiplier. Microsoft k tomu publikoval paper HyDRA (arXiv): na SWE-Bench Verified umí při stejné kvalitě jako silný Sonnet 4.6 ušetřit 54,1 % nákladů; v režimu maximální kvality Sonnet dokonce překoná a pořád šetří 12,9 %.

Pochop tento repozitář a oprav problém s loginem.

Soustřeď se na src\auth\login.ts a tests\auth\login.test.ts.
Bug: validateEmail odmítá user+tag@example.com.
Přidej test a oprav jen tohle chování.

Pravidlo: konkrétní cesty k souborům jsou levnější než průzkum celého repozitáře.

Bonus: batchujte související úkoly do jednoho promptu.

V src\auth\login.ts:
1. validateEmail — povol user+tag@example.com
2. přidej test do tests\auth\login.test.ts
3. doplň docstring k funkci
4. zapiš změnu do CHANGELOG.md

Místo „rozumíš tomu celému?" se zeptejte:

Najdi nejmenší množinu souborů, kterou potřebuju pro pochopení event-driven flow.
Vypiš jen cesty a jednu větu proč. Nedělej shrnutí celého repa.

Pak teprve zadejte úkol — s vědomím, co je relevantní.

Vysvětli detailně všechno, co jsi změnil.

Vypiš: změněné soubory, proč, testy. Max 5 odrážek.

„Caveman" styl výstupu pro reporty:

Hotovo. Vypiš: soubory, proč, validace, rizika. Bez úvodu. ≤5 odrážek.

Reasoning effort nastavujte stejně vědomě jako délku odpovědi.

Stejná informace ve třech verzích. Ukazuje, kde je „sweet spot" mezi srozumitelností a úsporností.

U terminálových výstupů je screenshot antipattern. Místo 5 000 řádků CI logu pošlete jen relevantní výňatek:

Command: npm test
Exit code: 1
Relevantní chyba:
  TypeError: Cannot read property 'id' of undefined
  at UserService.findById (src/services/user.ts:42)

Posledních 30 řádků:
  ...

U vizuálních otázek je efektivnější použít Playwright MCP nebo browser canvas.

Tokenizer je trénovaný hlavně na anglickém textu, ale není to dogma:

1. Strukturovaný formát smaže většinu rozdílu
2. Kvalita má přednost před úsporou
3. Cena za chybu > cena za tokeny

Vytvoř POST endpoint /api/users, který validuje povinné pole name a email,
při chybě vrátí 400 a při úspěchu 201 s vytvořeným uživatelem.

POST /api/users
Validuj: name pov, email pov+platny
400 chyby
201 user

Prosím tě, mohl bys mi vytvořit nový HTTP endpoint typu POST
na cestě /api/users, který přijme JSON s polem name a email,
validuje, že jsou obě hodnoty přítomné a email je ve správném formátu,
a v případě úspěchu vrátí 201 Created s vytvořeným objektem uživatele,
zatímco při validační chybě vrátí 400 Bad Request s detaily chyb?

Ještě jedna vrstva: modely nemají stejný slovník. To, že dva modely mají stejnou cenu za milion tokenů, neznamená stejnou cenu za stejný text. Anthropic u Claude Sonnet 5 píše, že nový tokenizer vyrobí pro stejný text přibližně o 30 % víc tokenů než Claude Sonnet 4.6; per-token cena je stejná, ale ekvivalentní request může stát víc (Anthropic docs). Podobně se mohou lišit modely různých výrobců.

Always-on instrukce jsou opakovaná daň — platíte je v každém tahu.

Nechte agenta psát kontext pro budoucnost.

Napiš do .github\skills\auth-flow\SKILL.md
stručný (≤60 řádků) popis auth flow tak, jak jsme ho právě
pochopili. Zaměř se na: vstupní body, klíčové soubory, pasti,
co dělat při změně. Žádná próza, jen seznamy a odkazy.

MCP má tři skryté nákladové vrstvy:

1. Tool definice a JSON schémata načtená do kontextu
2. Argumenty tool callu jako output tokeny
3. Výsledky toolu replayované jako input v dalším kroku

1. search nebo list kandidáty
2. vyberte jednoho
3. fetch jen detail, co potřebujete pro rozhodnutí
4. shrňte výsledek, než pokračujete

Dobrá zpráva: část téhle práce už Copilot začal dělat za vás. VS Code tým popsal tool search, kde model dostane jen lehká metadata nástrojů a plná JSON schémata se načtou až na vyžádání (VS Code blog). U OpenAI modelů GPT-5.4/5.5 to v experimentu snížilo medián celkových tokenů na tah o 8,61–9,81 % a medián session tokenů o 8,97–10,92 %. U Anthropic modelů deferring tool definitions snížil u mediánového uživatele celkové tokeny zhruba o 18 %.

Princip ale zůstává: tool search šetří definice toolů, ne objem jejich výsledků. MCP má dál vracet malé kandidáty, filtrovat a detail posílat až na vyžádání.

Pokud existuje algoritmus, který úkol vyřeší přesně, nenuťme model dělat to přes několik tahů.

Typičtí kandidáti:

• JSON → XML / CSV konverze
• Token counting, log slicing, schema validace
• Extrakce dependency grafu
• Sort, filter, deduplikace velkých dat
• Generátory ID, šablony s parametry

Ekonomika je vždy stejná: stará cache je nejlevnější, fresh input ~10×, output ~60×.

/chronicle tips, /chronicle cost-tips a /chronicle improve slouží jako pravidelná self-reflection.

Governance spotřeby je další vrstva. V Copilot CLI jde na session nastavit měkký limit přes /limits set max-ai-credits NUMBER nebo v neinteraktivním běhu --max-ai-credits NUMBER (docs). Admini pak mohou řídit user-level budgets, cost center per-user limity, cost center budgety, organization/enterprise budgety a hard stop při vyčerpání (docs).

Paralelní agenti mohou ušetřit wall-clock, ale znásobit input tokeny, pokud čtou stejné soubory.

Použijte subagenta když:

• Práce je opravdu nezávislá
• Kontext jde shardovat podle service / file area
• Stačí levnější model
• Výsledek lze vrátit jako krátké shrnutí

Nepoužívejte když:

• Všichni agenti potřebují stejný kontext
• Úkol je sekvenční
• Coordination overhead dominuje

Subagent ale nemusí být jen „další velký model ve vedlejším okně". Směr, který GitHub/Vs Code tým popisuje, jsou specializovaní subagenti pro úzké úkoly: hledání ve workspace, spouštění příkazů a sumarizaci výsledků. Cíl je přesunout hlučnou práci mimo hlavního agenta a nechat ji běžet na nejmenším modelu, který ji zvládne (VS Code blog).

Token efficiency není jednorázový audit — je to engineering discipline s feedback loopem.

Měřte:

• input, output, cached tokens
• počet tahů
• tool calls
• latency
• retry rate
• kvalitu výsledku

on: pull_request
  paths: ['.github/skills/**', 'AGENTS.md', '.github/prompts/**']

steps:
  - run: copilot-token-lab run --scenarios skills-regression --iterations 3
  - run: copilot-token-lab compare --baseline main --head HEAD
  - fail-if: weighted_units_delta > +10% AND quality_score < baseline
  - comment-pr: report.md