Przejdź do treści

Oszczędzanie tokenów

Limity użycia zależą od tego, ile tekstu przechodzi przez model. agent-skills ogranicza to na pięć sposobów. Poniższe liczby autorzy agent-skills zmierzyli na prawdziwych projektach.

Wczytywanie na żądanie

Agent trzyma w kontekście tylko nazwę i opis każdej umiejętności. Pełny SKILL.md wczytuje się, gdy umiejętność startuje, a pliki pomocnicze dopiero wtedy, gdy potrzebuje ich dany krok. Każdy SKILL.md ma najwyżej 110 linii, a pilnuje tego sprawdzenie w CI.

Mechaniczną pracę robią skrypty

Pobieraniem, parsowaniem, liczeniem i filtrowaniem zajmują się skrypty, które wypisują tylko to, czego potrzebuje model. Rozmiary są w bajtach, a cztery bajty to w przybliżeniu jeden token.

Tabelę można przewijać

Surowe dane a wynik skryptu, w bajtach
ZadanieSurowe daneWynik skryptuOszczędność
Raport Lighthouse455 53475499,8%
Log 86 zaliczonych testów27 0988699,7%
npm audit --json w aplikacji z 300 pakietami20 5552 12690%
git log -60 do poznania stylu commitów7 41573990%
Zgłoszenie z GitHuba z komentarzami8 1781 01888%
Log SQL jednego żądania z N+14 20449088%
package.json do znalezienia poleceń testów i lintera2 12227587%

Ponowne pobranie zadania pokazuje tylko nowe komentarze i zmienione pola. Nieudane testy wypisują bloki z błędami z file:line i podsumowaniem, nigdy pełny log.

Pytanie przed kosztownymi akcjami

Zrzut ekranu kosztuje około 1000 do 2000 tokenów, więc browser-check najpierw pyta i obejmuje tylko zmieniony element. Lokalny Lighthouse, pełne zestawy testów i testy obciążeniowe są proponowane, a nie uruchamiane po cichu.

Sesje, które tanio się wznawia

STATE.md, mający około 30 linii, przechowuje cel, wykonaną pracę, zmienione pliki, wyniki sprawdzeń, decyzje i jeden konkretny następny krok. Po etapie wyczyść sesję i wznów ją z pliku. To tańsze i dokładniejsze niż ciągnięcie za sobą długiego zapisu rozmowy.

Zasady pracy

Umiejętność token-saver daje wszystkim agentom te same nawyki:

  • Najpierw szukaj, potem czytaj, i to zakresy linii.
  • Nigdy nie otwieraj plików lockfile ani wyników budowania.
  • Używaj krótkich form poleceń, takich jak git status --short.
  • Edytuj zamiast pisać od nowa.
  • W odpowiedziach podawaj wyniki na początku.
  • Do szerokich wyszukiwań używaj podagentów z wąskim poleceniem.

Czytaj dalej

Szukaj na stronie

Strzałki przenoszą między wynikami, Enter otwiera, Esc zamyka. Ctrl K /