Twee instellingen die je tokens sparen als je bouwt

Je bent een uurtje aan het bouwen met je agent. Je hebt wat gebrainstormd, een ontwerp gemaakt, een paar vragen gesteld. Niets spectaculairs, vind je zelf. En dan klik je op de teller van je sessie en zie je dat er al een indrukwekkende hoeveelheid tokens door is. Voor wat chatten, eigenlijk.

Dat zag ik in een vibe coding-opleiding bij mezelf, live op het grote scherm. Ik had nog nauwelijks iets gebouwd. En toch stond de teller al hoog, terwijl ik de hele voormiddag had zitten vertellen dat je zuinig moet zijn met tokens.

Je kan daar zelf een stuk aan doen met goede gewoontes. Maar er zijn ook twee instellingen die je één keer aanzet en die daarna gewoon hun werk doen. Onderaan dit artikel vind je de prompt om de tweede te installeren.

Cartoon
Twee instellingen die je tokens sparen als je bouwt

Waarom het zo snel gaat

Een AI werkt binnen een sessie met een contextvenster. Elke keer dat je iets vraagt, neemt hij niet alleen je nieuwe vraag mee. Hij neemt de hele sessie mee: alles wat jij zei, alles wat hij antwoordde, en ook zijn eigen redenering. Hoe verder je in je sessie zit, hoe sneller de tokens dus opgaan.

Om dat betaalbaar te houden, bewaren de aanbieders dat stuk sessie in een cache. Daar hoef je zelf niets voor te doen. Alleen wordt die cache na een paar minuten gewist. Word je even gestoord door een collega en ga je daarna verder, dan leest je agent de hele sessie opnieuw in. Met zijn eigen gedachten erbij.

Elke vraag en elk antwoord tellen op, en bij de volgende vraag neemt je AI het hele gesprek opnieuw mee.
Elke vraag en elk antwoord tellen op, en bij de volgende vraag neemt je AI het hele gesprek opnieuw mee.

De cache een uur laten bewaren

Werk je met Claude, dan kan je die cache langer laten bewaren, een uur in plaats van een paar minuten. In Craft Agents staat dat bij de instellingen onder AI, bij performance. In andere tools zoek je naar iets als extended prompt cache.

Dat klinkt eigenlijk een beetje tegenstrijdig. In de uitleg bij de instelling staat zelfs dat de cache zelf dan duurder wordt. Maar lees verder: voor lange sessies daalt de kost. En vibe coding bestaat bijna alleen uit lange sessies. Dus voor wie bouwt met Claude, zou ik die instelling gewoon aanzetten. Een instelling die meer kost om minder te betalen, dat is wel typisch voor de wereld van de tokens.

Heb je een korte vraag, een mailtje dat herschreven moet worden, dan maakt het weinig uit. Het verschil merk je pas wanneer je agent een hele namiddag in hetzelfde project werkt en jij tussendoor koffie gaat halen.

Veelgestelde vragen

Waarom gaan mijn tokens zo snel op als ik bouw met een agent?

Bij elke vraag neemt je agent de hele sessie opnieuw mee, ook zijn eigen redenering. En een coding agent leest bij elk commando de uitvoer van de terminal. Hoe langer je sessie, hoe sneller het gaat.

Is een langere cache niet duurder?

De cache zelf kost iets meer, maar voor lange sessies daalt de totale kost. Bij vibe coding werk je bijna altijd in lange sessies, dus daar loont het. Die instelling bestaat voor Claude.

Wat doet RTK precies?

RTK is een kleine open source tool die de uitvoer van de terminal inkort voor je agent ze leest. Je agent leest dan minder, en dat spaart tokens. Je laat je agent het installeren en zet daarna de toggle aan.

Waar kan ik dit hands-on leren?

In de opleiding Vibe Coding met AI richt je je eigen werkomgeving in en leer je zuinig bouwen. Werk je vooral met Claude, dan past Claude AI Power User ook. De data vind je bij Workshops & Events.

Lees gratis verder

Registreer gratis met je e-mailadres en lees verder. Met je account open je de gratis artikels in de leerruimte; de rest is voor abonnees, vanaf Learn Plus.

Al geregistreerd? Nog geen account?

Nog geen reactiesLees de reacties

Reacties

Leden reageren hier en lezen elkaars reacties. Registreer gratis of log in om mee te praten.

Registreer gratis of log in

Nog geen reacties. Wat neem jij mee?

    QR-code van deze pagina

    coachsteff.live/twee-instellingen-die-tokens-sparen

    Scan met je telefoon om de pagina te openen.