Twee instellingen die je tokens sparen als je bouwt
Je bent een uurtje aan het bouwen met je agent. Je hebt wat gebrainstormd, een ontwerp gemaakt, een paar vragen gesteld. Niets spectaculairs, vind je zelf. En dan klik je op de teller van je sessie en zie je dat er al een indrukwekkende hoeveelheid tokens door is. Voor wat chatten, eigenlijk.
Dat zag ik in een vibe coding-opleiding bij mezelf, live op het grote scherm. Ik had nog nauwelijks iets gebouwd. En toch stond de teller al hoog, terwijl ik de hele voormiddag had zitten vertellen dat je zuinig moet zijn met tokens.
Je kan daar zelf een stuk aan doen met goede gewoontes. Maar er zijn ook twee instellingen die je één keer aanzet en die daarna gewoon hun werk doen. Onderaan dit artikel vind je de prompt om de tweede te installeren.

Waarom het zo snel gaat
Een AI werkt binnen een sessie met een contextvenster. Elke keer dat je iets vraagt, neemt hij niet alleen je nieuwe vraag mee. Hij neemt de hele sessie mee: alles wat jij zei, alles wat hij antwoordde, en ook zijn eigen redenering. Hoe verder je in je sessie zit, hoe sneller de tokens dus opgaan.
Om dat betaalbaar te houden, bewaren de aanbieders dat stuk sessie in een cache. Daar hoef je zelf niets voor te doen. Alleen wordt die cache na een paar minuten gewist. Word je even gestoord door een collega en ga je daarna verder, dan leest je agent de hele sessie opnieuw in. Met zijn eigen gedachten erbij.

De cache een uur laten bewaren
Werk je met Claude, dan kan je die cache langer laten bewaren, een uur in plaats van een paar minuten. In Craft Agents staat dat bij de instellingen onder AI, bij performance. In andere tools zoek je naar iets als extended prompt cache.
Dat klinkt eigenlijk een beetje tegenstrijdig. In de uitleg bij de instelling staat zelfs dat de cache zelf dan duurder wordt. Maar lees verder: voor lange sessies daalt de kost. En vibe coding bestaat bijna alleen uit lange sessies. Dus voor wie bouwt met Claude, zou ik die instelling gewoon aanzetten. Een instelling die meer kost om minder te betalen, dat is wel typisch voor de wereld van de tokens.
Heb je een korte vraag, een mailtje dat herschreven moet worden, dan maakt het weinig uit. Het verschil merk je pas wanneer je agent een hele namiddag in hetzelfde project werkt en jij tussendoor koffie gaat halen.
Veelgestelde vragen
Lees gratis verder
Registreer gratis met je e-mailadres en lees verder. Met je account open je de gratis artikels in de leerruimte; de rest is voor abonnees, vanaf Learn Plus.
Kijk in je mailbox
0 waarderingenNog geen reactiesLees de reacties
Reacties
Leden reageren hier en lezen elkaars reacties. Registreer gratis of log in om mee te praten.
Registreer gratis of log inNog geen reacties. Wat neem jij mee?