Onderwerp

tokens

Alles over tokens op één plek.

2 artikels

  • Laat je AI in het Engels denken, ook als je in het Nederlands werkt

    Nederlands kost je AI meer werkgeheugen dan Engels. Dus laat ik mijn AI in het Engels werken, en daar volstaat één zin in je instructie voor.

    In de workshop toon ik soms de instructie van mijn eigen agent. Mensen verwachten dan iets ingewikkelds. Wat hen vooral opvalt, is één zinnetje bovenaan: jij doet al het werk in het Engels. Je denkt in het Engels en je schrijft je tussenstappen in het Engels. En je brieft andere agents ook in het Engels.

    En dan komt de vraag die ik zie aankomen: ‘Steff, jij schrijft toch alles in het Nederlands?’ Dat klopt wel. Mijn artikels en mijn mails zijn in het Nederlands, en mijn workshops ook. Alleen gebeurt wat mijn AI onderweg doet om daar te geraken, in het Engels. En daar is een heel praktische reden voor.

    6 min lezenGratis met account
  • Waarom je langste chat je slechtste chat is

    Een lange chat traint je AI niet, hij vult het contextvenster. Waarom de kwaliteit halverwege zakt, en de gewoonte die het oplost.

    In bijna elke workshop vertelt iemand me trots dat die al weken in dezelfde chat werkt. ‘Zo leert hij me kennen.’ Ik snap de gedachte. Het voelt als een collega die steeds beter weet hoe jij werkt. Alleen klopt ze niet, en net daardoor wordt het antwoord na een tijdje slechter in plaats van beter.

    Onderaan dit artikel staat de prompt waarmee je een lange chat afrondt, zodat je proper opnieuw kunt beginnen.

    Een chat is geen leerproces

    Een taalmodel leert niet bij terwijl je met hem praat. Het voorspelt telkens opnieuw het volgende woord, op basis van wat er in zijn contextvenster zit. Dat contextvenster is zijn werkgeheugen: jouw vraag, de bestanden die je toevoegde, en het hele gesprek tot nu toe.

    5 min lezen