Cette page a été traduite du néerlandais à l'aide de l'IA.
Après la pause, il vaut mieux commencer un nouveau chat
Vous travaillez sur un rapport avec votre IA depuis toute la matinée. Tout se passe bien, le chat est devenu long et votre IA sait maintenant exactement où vous voulez en venir. Puis, c'est l'heure de midi. Vous allez manger, vous faites la vaisselle et vous passez dire bonjour à un collègue. Une heure plus tard, vous êtes de retour derrière votre écran et vous tapez encore une petite question dans ce même chat.
Cette question semble être la plus petite de la journée. Et pourtant, c'est en fait la plus chère. Je l'explique à chaque fois dans mes formations sur Claude et Copilot, car presque personne ne le sait. Et heureusement, c'est facile à résoudre.
Copiez le prompt au bas de cet article. Il vous permet de demander à votre IA d'écrire un transfert avant votre pause.

Ce qui se passe pendant que vous mangez
Chaque fois que vous demandez quelque chose dans un chat, votre IA relit tout le chat. Toutes vos questions et toutes ses réponses, ainsi que les documents que vous avez fournis. En réalité, cela coûte des tokens à chaque fois. Donc, plus le chat est long, plus chaque nouvelle question coûte cher.
Pour que cela reste un peu abordable, Claude, ChatGPT et Gemini placent cette partie du chat dans un cache. C'est une sorte d'aide-mémoire en arrière-plan. Tant qu'il est là, le modèle n'a pas besoin de tout reprendre depuis le début. Mais conserver un tel cache coûte aussi de l'argent au fournisseur. Ils l'effacent donc après un certain temps. Selon votre outil et vos paramètres, cela se produit après quelques minutes ou après une heure.
Chez moi, cela se passe à peu près comme ça. Je suis occupée avec quelque chose et puis nous devons manger. Ensuite, il faut encore faire la vaisselle et nourrir les chiens et les chats. Une heure et demie plus tard, je suis de retour sur mon chat. Et à ce moment-là, le cache a disparu depuis longtemps. Mes animaux me coûtent donc aussi des tokens, et pour être honnête, je n'avais pas calculé cela lorsqu'ils sont venus vivre avec nous.
Votre IA doit alors repasser tout ce chat par sa fenêtre de contexte. Dans certains outils, vous voyez alors brièvement apparaître 'refreshing session'. C'est le moment où votre abonnement ou votre budget en prend un coup.

Questions fréquentes
Continuez à lire gratuitement
Inscrivez-vous gratuitement avec votre adresse e-mail pour continuer la lecture. Votre compte vous ouvre les articles gratuits de l'espace d'apprentissage ; la suite est réservée aux abonnés, à partir de Learn Plus.
Consultez votre boîte mail
0 appréciationsPas encore de réactionsLire les réactions
Commentaires
Les membres réagissent ici et lisent les réactions des autres. Inscrivez-vous gratuitement ou connectez-vous pour participer.
Inscription gratuite ou connexionPas encore de commentaires. Que retenez-vous ?