Cette page a été traduite du néerlandais à l'aide de l'IA.

Dites aussi à votre agent ce qu'il ne peut pas faire

Vous donnez une mission claire à votre agent et vous partez du principe qu'il comprendra le reste par lui-même. Je comprends ce réflexe. Pourtant, dans mes ateliers, je raconte souvent l'histoire d'une personne qui a donné accès à une carte de crédit à un agent IA. La mission était claire : réserver le vol le moins cher pour Bali. L'agent n'a plus trouvé de sièges classiques et a réservé un billet en classe affaires auprès d'une compagnie aérienne onéreuse. Techniquement, c'était l'option la moins chère disponible. Quelques milliers d'euros plus tard, le propriétaire a compris ce qui s'était mal passé.

N'hésitez pas à copier le prompt au bas de cet article, vous pourrez ainsi rédiger immédiatement les limites pour votre propre agent.

Cartoon
Vertel je agent ook wat hij niet mag doen: grenzen in de instructies van je AI-agent

L'agent a fait exactement ce qui lui a été demandé

Ce qui est douloureux dans cette histoire, c'est que l'agent n'a en fait rien fait de mal. Il a reçu un objectif, il avait les moyens et il a exécuté la tâche. Ce qui manquait, c'était un cadre. Personne n'avait dit que la classe affaires n'était pas une option, et aucun budget maximum n'était indiqué nulle part. Personne n'avait non plus demandé de se concerter avant de payer.

Dans l'atelier, je le dis ainsi : c'est vous qui déterminez ce qu'il peut et ne peut pas faire. Si vous ne lui donnez pas ce cadre, il fera ce qu'il peut faire. Et un agent ayant accès à votre boîte mail et à votre agenda, ainsi qu'à vos moyens de paiement, peut faire beaucoup de choses. Vous pensez probablement déjà à une tâche pour laquelle vous aimeriez utiliser un tel agent. Peut-être vous demandez-vous ce qui pourrait mal tourner dans ce cas.

Questions fréquentes

Quelles limites dois-je de préférence inclure dans les instructions de mon agent IA ?

Je commencerais par les actions que vous ne pouvez pas annuler, comme payer ou supprimer, ou envoyer quelque chose en votre nom. Laissez l'agent faire d'abord une proposition et attendre votre accord. Ajoutez également un montant maximum et indiquez quels dossiers et outils il peut utiliser.

Quel niveau d'accès dois-je donner à un agent IA ?

Juste ce dont il a besoin pour cette tâche spécifique. Un agent qui gère votre planning n'a pas besoin d'accéder à votre comptabilité. Plus le terrain de jeu est petit, plus les dégâts seront limités si quelque chose tourne mal.

Que doit faire un agent IA en cas de doute ?

Je mettrais dans ses instructions : en cas de doute, demandez-moi. Pour vous, de nombreuses limites sont évidentes, mais pour un agent, une limite n'existe que si elle est écrite. Avec cette seule phrase, il s'arrête et pose d'abord la question.

Où puis-je m'exercer à construire un agent avec de bonnes limites ?

Dans AI-agents : construisez votre propre collègue numérique, vous vous exercez de manière pratique, avec votre propre travail, à construire un agent et à rédiger ses instructions. Claude AI Power User : automatisez vos workflows s'y prête également. Vous trouverez toutes les dates et les inscriptions sous Workshops & Events.

Continuez à lire gratuitement

Inscrivez-vous gratuitement avec votre adresse e-mail pour continuer la lecture. Votre compte vous ouvre les articles gratuits de l'espace d'apprentissage ; la suite est réservée aux abonnés, à partir de Learn Plus.

Vous avez déjà un compte ? Pas encore de compte ?

Pas encore de réactionsLire les réactions

Commentaires

Les membres réagissent ici et lisent les réactions des autres. Inscrivez-vous gratuitement ou connectez-vous pour participer.

Inscription gratuite ou connexion

Pas encore de commentaires. Que retenez-vous ?

    QR code de cette page

    coachsteff.live/fr/wat-je-agent-niet-mag

    Scannez avec votre téléphone pour ouvrir la page.