Plafond de dépenses et arrêt d’urgence pour un agent IA

Un agent sans limites, c’est une carte bancaire confiée à un stagiaire ultra-rapide qui ne dort jamais. La plupart du temps, tout va bien. Le jour où un outil renvoie une erreur que l’agent ne comprend pas, il réessaie, lit l’erreur, réessaie encore et continue jusqu’à épuisement de votre solde d’API.

Je fais tourner beaucoup d’agents et ma règle est simple : aucun agent ne passe en ligne sans plafond de dépenses, limite d’étapes et interrupteur d’arrêt. Aucun n’est difficile à ajouter. C’est de les sauter qui coûte cher.

Pourquoi les agents dépensent trop

Un script classique fait la même quantité de travail à chaque fois. Un agent décide de la quantité de travail à faire, et c’est tout l’intérêt. C’est aussi le risque. Quatre causes expliquent presque toutes les factures qui explosent :

1. Les boucles de nouvelle tentative. Un outil échoue, l’agent réessaie avec une entrée légèrement différente, échoue encore et recommence.
2. Le contexte qui grossit. Chaque étape s’ajoute à la conversation, donc chaque appel coûte plus cher que le précédent. Une exécution de 40 étapes coûte bien plus que 40 fois une exécution d’une étape.
3. La multiplication des tâches. L’agent lance des sous-tâches, qui en lancent d’autres.
4. Un déclencheur trop fréquent. Une tâche planifiée ou un webhook entrant s’exécute 500 fois au lieu de 5.

J’ai détaillé les chiffres du coût par appel dans AI agent cost math. Cet article parle du plafond, pas de la moyenne.

Limite 1 : un plafond de dépenses ferme

Fixez deux chiffres pour chaque agent : un maximum par exécution et un maximum par jour.

Choisissez-les selon la valeur du travail. Si un agent trie votre boîte de réception et vous fait gagner vingt minutes par jour, il ne doit pas pouvoir dépenser 40 $ en une seule exécution. Un bon point de départ est cinq fois le coût d’une exécution normale. Si une exécution typique coûte 20 centimes, plafonnez-la à 1 $ et la journée à 10 $. Vous relèverez le plafond la première fois qu’il bloquera un travail légitime, ce qui est un bon problème.

Deux endroits pour l’appliquer :

• Chez le fournisseur. Définissez une limite de dépenses mensuelle dans la console Anthropic ou OpenAI. C’est votre filet de sécurité et cela prend deux minutes. Il bloque le pire scénario même si votre propre code est faux.
• Dans votre code. Tenez le compte des tokens consommés pendant une exécution, convertissez-le en dollars et arrêtez-vous quand le plafond par exécution est dépassé. Stockez le total du jour dans un endroit durable pour qu’un redémarrage ne le remette pas à zéro.

Limite 2 : un nombre maximal d’étapes

Une limite d’étapes est la protection la plus simple et attrape les boucles que le plafond en dollars repère trop tard. Décidez du nombre maximal d’étapes d’une exécution saine, ajoutez une marge et arrêtez-vous là.

Si votre plus longue exécution normale utilise 12 appels d’outils, fixez la limite à 25. Quand l’agent l’atteint, ne le laissez pas continuer en silence. Terminez l’exécution, consignez la raison et envoyez-vous un message. Une exécution qui atteint la limite d’étapes est un rapport de bug, et vous voulez le lire.

La même idée vaut pour les appels identiques répétés : si l’agent fait trois fois de suite le même appel avec la même entrée, arrêtez-le. C’est une boucle, pas un progrès.

Limite 3 : un interrupteur d’arrêt sans déploiement

Quand quelque chose tourne mal à 2 h du matin, vous ne voulez pas modifier du code, recompiler et redéployer. Vous voulez actionner un interrupteur.

Un interrupteur d’arrêt est un simple indicateur que l’agent consulte au début de chaque étape, pas seulement au début d’une exécution. Si l’indicateur dit stop, l’agent s’arrête. L’endroit où il se trouve compte moins que la possibilité de le modifier depuis votre téléphone : une clé dans un magasin clé-valeur, une ligne dans une base de données ou une variable d’environnement que votre plateforme vous laisse modifier sans redéployer.

Soignez ces détails :

• Consultez-le souvent. Un indicateur lu uniquement au démarrage ne peut pas arrêter une exécution en cours.
• Rendez l’arrêt sûr. L’agent doit terminer ou annuler l’action en cours, pas laisser un e-mail à moitié envoyé ou un rendez-vous à moitié réservé.
• Échouez en mode fermé. Si l’agent ne peut pas lire l’indicateur, il s’arrête. Un magasin d’indicateurs en panne ne doit pas signifier des dépenses illimitées.
• Testez-le une fois. Actionnez l’interrupteur sur une copie de préproduction et regardez l’agent s’arrêter. Un interrupteur jamais testé n’est qu’un espoir.

J’ai traité un contrôle voisin, l’étape d’approbation, dans human-in-the-loop agents. Les validations bloquent les mauvaises actions. Les plafonds bloquent les mauvaises dépenses. Il vous faut les deux.

Ajoutez des alertes pour être prévenu le premier

Les limites protègent votre budget, mais vous devez quand même savoir quand elles se déclenchent. Envoyez un message à 50 % et 80 % du plafond quotidien, et chaque fois qu’une exécution est coupée par la limite d’étapes ou l’interrupteur. Puis lisez-les. Une alerte que vous avez appris à ignorer ne vaut rien : si l’une se déclenche en permanence, corrigez la cause ou ajustez la limite.

Si vous journalisez aussi chaque étape avec un identifiant de trace, vous voyez exactement quelle exécution a brûlé l’argent. Je décris cette configuration dans how to debug an AI agent in production.

Un prompt pour ajouter les trois limites

Inutile de l’écrire vous-même. Ouvrez Claude dans le dossier qui contient le code de votre agent et collez ceci :

Read my agent's code. Add three safety limits and show me every file you change:
1. A per-run and per-day spending cap, computed from token usage. Read the limits
   from configuration, and stop the run with a clear logged reason when either is hit.
2. A maximum step count per run, plus a stop if the same tool is called with the same
   input three times in a row.
3. A kill switch: a flag checked before every step that stops the agent safely.
   If the flag can't be read, the agent must stop.
Then list what you assumed about where the flag should live, and give me a short
checklist to test each limit on a non-production copy.

Avant de vous fier au résultat, vérifiez trois choses : que le calcul en dollars utilise les prix actuels de votre modèle (le modèle peut les inventer), que l’indicateur est lu à chaque étape et que vous avez déclenché chaque limite une fois pour la voir agir. Les modèles écrivent volontiers un plafond qui ne se déclenche jamais.

Commencez avec les chiffres les plus stricts que vous pouvez supporter

Posez des limites serrées dès le premier jour et assouplissez-les à partir de preuves. Un plafond qui bloque une exécution légitime vous coûte quelques minutes. L’absence de plafond peut vous coûter un mois de budget en une nuit. Mettez les limites en place avant que l’agent ne touche quoi que ce soit de réel, et le reste du projet devient bien plus serein.