← Méthode PenserJour 4 · Méthode conceptuelle
04

Budgets, limites, garde-fous

Le contrôle financier et opérationnel. Tokens, disjoncteurs, portes d'approbation. Comment garder la main sans micro-manager.

Ce que vous apprendrez aujourd'hui

  • ›Pourquoi le contrôle des coûts est le premier réflexe d'un patron d'IA — pas le dernier
  • ›Les 3 mécanismes de contrôle : budget, disjoncteur, porte d'approbation
  • ›Comment fixer des limites sans paralyser vos agents
  • ›Le principe du fail-safe : quand quelque chose dérape, le système s'arrête — pas l'inverse

L'IA qui vous coûte sans que vous le sachiez

Chaque appel à un modèle IA coûte de l'argent. Pas beaucoup par requête — mais un agent autonome peut faire des centaines de requêtes par jour. Sans contrôle, c'est comme laisser un robinet ouvert : chaque goutte est insignifiante, la facture à la fin du mois ne l'est pas.

ScénarioCoût typique/moisRisque sans contrôle
1 agent, tâches simples10-30 €Faible
3 agents, tâches quotidiennes50-150 €Moyen — peut doubler sur un bug
5+ agents, autonomie élevée200-500 €Élevé — un agent en boucle peut coûter 1000 €/jour
Le scénario cauchemar : Un agent mal configuré qui tourne en boucle pendant un week-end. Personne ne surveille. Lundi matin : facture de 3000 €. C'est arrivé. C'est évitable. C'est pour ça que les garde-fous existent.

Les 3 mécanismes de contrôle

1. Le budget par agent

Chaque agent a une enveloppe. Comme un budget par service dans une vraie entreprise. Quand l'enveloppe est vide, l'agent s'arrête et vous prévient. Pas de dépassement silencieux.

  • ›Budget quotidien : pour les agents actifs tous les jours (ex: 5 €/jour)
  • ›Budget mensuel : pour le contrôle global (ex: 100 €/mois par agent)
  • ›Budget par tâche : pour les missions ponctuelles (ex: max 20 € pour cette analyse)

2. Le disjoncteur

Comme un disjoncteur électrique : quand le courant est anormal, ça coupe. Concrètement :

  • ›L'agent fait plus de X requêtes en Y minutes → pause automatique
  • ›Le coût d'une seule tâche dépasse un seuil → arrêt + notification
  • ›L'agent produit des résultats incohérents (détectés par un agent contrôleur) → escalade

3. La porte d'approbation

Certaines actions sont trop critiques pour être automatisées sans validation. La porte d'approbation met le processus en pause et vous demande votre accord :

  • ›Envoyer un email à un client → approbation requise
  • ›Modifier des données financières → approbation requise
  • ›Dépasser un budget de projet → approbation requise
  • ›Publier du contenu → approbation requise (au début, puis allégeable)
L'allègement progressif : Commencez avec beaucoup de portes d'approbation. Puis, quand vous avez confiance dans un agent, retirez-les une par une. C'est exactement ce que vous faites avec un nouvel employé : supervision rapprochée au début, autonomie croissante ensuite.

Le principe du fail-safe

Un système bien conçu est un système qui, en cas de problème, s'arrête plutôt que de continuer. C'est le principe du fail-safe.

SituationMauvaise réactionFail-safe
L'agent ne comprend pas la tâcheIl "invente" une réponseIl s'arrête et demande une clarification
Le budget est dépasséIl continue et vous paierezIl se met en pause et vous notifie
Le résultat semble incohérentIl le livre quand mêmeIl flag l'anomalie et attend validation
Il n'a pas accès à une donnée nécessaireIl fait sansIl signale le manque et attend
« Un système qui s'arrête quand il ne sait pas est infiniment plus fiable qu'un système qui continue quand il ne devrait pas. »

Points clés à retenir

  • ›Budget par agent : quotidien, mensuel, par tâche — comme un budget par service
  • ›Disjoncteur : coupe automatique en cas d'anomalie — pas de robinet ouvert
  • ›Portes d'approbation : validation humaine sur les actions critiques — allégeable avec la confiance
  • ›Fail-safe : en cas de doute, le système s'arrête — jamais il ne continue à l'aveugle

Questions du jour

  • [01]Pour chaque agent de votre organigramme (Jour 2), définissez un budget mensuel réaliste.
  • [02]Listez les 5 actions que vos agents ne doivent JAMAIS faire sans votre approbation.
  • [03]Identifiez 3 scénarios de dérapage possibles et le disjoncteur qui les empêcherait.
  • [04]Décidez : pour quel agent seriez-vous prêt à retirer les portes d'approbation en premier ?
TL;DR

Budget, disjoncteur, porte d'approbation : les 3 garde-fous d'une entreprise IA. Commencez strict, allégez progressivement. Le fail-safe est votre meilleur ami.