Why is average agent cost not enough to budget?

Agent loops have high step-count variance. A task that averages 8 steps might occasionally need 25. If you cap at the average, 5% of runs get cut off early or spike your bill. P95/P99 planning gives you a safety margin for real worst-case costs.

What is a good max_steps budget for an AI agent?

Set max_steps at your P99 step count: avg_steps + 2.33 × step_std. This caps 99% of normal runs while letting them complete. Any agent exceeding this limit is likely stuck in a loop — a hard stop here saves money without harming normal runs.

How do parallel agent workers multiply cost?

Parallel workers each run full agent loops independently. Cost scales linearly: 10 workers = 10× the per-run cost. The P99 for the entire fleet is higher because at least one of 10 workers is very likely to hit a long run.

What is a runaway agent loop?

A runaway loop is when an agent repeatedly calls tools or itself without making progress — often due to a planning error or an unreachable goal. Without a max_steps cap, a single runaway can cost 10–100× a normal run. Always enforce a hard step cap in production.

How do I calculate P99 cost for an agent?

Assuming steps follow a roughly normal distribution: P99 steps ≈ avg_steps + 2.33 × step_std. P99 cost = P99_steps × tokens_per_step × (input_price + output_price) / 1M. This calculator does that math and also shows daily fleet budget.

Calculateur de budget de boucle d'agent IA — Coût par exécution P50/P95/P99

Pourquoi le coût moyen n'est pas un bon budget

Les boucles d'agent n'exécutent pas un nombre fixe d'étapes : elles s'exécutent jusqu'à ce que la tâche soit terminée ou qu'un plafond soit atteint. Un agent de codage qui effectue en moyenne 8 appels d'outils peut atteindre 25 lors d'un refactoring délicat. Si vous budgétisez uniquement pour la moyenne, ces exécutions à longue traîne échoueront en cours de tâche ou feront exploser votre facture mensuelle.

Budget P95 : couvre 95 courses sur 100. Idéal pour les tâches non critiques où des redémarrages occasionnels sont acceptables.

Budget P99 : couvre 99 des 100 courses. Idéal pour les agents de production où les tâches incomplètes sont coûteuses.

Cap Max_steps = P99 : Si un agent s'exécute toujours à son nombre d'étapes P99, il est presque certainement bloqué dans une boucle. Un plafond strict met ici fin à l’emballement des coûts sans interrompre les achèvements normaux.

Comparez avec Calculateur du coût des agents IA, coût par ticket résolu, et Planificateur de budget API.

Comment fonctionne cette calculatrice

Le Calculateur de budget de boucle d'agent IA estime ce que coûte l'exécution d'un seul agent et dans quelle mesure ce coût varie lorsque le nombre d'étapes est incertain. Vous entrez les étapes moyennes par exécution et un écart type d'étape, les jetons d'entrée et de sortie consommés à chaque étape, ainsi que les prix d'entrée et de sortie par million de jetons. L'outil multiplie les jetons par prix sur le nombre d'étapes attendu et modélise l'écart, en créant des rapports P50, P95 et P99 coût par exécution, plus les totaux quotidiens de vos exécutions par jour et le nombre de travailleurs parallèles. Les principaux facteurs sont la variance du nombre de pas, les jetons de sortie (généralement le côté le plus cher) et le nombre d'exécutions que vous effectuez.

Le compromis clé à surveiller est le queue. Une boucle dont le coût moyen est modeste peut néanmoins produire des exécutions rares qui dépassent largement la moyenne, de sorte que la budgétisation sur le seul P50 sous-estime les dépenses réelles. Limites de taille et alertes contre P95 ou P99, et plafonnez le nombre maximum d'étapes afin qu'une boucle incontrôlable ne puisse pas multiplier tranquillement votre facture.

Questions fréquemment posées

Pourquoi le coût moyen d’un agent n’est-il pas suffisant pour budgétiser ?

Les boucles d'agent ont une variance élevée du nombre de pas. Une tâche qui comporte en moyenne 8 étapes peut parfois en nécessiter 25. Si vous plafonnez à la moyenne, 5 % des exécutions seront interrompues plus tôt ou augmenteront votre facture. La planification P95/P99 vous offre une marge de sécurité pour les coûts réels les plus défavorables.

Qu'est-ce qu'un bon budget max_steps pour un agent IA ?

Définissez max_steps sur votre nombre de pas P99 : avg_steps + 2,33 × step_std. Cela couvre 99 % des exécutions normales tout en les laissant se terminer. Tout agent dépassant cette limite est probablement bloqué dans une boucle : un arrêt brutal permet d'économiser de l'argent sans nuire aux exécutions normales.

Comment les agents parallèles multiplient-ils les coûts ?

Les travailleurs parallèles exécutent chacun des boucles d’agent complètes indépendamment. Le coût évolue de manière linéaire : 10 travailleurs = 10 × le coût par exécution. Le P99 pour l'ensemble de la flotte est plus élevé car au moins un travailleur sur 10 est très susceptible d'être touché à long terme.

Qu’est-ce qu’une boucle d’agent incontrôlée ?

Une boucle incontrôlable se produit lorsqu'un agent appelle à plusieurs reprises des outils ou lui-même sans progresser, souvent en raison d'une erreur de planification ou d'un objectif inaccessible. Sans plafond max_steps, une seule fugue peut coûter 10 à 100 fois une course normale. Appliquez toujours un plafond de marche strict en production.

Comment calculer le coût P99 pour un agent ?

En supposant que les pas suivent une distribution à peu près normale : P99 pas ≈ avg_steps + 2,33 × step_std. Coût P99 = P99_steps × tokens_per_step × (input_price + output_price) / 1M. Cette calculatrice fait ce calcul et affiche également le budget quotidien de la flotte.