Le piège avec les agents : une tâche qui ressemble à une seule question représente en réalité 5 à 20 appels LLM. Un chatbot répond une fois. Un agent raisonne, appelle des outils et relit son propre contexte croissant à chaque étape. Ainsi, le même modèle qui coûte une fraction de centime par message de discussion peut coûter 10 à 50 fois plus que par tâche d'agent. Cette calculatrice le multiplie correctement.
Modèles les moins chers pour cet agent
Même charge de travail, chaque modèle classé par coût mensuel.
| Modèle | Coût / mois | Par tâche |
|---|
Comment le coût de l'agent s'additionne réellement
La formule est tâches × étapes × (jetons d'entrée × prix d'entrée + jetons de sortie × prix de sortie). Le multiplicateur que les gens oublient est mesures: un agent de recherche peut prendre 12 boucles, un agent de codage 20+. Et comme la plupart des agents renvoient la conversation accumulée à chaque étape, saisir des jetons par échelon au fur et à mesure que la tâche avance — le nombre que vous entrez ci-dessus est la moyenne sur toute la boucle. Le résultat est généralement faible par étape (une brève réflexion ou un appel d'outil), c'est pourquoi l'entrée domine la facture de l'agent - et pourquoi la mise en cache rapide et la suppression du contexte sont plus importantes ici que partout ailleurs.
Comment le couper
Quatre leviers, par ordre d’impact : (1) routage du modèle — utiliser un petit modèle pour les étapes de routine et un modèle frontière uniquement pour les étapes difficiles ; (2) capuchon de marche — arrêter les boucles incontrôlées ; (3) découpage du contexte - ne renvoyez pas l'intégralité de l'historique à chaque étape ; (4) mise en cache rapide pour l'invite système statique et les définitions d'outils. Voir le guide de mise en cache rapide et le mise en cache du calculateur d'économies. Construire un chatbot au lieu d’un agent ? Utilisez le calculateur de coût de chatbot. L'application entière ? Le Estimateur du coût des applications d'IA. Exécuter plusieurs agents sur la même tâche : répartition, débat, superviseur ou modèles d'essaim ? Ce calculateur évalue un seul agent ; utiliser le Calculateur du coût des essaims d’agents IA pour voir le multiplicateur que ces modèles d'orchestration ajoutent en plus.