La trampa de los agentes: una tarea que parece una pregunta en realidad son entre 5 y 20 llamadas de LLM. Un chatbot responde una vez. Un agente razona, recurre a herramientas y relee su propio contexto en crecimiento en cada paso, por lo que el mismo modelo que cuesta una fracción de centavo por mensaje de chat puede costar entre 10 y 50 veces más por tarea de agente. Esta calculadora lo multiplica correctamente.
Modelos más baratos para este agente.
Misma carga de trabajo, cada modelo clasificado por costo mensual.
| Modelo | Costo / mes | Por tarea |
|---|
Cómo se acumulan realmente los costos de agente
La fórmula es tareas × pasos × (tokens de entrada × precio de entrada + tokens de salida × precio de salida). El multiplicador que la gente olvida es pasos: un agente de investigación puede necesitar 12 bucles, un agente de codificación más de 20. Y como la mayoría de los agentes reenvían la conversación acumulada en cada paso, fichas de entrada por paso suben a medida que avanza la tarea — el número que ingresa arriba es el promedio de todo el ciclo. El resultado suele ser pequeño por paso (un pensamiento breve o una llamada a una herramienta), razón por la cual la entrada domina la factura del agente – y por qué el almacenamiento en caché rápido y el recorte de contexto son más importantes aquí que en cualquier otro lugar.
como cortarlo
Cuatro palancas, en orden de impacto: (1) enrutamiento del modelo — utilizar un modelo pequeño para las medidas rutinarias y un modelo de frontera sólo para las más difíciles; (2) tapa de paso — detener los bucles fuera de control; (3) recorte de contexto — no reenvíes el historial completo en cada paso; (4) almacenamiento en caché rápido para el indicador del sistema estático y las definiciones de herramientas. Ver el guía de almacenamiento en caché rápida y el calculadora de ahorro de almacenamiento en caché. ¿Crear un chatbot en lugar de un agente? Utilice el calculadora de costos de chatbot. ¿Aplicación completa? El Estimador de costos de aplicaciones de IA. ¿Ejecutar a más de un agente en la misma tarea: distribución, debate, supervisor o patrones de enjambre? Esta calculadora fija el precio de un solo agente; utilizar el Calculadora de costos de enjambre de agentes de IA para ver el multiplicador que esos patrones de orquestación añaden.