Modelos más baratos para este chatbot
Mismo tráfico, todos los modelos clasificados por coste mensual.
| Modelo | Costo / mes | Por conversación |
|---|
Por qué el coste del chatbot crece más rápido que el número de mensajes
La trampa de los chatbots es resentir la historia. Para mantener la coherencia, la mayoría de los bots envían la conversación completa hasta el momento con cada mensaje nuevo. Entonces, la primera respuesta paga por un mensaje de contexto, la décima paga por nueve. El total de tokens de entrada crece aproximadamente con el cuadrado de la duración de la conversación, razón por la cual unas pocas charlas muy largas pueden dominar su factura. Recortar o resumir el historial, limitar la duración de la conversación y utilizar un modelo más pequeño para los turnos de rutina son las palancas más importantes. Pruebe la opción "Historial resumido" arriba para ver la diferencia.
¿Comparando con los humanos? Una breve charla sobre un modelo pequeño suele costar una fracción de centavo, muy por debajo de un billete humano. Pero una larga charla sobre un modelo fronterizo con una historia completa puede cruzar a dólares y superar el costo humano. El punto de equilibrio anterior le indica dónde se encuentra. ¿Construir algo más grande que soporte? Utilice el Estimador de costos de aplicaciones de IA o comparar modelos cara a cara en el Calculadora de costos de API de IA.