Modèles les moins chers pour ce chatbot
Même trafic, chaque modèle classé par coût mensuel.
| Modèle | Coût / mois | Par conversation |
|---|
Pourquoi le coût du chatbot augmente plus vite que le nombre de messages
Le piège des chatbots est en vouloir à l'histoire. Pour rester cohérents, la plupart des robots envoient l’intégralité de la conversation avec chaque nouveau message. Ainsi, la 1ère réponse paie pour un message contextuel, la 10ème en paie neuf. Le nombre total de jetons d'entrée augmente à peu près avec le carré de la durée de la conversation – c’est pourquoi quelques très longues discussions peuvent dominer votre facture. Réduire ou résumer l’historique, limiter la durée des conversations et utiliser un modèle plus petit pour les tours de routine sont les principaux leviers. Essayez l'option « Historique résumé » ci-dessus pour voir la différence.
Par rapport aux humains ? Une courte conversation sur un petit modèle coûte souvent une fraction de centime, bien en dessous d’un ticket humain. Mais une longue discussion sur un modèle frontière avec un historique complet peut se rapporter à des dollars et à un coût humain. Le seuil de rentabilité ci-dessus vous indique où vous en êtes. Construire quelque chose de plus grand que le support ? Utilisez le Estimateur du coût des applications d'IA ou comparez les modèles en tête-à-tête sur le Calculateur de coût de l'API IA.