Le prix de chaque millier d’appels API selon la taille de votre jeton.
Un seul appel coûte une fraction de centime – ce qui n’a aucun sens tant que vous ne multipliez pas par le volume. Le coût pour 1 000 rend lisibles les différences entre les modèles. Estimation complète de la charge de travail sur le Estimateur du coût des applications d'IA.
Le Calculateur de coût pour 1 000 demandes transforme votre utilisation de jetons par requête et les prix des jetons de votre modèle en coût en dollars pour mille appels d'API. Vous entrez quatre valeurs : jetons d'entrée par requête, jetons de sortie par requête, le prix d'entrée par million de jetons, et le prix de sortie par 1 million de jetons. L'outil multiplie chaque nombre de jetons par son taux par million correspondant, additionne les côtés d'entrée et de sortie pour obtenir le coût d'une seule demande, puis l'augmente de 1 000. Le résultat est un chiffre unique et comparable (coût pour 1 000 requêtes) sur lequel il est bien plus facile de raisonner que des fractions de centime par appel.
Cela est important car les factures d'API évoluent en fonction du volume et d'un coût par requête qui regarde trivial devient significatif une fois que vous le multipliez par le trafic réel. Le principal compromis à surveiller est que les jetons de sortie coûtent généralement plusieurs fois plus que les jetons d'entrée, donc une réponse verbeuse peut dominer le total même lorsque votre invite est courte. Avant de vous engager dans un modèle, exécutez vos tailles de jetons réalistes via la calculatrice et comparez un modèle moins cher à un modèle plus cher pour le même volume ; Réduire la longueur de sortie ou plafonner les jetons de réponse réduit souvent le coût par 1 000 davantage que le fait de changer de fournisseur.
Coût par demande = jetons d'entrée × prix d'entrée + jetons de sortie × prix de sortie (par million). Multipliez par 1 000 pour obtenir le chiffre pour mille : l'unité dans laquelle la plupart des budgets API sont raisonnés.
Les coûts par demande représentent d’infimes fractions de centime difficiles à comparer. Le pour 1 000 est l’échelle où les différences entre les modèles deviennent évidentes et budgétisées.