—vs à la demande
—effectif $/1M
—capacité utilisée
Prix effectif à mesure que le volume augmente
Le coût de réservation est fixe, de sorte que chaque jeton supplémentaire fait baisser le prix effectif par million – jusqu'à ce que vous atteigniez le plafond de capacité et que vous dépassiez les factures au tarif à la demande.
| Volume mensuel | Coût à la demande | Réservé en vigueur $/1M | Moins cher |
|---|
Réserver de la capacité uniquement au-dessus du seuil de rentabilité
Débit provisionné (PTU sur Azure OpenAI, débit provisionné sur AWS Bedrock) échange une facture par jeton contre une réservation mensuelle fixe de capacité dédiée. Il achète une latence prévisible et un coût forfaitaire, mais il n'économise de l'argent qu'une fois que votre volume stable de jetons atteint le seuil de rentabilité : le coût de réservation divisé par le prix à la demande par jeton. En dessous, vous payez pour les unités inutilisées ; au-dessus, le coût fixe s'étale sur un plus grand nombre de jetons et votre prix effectif par million continue de baisser, jusqu'au plafond de capacité d'unités × jetons par minute × minutes dans le mois. Dépassez le plafond et les factures excédentaires au plein tarif à la demande, érodant ainsi discrètement la remise. Dimensionnez la réservation en fonction du volume que vous êtes sûr d'utiliser chaque mois, prévoyez la croissance sur le Calculateur de prévision des coûts de l'API, et comparez un engagement de dépenses sur le calculateur de remise sur les dépenses engagées.
Questions fréquemment posées
Qu’est-ce que le débit provisionné et quand en vaut-il la peine ?
Débit provisionné (Azure OpenAI l'appelle PTU, AWS Bedrock l'appelle débit provisionné) signifie louer une capacité de modèle dédiée pour un tarif mensuel fixe au lieu de payer par jeton. Vous réservez un certain nombre d'unités, chacune capable de générer un nombre défini de jetons par minute, et vous payez le même montant, que vous l'utilisiez pleinement ou non. Il ne gagne que lorsque votre volume constant de jetons est suffisamment élevé pour que la facture équivalente avec paiement à l'utilisation dépasse la réservation. En dessous de ce seuil de rentabilité, vous payez pour la capacité inutilisée ; au-dessus, chaque jeton supplémentaire est effectivement gratuit jusqu'à ce que vous atteigniez le plafond de débit.
Comment puis-je trouver le seuil de rentabilité d’une réservation PTU ?
Divisez le coût mensuel total de réservation par le prix à la demande par jeton. Cela donne le nombre de jetons pour lequel le paiement à l'utilisation coûterait exactement le même prix que la réservation. Traitez moins de jetons que cela et la demande est moins chère ; traitez davantage et la réservation gagne - jusqu'au plafond de capacité, qui correspond aux unités multipliées par les jetons par minute multipliées par les minutes dans un mois. Ce calculateur affiche à la fois le volume de jetons d'équilibre et votre utilisation de la capacité afin que vous puissiez voir si vous sous-utilisez la réservation ou si vous êtes sur le point de manquer de marge.
Que se passe-t-il si je dépasse ma capacité provisionnée ?
Les demandes au-delà des jetons réservés par minute sont soit limitées, soit, sur la plupart des plateformes, elles se répercutent sur une tarification à l'utilisation pour l'excédent. Cela convient généralement pour de courtes périodes, mais si votre demande moyenne dépasse régulièrement votre capacité, vous payez le plein tarif à la demande sur le débordement en plus de la réservation fixe, ce qui efface la remise. Le calculateur vous signale lorsque votre volume mensuel est supérieur à la capacité réservée afin que vous sachiez qu'il faut ajouter des unités ou laisser le débordement à la demande délibérément plutôt que par accident.