量の増加に伴う実効価格
予約コストは固定されているため、追加のトークンごとに、容量の上限に達してオンデマンド料金で請求がオーバーフローするまで、実質的な 100 万あたりの価格が下がります。
| 月間ボリューム | オンデマンドのコスト | 予約済み実効 $/1M | より安い |
|---|
損益分岐点を超える場合のみ予約容量を確保する
プロビジョニングされたスループット — Azure OpenAI 上の PTU、AWS Bedrock 上のプロビジョニングされたスループット — は、トークンごとの請求を専用容量の固定月次予約に置き換えます。これにより、予測可能なレイテンシーと定額コストが得られますが、コストを節約できるのは、安定したトークン量が損益分岐点 (予約コストをトークンあたりのオンデマンド価格で割った値) をクリアした場合のみです。その下では、アイドル状態のユニットに対して支払いが発生します。それを超えると、固定コストがより多くのトークンに分散され、100 万あたりの実効価格は、ユニットの容量上限 × 1 分あたりのトークン数 × 月の分まで下がり続けます。完全なオンデマンド料金で上限とオーバーフロー請求書を超えて、静かに割引を侵食します。毎月使用すると確信できるボリュームに合わせて予約のサイズを設定し、予約の増加を予測します。 APIコスト予測計算ツールで支出コミットメントを比較します。 確約支出割引計算ツール.