Azure OpenAI コスト計算ツール

トークンの請求書は Azure の請求書ではありません

Azure OpenAI で最もよくある驚きは、トークンの見積もりよりも数倍大きい請求書であることです。これは、Azure OpenAI がマネージド エンタープライズ サービスであり、トークンが従量制のコアのみであるために発生します。彼らの周りには、トークン計算機では決して示されないコスト、つまり有料のコストが横たわっています。 サポートプラン (開発者、スタンダードまたはプロフェッショナル ダイレクト、月額約 100 ドルから 1,000 ドル以上)、 プライベートネットワーキング そしてエンドポイント、 データ出力、ロギングとストレージ、そして — 容量を予約している場合 — アイドル状態の PTU 使用するかどうかに関係なく、時間に対して料金が発生します。すべてをカウントすると、チームは日常的に、本番環境の Azure OpenAI が生のトークン ラインを 20 ～ 40% 上回って実行していることを発見します。この計算ツールを使用すると、オーバーヘッドを事前に指定して上に追加するため、計画した数値が請求される数値になります。

トークン側では、Azure は直接 OpenAI API とまったく同じように、入力の場合は 100 万単位のレート、出力の場合はより高いレートで料金を請求します。アウトプットが主であり、フラッグシップ層ではインプットの数倍の価格が設定されているため、プロンプトのサイズよりも応答の長さが請求額を大きく左右します。現実的な入出力の長さと月次ボリュームを入力すると、ツールがトークンのコストをオーバーヘッドから分離するため、どのレバーが実際に合計を動かすのかを確認できます。

従量課金制 vs PTU: 境界線はどこにあるのか

Azure では、同じモデルを購入する 2 つの方法が提供されています。 従量課金制 トークンごとの請求 — 使用した分だけ支払います。量が多い、または中程度の量の場合に最適です。あ プロビジョンド スループット ユニット (PTU) トークンごとの料金なしで、月額固定価格 (ユニットあたり約 2,000 ドル以上) で容量の固定スライスを予約します。ボリュームが多く、安定していて、遅延に敏感な場合に最適です。トレードオフは単純です。PTU が安くなるのは、同等の従量課金制トークンの請求額が PTU の固定価格を超えた場合のみです。それ以下では、使用しない容量に対して料金を支払うことになります。このツールは、推定トークンコストと入力した PTU 価格を比較し、ボリュームでどのプランが勝てるのか、そしてクロスオーバーからどのくらい離れているかを示します。

Azure のオーバーヘッドが決定要因である場合は、同じモデルに価格を設定する価値があります。 直接OpenAI API または AWS の基盤 ルートと確認 最安の LLM API プロバイダー全体で。単一モデルのトークン計算の場合、 LLM トークンコスト計算ツール はこのページとよく合います。その上に製品を構築している場合は、余白を AIラッパー価格計算ツール.

使い方

1. モデルを選択し、月間リクエスト量を入力してください。
2. リクエストごとに一般的な入力トークンと出力トークンを入力します。
3. サポート、ネットワーキング、下りから予想されるオーバーヘッドの割合を設定します (運用環境では 20 ～ 40% が一般的です)。
4. PTU の月額料金を入力して、容量の予約が従量課金制を上回るかどうかを確認します。

よくある間違い

トークンコストを合計として予算化します。 サポート、ネットワーキング、および下りは別個の項目であり、オーバーヘッドとして追加します。 PTU の予約が早すぎます。 損益分岐点を下回ると、アイドル状態の容量に対して料金がかかります。使用量が多く安定するまでは従量課金制を維持します。 入力のみで推定します。 生産高は高価な半分です。現実的な応答長を使用します。 サポート層を無視します。 必須の有料サポート プランは、それだけで少額のトークンの請求額を超える場合があります。

よくある質問

見積もりの​​み。 Azure OpenAI の価格と PTU サイズの変更 - 予算を立てる前に Microsoft に現在の料金を確認してください。