このワークロードのすべての Bedrock モデル
同じトークンとボリュームで、カタログ全体で価格が設定されており、最も安いものから順にランク付けされています。
| モデル | 入出力（1Mあたり） | リクエストに応じて | 毎月 |
|---|
Bedrock の請求の実際の仕組み
Amazon Bedrock は単一のモデルではなく、ゲートウェイです。 Claude、Amazon 独自の Nova ファミリー、Meta の Llama、Mistral、または Titan を 1 つの API 経由で呼び出し、それぞれが同じ方法で測定されます (100 万あたりの料金) 入力 トークン (システム プロンプト、コンテキスト、ユーザーのメッセージなど、送信するすべてのもの) および別個の (通常はより高い) 100 万あたりのレート 出力 トークン (モデルが生成するもの)。オンデマンドには毎月の最低料金はありません。あなたの請求額は純粋にトークン×レートです。ほとんどの見積もりが見落としている微妙な点は、お金が動くのはアウトプットだということです。Claude 層や Nova 層のインプットの価格よりも 2 ～ 5 倍高い価格が設定されているため、長い回答を書くおしゃべりなモデルのコストは、インプット レートが示すよりもはるかに高くなります。
この計算機はそれを可視化します。一般的なリクエストが送受信するトークンと月ごとのリクエスト数を入力すると、請求書が入力シェアと出力シェアに分割されるため、どちらを攻撃すべきかがわかります。次に、価格を設定します 同じ これは、大量の読み取りと少量の書き込みを行うサマライザーの最も安価なモデルが、長い出力を書き込むジェネレーターの最も安価なモデルではないためです。見出しの「100 万あたり」の数字が勝者を示すことはほとんどありません。トークンの組み合わせが勝者を示します。
岩盤の請求をカットする 3 つのレバー
1. モデルの選択。 深い推論を必要としないリクエストについては、フロンティアの Claude から Nova Lite または Llama にドロップすると、コストを 90% 以上削減できます。表は、ミックスにかかる費用を正確に示しています。難しいプロンプトは大きなモデルにルーティングし、簡単なプロンプトは安価なモデルにルーティングします。で分割のサイズを調整します モデルルーティング計算機. 2. バッチ推論。 作業がリアルタイムではない場合 (夜間のエンリッチメント、一括分類、評価)、Bedrock のバッチ モードはおよそ半額で実行されます。上の価格設定モードを反転して確認してください。 3. 即時のキャッシュ。 多くのリクエストが大きな固定プレフィックス (長いシステム プロンプト、ドキュメント、数ショットのサンプル) を共有する場合、その入力をキャッシュすると最大 90% 割引されます。キャッシュされた入力の割合を設定して節約をモデル化し、 プロンプトキャッシュ計算ツール.
Bedrock と直接 API
同じクロード モデルの場合、Bedrock と 直接人類API 通常は同じか、丸め誤差の範囲内です。したがって、選択は財務的なものではなく運用上のものです。推論を AWS アカウント、IAM、VPC 内に保持し、請求を統合し、1 つの統合を通じて Nova、Llama、Mistral、Titan にアクセスするには、Bedrock を選択してください。初日から最新モデルの直接 API と最も簡単なセットアップを選択してください。コストが問題のすべてである場合は、ここで勝者を比較してください。 最安の LLM API コミットする前にプロバイダー間で確認してください。
使い方
1. モデルを選択し、月間リクエスト量を入力してください。
2. リクエストごとに一般的な入力トークンと出力トークンを入力します (大まかな平均で問題ありません)。
3. オンデマンドまたはバッチを選択し、キャッシュ可能な入力の共有を設定します。
4. 月額コストとリクエストごとのコストを読み、表をざっと見て、より安価なモデルが同じジョブをカバーしているかどうかを確認します。
よくある間違い
入力トークンのみで推定します。 出力は高価な半分です。常に現実的な出力長を含めてください。 平均を使用して長い返信を非表示にします。 一部の応答が 5 倍長い場合、実際の請求額は平均を上回ります。最悪のケースもモデル化します。 フリーレバーを忘れています。 バッチとキャッシュは一度設定すれば済む節約機能ですが、多くのチームが有効にすることはありません。 周囲のコストは無視します。 データ転送、RAG のストレージ、およびプロビジョンド スループットのコミットメントはトークンごとの価格設定の範囲外にあり、個別に予算を立てます。
よくある質問
Bedrock には基本料金または月額料金がかかりますか?
いいえ、オンデマンド Bedrock は純粋なトークンごとの支払いであり、最低額はありません。プロビジョンド スループットを選択した場合は、固定金額のみを支払います。プロビジョンド スループットは、安定した高いワークロードに備えて、時間単位で容量を予約します。
Bedrock の最も安いモデルは何ですか?
Amazon の Nova Micro と Nova Lite はテキストの場合は最も安価で、トークン 1,000 個あたり 1 セントの数分です。 Llama 3.3 70B は強力な中間層の価値であり、Claude Haiku が最も安価な Claude です。この表は、正確なトークンの組み合わせに基づいてそれらをランク付けしています。
Bedrock でバッチを使用するとどれくらい節約できますか?
即時の応答を必要としないジョブの場合、オンデマンドと比較して約 50%。価格設定モードをバッチに切り替えて、ワークロードの違いを確認します。
コストを節約するためにモデルを混合できますか?
はい、簡単なリクエストを安価なモデルにルーティングし、難しいリクエストをフロンティア モデルにルーティングすることが、適切なデフォルトを選択した後の最大の手段となります。モデル ルーティングの節約計算ツールを使用して、混合コストを見積もります。
見積もりのみ。基盤価格は地域や変更によって異なります。予算を立てる前に AWS で現在の料金を確認してください。