2026-08-07 公開 · 参照番号、予算編成前に確認してください
OpenAI、Anthropic、Gemini はすべて同じ取引を行っています。リクエストの代わりにジョブを送信し、最大 24 時間待機し、支払いは約半分です。同じモデル、同じ重量、同じ出力品質 - 唯一変わるのは、答えが現れるときだけです。チームはこれをボリュームの決定として扱い、ワークロードが問題になるほど大きくなったらオンにします。そうではありません。それは相互作用による決定であり、サイズとは関係ありません。
3 つの主要なプロバイダーはすべて同じ方法でバッチ処理します。つまり、プロンプトのファイルをアップロードし、ジョブは 24 時間以内に非同期で実行され、トークンごとの価格は標準の同期レートの約 50% になります。これは、作業を実行する小さいモデルや愚かなモデルではありません。それは、リアルタイムで生成されるものと同じ出力を生成する同一のモデルです。節約は、手を抜くことではなく、スケジューリングによってもたらされます。プロバイダーはトラフィックの急増に備えてリアルタイムの容量を保持しており、アイドル状態のヘッドルームは高価です。代わりに、予備容量が存在するときはいつでもバッチ ジョブを実行できるため、プロバイダーはその効率の一部を返します。
計算の形を理解するのに電卓は必要ありません。標準レートで 200 ドルかかるジョブは、同じ出力に対して、バッチ エンドポイント経由では 100 ドルかかります。一度実行したワークロードでは、これは優れた項目です。 1 年間毎晩実行するワークロードでは、実際の予算項目と丸め誤差の差になります。
100 万の短いドキュメント (それぞれ 500 個の入力トークンと 20 個の出力トークン) を、100 万トークンあたり 2.50 ドル / 10.00 ドルの参照レートに対して分類します (入力/出力。参考価格。予算を立てる前にモデルの実際のレートを確認してください)。
| パス | 投入コスト | 出力コスト | 合計 |
|---|---|---|---|
| 同期（標準レート） | $1,250.00 | $200.00 | $1,450.00 |
| バッチ (~50% オフ) | $625.00 | $100.00 | $725.00 |
| 保存されました | $725.00 (50%) | ||
| 100 万ドキュメント × 500 入力/20 出力トークン。参考価格 — 独自の価格を設定します。 バッチ API 節約計算ツール. | |||
1 つの分類パスで 725 ドル節約できます。インデックス再作成パイプラインに対して同じジョブを毎晩実行すると、バッチ エンドポイントは最初の 1 週間で元が取れました。モデルが生成するものは何も変わらないため、出力品質の変化はゼロです。
すべてのプロバイダーのバッチ ドキュメントでは、「ターゲット」という同じ慎重な言葉が使用されています。 24 時間枠は SLA ではありません。ジョブは頻繁に高速に (場合によっては数分で) 終了しますが、それを強制するものはなく、迅速な処理を前提として構築されたパイプラインは、最終的には何の手段もなく何時間も待機することになります。非常に大きなバッチでは、サイズやレートの制限に達する可能性もあります。つまり、本当に巨大なジョブを 1 つではなく複数の送信に分割する必要があり、最初は必要のなかった同期呼び出しのオーケストレーションが追加される可能性があります。
何も待っていない仕事には、そんなことは関係ありません。人がスピナーを見つめている仕事にとって、それは完全に重要です。これが実際の分かれ目です。「このワークロードが十分に大きいかどうか」ではなく、「現在、この応答で何かがブロックされているかどうか」です。
音量のしきい値をスキップします。 1 つ質問してください。この特定の応答を同期的に待っているのは人間ですか、それともダウンストリーム システムですか? 「いいえ」の場合、夜間の埋め込みバックフィル、一括再分類、誰もリアルタイムで見ていないドキュメントのバックログなど、バッチは無料の 50% カットに近いので、完全に受け入れてください。 「はい」の場合、チャットボットの返信、ライブ検索結果、ローディング スピナーの背後に表示されるあらゆるものは、紙面でどれだけのボリュームが正当化されるかに関係なく、バッチはまったくアクセスできる割引ではありません。仕事の規模が決定に加わることはありません。何かが待機しているかどうかのみが影響します。
これは、同じアプリケーションが両方のパスを同時に使用できることも意味します。ユーザーが見ているライブ チャット ターンについては同期、その日にチャットに触れたすべてを再埋め込む夜間ジョブについてはバッチです。同期側の価格を設定します。 プロンプトキャッシュ節約計算ツール それが繰り返しコンテキストのワークロードであり、バッチ側で バッチ API 節約計算ツール — 彼らは同じ法案の異なる部分を解決しているのです。何がバッチ ジョブとしてカウントされるか、およびどのプロバイダーが何をサポートするかの仕組みについては、を参照してください。 バッチAPIの説明;パイプラインが実際に待機に耐えられるかどうかについては、 バッチ処理時間計算ツール 再生側に直接価格を設定します。
方法論: 最大 50% のバッチ割引と 24 時間のターゲット ウィンドウは、2026 年 8 月時点で OpenAI、Anthropic、および Gemini が公開しているバッチ API 条件を反映しています。実際の例では、単一プロバイダーの正確な現在の価格ではなく、丸く明確にラベル付けされた参照レート (100 万トークンあたり $2.50/$10.00) を使用しています。予算を立てる前に、モデルの実際の同期レートとバッチ レートを確認してください。この例は、実稼働システムからのテレメトリではなく、割引がどのように拡大するかを示すことを目的とした構築されたシナリオです。