How much energy does one LLM API call use?

For a mid-sized model producing a few hundred output tokens, published operator estimates put a single short request in the region of a few tenths of a watt-hour — roughly what a laptop draws in twenty seconds. The number is dominated by output tokens, because generation runs the whole model once per token while prefill processes the input in parallel at a small fraction of the per-token cost. That is why this calculator prices input tokens at about a tenth of the output rate, and why a long prompt with a short answer is far cheaper in energy than a short prompt with a long answer.

Why do reasoning models have such a bigger carbon footprint?

Because the hidden reasoning trace is output. A reasoning model that thinks for two thousand tokens before writing a two-hundred-token answer has generated 2,200 tokens of output, not 200, and every one of them cost a full forward pass through a large model. Switching a workload from a mid-sized model to a long-chain-of-thought model at the same request volume typically multiplies energy by an order of magnitude, which is visible immediately in the model-class comparison table on this page. It is also why the cheapest carbon reduction available to most teams is routing easy requests away from the reasoning tier rather than changing anything about infrastructure.

Does the data centre region really change my AI carbon footprint?

More than any other single lever. Grid carbon intensity spans roughly 40 grams of CO2e per kilowatt-hour in nuclear- and hydro-heavy grids such as France and Sweden to over 600 grams in coal-heavy grids — a factor of fifteen for identical compute. Running the same workload in a low-carbon region cuts emissions by well over 90% without touching a line of code, whereas efficiency work on the model itself rarely delivers more than a factor of two or three. PUE matters too but has a much narrower spread, since modern hyperscale sites cluster between 1.1 and 1.2 while older enterprise rooms sit closer to 1.6.

AI Inference Energy & Carbon Calculator (2026)

AI推論エネルギー＆炭素計算機

✓ 最終確認日: 2026-07-23· グリッドファクター: 全国平均発電強度· 修正を提案する →

持続可能性レポートでは数値を要求され、プロバイダーのダッシュボードからドルが提供されます。これにより、毎月のトークン量がキロワット時と CO2e キログラムに変換され、入力と出力が適切に分割され、地域の選択とモデルクラスが実際に合計にどのような影響を与えるかを示します。

出力トークンが請求書となります。 生成では、トークンごとに完全な前方パスが実行されます。 prefill は、トークンごとのエネルギーの約 10 分の 1 でプロンプト全体を並列処理します。長いプロンプトと長い応答は、短いプロンプトと長いプロンプトよりもはるかにコストがかかります。また、推論モデルの隠されたトレースは出力としてカウントされます。

すべてのモデルクラスで同じワークロード

リクエストの量とトークンの形状が同じで、異なる層にルーティングされます。推論層への移行は増分的ではありません。これは、推論炭素予算において制御可能な単一の最大の要素です。

モデルクラス

Wh / 1k出力tok

kWh/月

kg CO2e/月

電力コスト/月

どの地域でも同じワークロード

同一のコンピューティング、同一のエネルギー - グリッドのみが変更されます。これは、地域を選択できるプロバイダーを利用している人が利用できる最も安価な排出量削減です。

地域

g CO2e / kWh

kg CO2e/月

t CO2e / 年

あなたの地域との比較

トークンの合計よりも入出力の分割が重要な理由

AI のエネルギーを推定しようとするほぼすべての試みでは、トークンの合計にトークンごとの単一の数値が乗算されますが、これは重要な点で間違っています。 Transformer の推論には、コストプロファイルがまったく異なる 2 つのフェーズがあります。 Prefill は 1 つの高度な並列パスでプロンプト全体を読み取るため、1,500 トークンのプロンプトのコストは、最新のサービススタックでは 150 トークンのプロンプトよりもわずかに高くなります。デコードでは一度に 1 つのトークンが生成され、それぞれのトークンがモデルの重みを完全に通過する必要があるため、出力の長さはエネルギーをほぼ線形にスケールします。実際的な結果は、プロンプトにより多くのコンテキストを詰め込むのは比較的安価で、モデルをランブルさせるのは高価であるということです。これは、ほとんどのチームが最初に抱く直感とは正反対であり、プロバイダーも入力に対して割引料金を請求しますが、10 倍には遠く及ばないため、価格シートの形成方法とは真逆です。

推論層は足跡が消える場所です

推論モデルの思考軌跡が出力されます。目に見える答えとまったく同じようにデコーダーを通過しますが、ユーザーに到達することはありません。 2,000 個のトークンの審議後に 200 個の可視トークンを生成するリクエストは 2,200 個のトークンを生成し、そのモデルも中間層の代替モデルよりもトークンあたり 1 桁大きい場合、リクエストあたりのエネルギーは、同じタスクに直接応答する場合よりも 50 倍高くなる可能性があります。上記のモデルクラステーブルを独自のボリュームで実行すると、算術演算は非常に複雑になります。これは、最も扱いやすい手段でもあります。単純なリクエストをより小さな層にルーティングし、必要なケースのために推論を保留することで、請求額とフットプリントの両方を一度に削減します。と取引できるサイズモデルルーティングの節約計算ツール、そして、思考トークンがドル換算でいくらかかるかを確認してください。推論トークンコスト計算ツール.

エネルギーは支払う金額の次の四捨五入誤差です - それがポイントです

デフォルトの数値を実行すると、数千単位の API 請求に対して、200 万の中間層リクエストの背後にある電力は数十ドルかかります。それを救うためにプロバイダーを切り替える人は誰もいません。とにかくそれを計算する理由は、エネルギーコストとは異なり、炭素数は最終的にはCSRDまたは顧客アンケートの開示で擁護可能でなければならず、サプライヤーがサービス単位あたりの排出量を尋ねられる調達の会話で使用されることが増えているためです。対象となるのは地域の行です。低炭素グリッド内の同一のコンピューティングは、石炭を多く使用するグリッドでの排出量の 15 分の 1 を排出します。これは、モデルをいくら最適化しても匹敵しません。開示義務自体があなたをここに導いた原因である場合は、周囲のガバナンスプログラムに、 EU AI 法のコンプライアンスコスト計算ツール.

この計算機の仕組み

毎月のトークン量をキロワット時とキログラムの CO2e に換算します。モデルクラス、データセンターリージョン、および PUE を比較し、推論トークンによってフットプリントがどのくらい増加するかを確認し、オフセットの価格を決定します。

よくある質問

1 回の LLM API 呼び出しで使用されるエネルギーはどれくらいですか?

数百の出力トークンを生成する中規模モデルの場合、公開されているオペレーターの推定値では、単一のショートリクエストはワット時数の 10 分の 1 程度になります。これはラップトップが 20 秒で消費する量とほぼ同じです。生成ではモデル全体がトークンごとに 1 回実行され、プリフィルではトークンごとのコストのごく一部で入力が並列処理されるため、この数は出力トークンによって占められます。これが、この計算機が入力トークンの価格を出力レートの約 10 分の 1 で設定している理由であり、短い応答を持つ長いプロンプトの方が、長い応答を持つ短いプロンプトよりもエネルギーがはるかに安い理由です。

推論モデルの二酸化炭素排出量がこれほど大きくなるのはなぜですか?

隠された推理痕跡が出力されるからです。 200 トークンの答えを書く前に 2,000 トークンについて考える推論モデルでは、200 トークンではなく 2,200 トークンの出力が生成され、それらのそれぞれに大規模なモデルを通過する完全な前方パスのコストがかかります。同じリクエスト量でワークロードを中規模モデルから長期思考連鎖モデルに切り替えると、通常、エネルギーが 1 桁増加します。これは、このページのモデルクラス比較表ですぐに確認できます。ほとんどのチームが利用できる最も安価な二酸化炭素削減が、インフラストラクチャに関するものを変更するのではなく、簡単なリクエストを推論層から遠ざけることである理由もここにあります。

データセンターのリージョンによって AI の二酸化炭素排出量は本当に変わりますか?

他のシングルレバーよりも優れています。グリッドの炭素強度は、フランスやスウェーデンなどの原子力および水力発電の多いグリッドでは 1 キロワット時あたり約 40 グラムの CO2e から、石炭の多いグリッドでは 600 グラムを超えます。これは、同一のコンピューティングの場合、15 倍になります。低炭素地域で同じワークロードを実行すると、コード行に一切触れずに排出量が 90% をはるかに超えて削減されますが、モデル自体の効率化作業によって 2 ～ 3 倍以上の効果が得られることはほとんどありません。 PUE も重要ですが、最新のハイパースケールサイトは 1.1 ～ 1.2 の間に集中しているのに対し、古いエンタープライズルームは 1.6 に近いため、その広がりははるかに狭いです。