キャッシュは再利用に賭ける
キャッシュされたプレフィックスは、有効期限が切れる前に再度ヒットした場合にのみ有効になります。ビジー状態の共有システム プロンプトの場合は、これが確実です。時々通話する場合は、キャッシュしない場合よりもコストがかかる可能性があります。この計算ツールは、損益分岐点がどこにあるのかを正確に示します。プレーンと比べてみる プロンプトキャッシュ節約計算ツール そして 一括節約.
実際にコストを節約するためにプロンプト キャッシュに必要な再利用の回数 (書き込みプレミアム、読み取り割引、5 分間の TTL が含まれます)。
キャッシュされたプレフィックスは、有効期限が切れる前に再度ヒットした場合にのみ有効になります。ビジー状態の共有システム プロンプトの場合は、これが確実です。時々通話する場合は、キャッシュしない場合よりもコストがかかる可能性があります。この計算ツールは、損益分岐点がどこにあるのかを正確に示します。プレーンと比べてみる プロンプトキャッシュ節約計算ツール そして 一括節約.
無料のプロンプトキャッシュ損益分岐点計算ツール — キャッシュ書き込みプレミアムおよび安価なキャッシュ読み取りにより、キャッシュが効果を発揮するまでの再利用回数 (TTL を含む) を計算します。
キャッシュでは、プレフィックスの書き込みに 1 回限りのプレミアム (Anthropic でのベース入力の約 1.25 倍) が課金され、その後、ベースの約 10% で読み取りが請求されます。十分な再利用による割引が書き込みプレミアムを上回ると、多くの場合、わずか 1 回か 2 回のヒットで損益分岐点になります。それ未満の場合、または再利用前にキャッシュの有効期限が切れた場合 (デフォルトの TTL は 5 分)、書き込みプレミアムは無駄になります。
存続時間は、キャッシュされたプレフィックスがウォーム状態を維持する時間です。デフォルトでは 5 分ですが、書き込みコストが高くなると、さらに長い 1 時間のオプションもあります。再利用するたびにリセットまたは拡張されます。リクエストの間隔が TTL よりも離れている場合、呼び出しのたびにキャッシュが再書き込みされ、安価な読み取りではなくプレミアム料金を繰り返し支払うことになり、節約効果が失われます。