За явное кэширование контекста взимается дополнительная плата. почасовая плата за хранение пока кэшированный контент жив — помимо более дешевого чтения — налог, который обычные калькуляторы кэширования игнорируют. Это цены плата за хранение, объединяет его с читать сбереженияи сообщает вам минимальное чтение и максимальный срок службы в простое до того, как хранение съест всю пользу.
—
чистая экономия по сравнению с отсутствием кэша
—плата за хранение
—показатели безубыточности
—максимальный срок службы в простое
Чистая экономия, поскольку вы дольше поддерживаете кэш
Экономия на чтениях зависит от количества операций чтения, которые вы обслуживаете; только плата за хранение растет с возрастом. Каждая строка сохраняет одни и те же данные чтения, но имеет более длительный срок жизни — наблюдайте, как цвет сети меняется с зеленого на красный, как только хранилище превышает экономию. Выбранная вами жизнь отмечена; последний прибыльный ряд – это золотая середина.
Продолжительность жизни
Плата за хранение
Читать экономию
Сеть
Налог, который не учитывают кэширующие калькуляторы
В каждом руководстве по кэшированию подсказок звучит один и тот же заголовок: чтение из кэша стоит десятую часть обычного ввода, поэтому кэширование сокращает ваши счета на 90%. Это верно для чтения. Это еще не весь счет. Явное кэширование контекста — тип, при котором вы намеренно загружаете большой контекст и возвращаете его дескриптор для повторного использования — предполагает плату за хранение, которая рассчитывается по тактовой частоте, а не по мере использования. Gemini взимает примерно 4,50 доллара за миллион токенов в час за кэширование контента версии 2.5 Pro, поэтому контекст из 100 000 токенов, оставленный активным в течение дня, стоит около 10,80 долларов в хранилище, прежде чем кто-либо его прочитает. Для хорошо используемого кэша это нормально, потому что экономия на чтении затмевает это. В кэше, который в основном простаивает (документ, о котором кто-то может спросить, контекст, привязанный к щедрому времени жизни «на всякий случай»), строка хранения незаметно становится самой большой цифрой в счете, и кэш теряет деньги, хотя каждое чтение выглядит как выгодная сделка. Два вопроса, которые на самом деле решают это: сколько операций чтения вам нужно, прежде чем экономия покроет хранилище, и как долго вы можете оставить кэш активным, прежде чем счетчик превысит эту экономию. Этот калькулятор отвечает на оба вопроса. Если ваш контекст повторяется при каждом вызове, а не находится в явном кеше, оцените неявный случай с помощью быстрый калькулятор экономии кэширования; чтобы сопоставить короткую и длительную продолжительность жизни с показателем результативности, используйте TTL кэша и калькулятор скорости попадания; и чтобы увидеть, окупится ли когда-нибудь премия за запись, запустите калькулятор безубыточности при записи в кэш.
Он разбивает стоимость на три строки. Хранилище — это кэшированные токены (в миллионах), умноженные на время жизни в часах, умноженные на скорость хранения — они работают круглосуточно независимо от того, читаете вы или нет. путь без кэша это то, что вы заплатили бы без кэширования: каждое чтение оплачивает полную входную цену за весь контекст. путь к кэшу — это одна запись по полной входной цене плюс каждое чтение по более низкой цене кэширования плюс плата за хранение. Чистая экономия — это путь без кэша минус путь кеширования. показатели безубыточности — наименьшее количество чтений, при котором экономия на чтении покрывает плату за хранение; тот максимальный срок службы в простое — это максимальное время, в течение которого вы можете поддерживать работоспособность кеша при вашем счетчике чтений, прежде чем хранилище превысит экономию. Он предполагает одну запись в кэше в окне и игнорирует выходные токены запроса, которые одинаковы на обоих путях; Реальные цены на явный кэш и минимальный размер токенов варьируются в зависимости от поставщика, поэтому уточняйте их на официальной странице цен.
Часто задаваемые вопросы
Какова стоимость хранения контекстного кэша и почему она существует?
Явное кэширование позволяет один раз загрузить большой стабильный контекст и повторно использовать его с низкой ценой чтения вместо повторной отправки при каждом вызове. Но вы также платите почасовую плату за хранение в течение всего времени жизни кэша, независимо от того, используется он или нет. Gemini взимает около 4,50 долларов за миллион токенов в час на версии 2.5 Pro, поэтому кэш на 100 тысяч токенов в день стоит около 10,80 долларов в хранилище до любого чтения. Эта строка хранения является налогом, который обычные калькуляторы кэширования не учитывают.
Какова стоимость хранения контекстного кэша?
Ставка в долларах за миллион токенов в час, количество кэшированных токенов (в миллионах), количество часов работы. Gemini 2.5 Pro стоит ~4,50 доллара в месяц в час, Flash — ~1,00 доллара. Кэш на 100 тысяч токенов (0,1 М) на 24 часа в версии Pro составляет 0,1 × 24 × 4,50 = 10,80 доллара США. Это зависит от времени и размера, а не от использования — бездействующий кеш по-прежнему использует счетчик, в отличие от операций чтения, которые требуют затрат только при использовании.
Сколько операций чтения перед кэшированием большого контекста окупится?
Enough that the per-read savings (full input price minus cached price) exceed the fixed storage fee. For a 100k-token Gemini Pro context alive a day, that is roughly 98 reads before the savings cover the $10.80 storage — below that, caching costs more than paying full price each call. The calculator solves this minimum for your own size, prices and lifetime.
Когда бездействующий контекстный кеш начинает терять деньги?
Once its storage fee outgrows the read savings already banked. Storage accrues every hour, so for a given read count there is a maximum lifetime past which the cache flips from saving to burning. At 200 reads on a 100k Gemini Pro cache, the savings absorb ~49.7 hours of storage; keep it alive longer and you pay to store content whose benefit you already collected. Match the cache's time-to-live to real traffic, not caution.