Кэш помогает только в том случае, если следующий запрос опережает время. Если средний интервал простоя между запросами составляет г минут, а TTL кэша равен Т минут, устойчивая частота попаданий равна 1 - е−Т/г. 5-минутный кеш и 1-часовой кеш для одного и того же кода могут иметь совершенно разные показатели попадания исключительно из-за времени — и за промах приходится платить надбавку за запись, а не за дешевое чтение.
Без кеша, 5 минут или 1 час TTL
Тот же трафик, три стратегии. Частота попаданий рассчитывается на основе вашего простоя; за промах платится надбавка за запись (1,25× за 5 минут, 2,0× за 1 час), за попадание – за скорость чтения.
| Стратегия | Скорость попадания в кэш | Стоимость/запрос | Стоимость / месяц | против отсутствия кеша |
|---|
Почему процент попаданий — это проблема времени, а не догадка
Оперативное кэширование счетов в трех состояниях: запись в кэш (первый раз, когда префикс появляется или после истечения его срока действия) с премией к базовой цене токена, чтение кэша (приставка еще жива) с большой скидкой, а простые некешированные токены по полной цене. В какое состояние вы попадете по тому или иному запросу, решает одно: произошел ли предыдущий запрос достаточно недавно, чтобы кэшированный префикс все еще был жив? Смоделируйте интервал простоя между запросами как без памяти (стандартное предположение для независимых поступлений) и вероятность того, что разрыв короче, чем TTL. Т это точно 1 - е−Т/г, где г это ваш средний разрыв. Это ваш показатель попадания. Вот почему бот службы поддержки, обрабатывающий одно сообщение каждые несколько минут, получает высокий показатель попадания в 1-часовой кеш, но плохой — в 5-минутный кеш, выполняя идентичный код.
Компромисс 5 минут против 1 часа
1-часовой кеш не строго лучше — его использование обходится дороже. писать (около 2,0 × базовое против 1,25 × для 5-минутного уровня). Вопрос в том, сохранит ли более длительный срок службы достаточно дорогостоящих ошибок, чтобы оплатить более дорогие операции записи. Когда ваш перерыв в простое невелик по сравнению с пятью минутами (плотные всплески), дешевая 5-минутная запись уже дает вам почти 100% процент попаданий, а 1-часовая надбавка — пустая трата. Когда ваш разрыв составляет несколько минут, 5-минутный кеш постоянно истекает и повторно оплачивает запись почти при каждом запросе, в то время как 1-часовой кеш остается теплым — поэтому, несмотря на более высокий множитель записи, 1-часовой уровень оказывается дешевле. Кроссовер полностью зависит от вашего г, поэтому предположение о фиксированном проценте попаданий вводит вас в заблуждение. Этот инструмент находит пересечение ваших чисел.
Что изменилось в 2026 году и как на это реагировать
Когда провайдер сокращает время жизни кэша по умолчанию — широко распространенное изменение примерно с часа до пяти минут — любая рабочая нагрузка с разнесенными запросами незаметно переходит от преимущественного чтения к преимущественной записи, а счета растут на 30–60% без изменения кода. Работают два варианта ответа: поддерживать кеш в тепле с помощью легкого запроса контрольного сигнала в более коротком окне или явно выбрать уровень с более длинным TTL, когда надбавка за запись окупается. Решите, какой из них, запустив реальный интервал простоя и объем запросов, указанный выше, а затем сравните с быстрый калькулятор экономии кэширования для просмотра с фиксированным процентом попаданий и калькулятор безубыточности при записи в кэш для одноразового случая повторного использования.
Как работает этот калькулятор
Он вычисляет частоту попаданий в кэш в устойчивом состоянии как 1 − e^(-T/g) на основе среднего интервала простоя g и TTL T каждого уровня (5 минут или 60 минут), а затем оценивает каждый запрос как смесь операций чтения (попаданий) и записи (промахов) в кэше, а также некэшированных токенов по полной цене. Он сравнивает уровень без кэша, 5-минутный уровень и 1-часовой уровень и сообщает о самом дешевом уровне для вашего трафика и объема.
Часто задаваемые вопросы
Как мне узнать свою реальную частоту попаданий в кэш запросов?
Вы получаете его от того, как часто поступают запросы, и от продолжительности жизни кеша. При среднем интервале простоя в g минут и TTL кэша в T минут, частота попаданий в устойчивом состоянии равна 1 − e^(−T/g). Один и тот же код может иметь вероятность попадания 10% в 5-минутном кэше и 95% в 1-часовом кэше исключительно из-за времени.
Стоит ли 1-часовой кэш подсказок более высоких затрат на запись?
Это зависит от вашего простоя. Кэш, рассчитанный на 1 час, записывает со скоростью ~2× по сравнению с ~1,25× за 5 минут, но более длительный TTL позволяет избежать дорогостоящих промахов. Запросы с интервалом в несколько минут обычно отдают предпочтение уровню в 1 час; короткие всплески с интервалом в несколько секунд подходят для более дешевой 5-минутной записи.
Почему мой счет за оперативное кэширование вырос в 2026 году?
Потому что время жизни кэша по умолчанию стало короче. Увеличение стандартного TTL с ~1 часа до ~5 минут приводит к тому, что любой трафик с перерывами в простое продолжительностью более нескольких минут пропускает кеш и повторно платит надбавку за запись, незаметно увеличивая счета на 30–60% за разнесенные рабочие нагрузки.