Un cache n'est utile que si la prochaine requête bat l'horloge. Si votre écart d'inactivité moyen entre les requêtes est g minutes et la durée de vie du cache est T minutes, le taux de réussite en régime permanent est 1 − e−T/g. Un cache de 5 minutes et un cache d'une heure sur exactement le même code peuvent avoir des taux de réussite très différents simplement en raison du timing - et un échec paie la prime d'écriture au lieu de la lecture bon marché.
Pas de cache contre 5 minutes contre 1 heure TTL
Même trafic, trois stratégies. Le taux de réussite est calculé à partir de votre écart d'inactivité ; un échec paie la prime d'écriture (1,25 × pour 5 minutes, 2,0 × pour 1 heure), un succès paie le taux de lecture.
| Stratégie | Taux de réussite du cache | Coût / demande | Coût / mois | vs pas de cache |
|---|
Pourquoi le taux de réussite est un problème de timing, pas une supposition
Mise en cache rapide des factures dans trois états : a écriture en cache (la première fois qu'un préfixe est vu, ou après son expiration) à un prix supérieur au prix du jeton de base, un lecture du cache (le préfixe est toujours en vie) avec une remise importante, et des jetons simples non mis en cache au prix fort. L'état dans lequel vous atterrissez pour une requête donnée est déterminé par une chose : la requête précédente s'est-elle produite suffisamment récemment pour que le préfixe mis en cache soit toujours actif ? Modélisez l'intervalle d'inactivité entre les requêtes comme étant sans mémoire (l'hypothèse standard pour les arrivées indépendantes) et la probabilité que l'intervalle soit plus court que le TTL. T est exactement 1 − e−T/g, où g est votre écart moyen. C'est votre taux de réussite. C'est pourquoi un robot de support traitant un message toutes les quelques minutes obtient un excellent taux de réussite sur un cache d'une heure, mais un faible taux sur un cache de 5 minutes, exécutant le même code.
Le compromis 5 minutes contre 1 heure
Le cache d'une heure n'est pas strictement meilleur : il coûte plus cher écrire (environ 2,0× de base contre 1,25× pour le niveau de 5 minutes). La question est de savoir si la durée de vie plus longue évite suffisamment d’échecs coûteux pour payer les écritures les plus coûteuses. Lorsque votre intervalle d'inactivité est faible par rapport à cinq minutes (rafales serrées), l'écriture bon marché de 5 minutes vous donne déjà un taux de réussite proche de 100 % et la prime d'une heure est un pur gaspillage. Lorsque votre intervalle dure quelques minutes, le cache de 5 minutes expire constamment et rembourse l'écriture sur presque chaque demande, tandis que le cache d'une heure reste chaud. Ainsi, malgré le multiplicateur d'écriture plus élevé, le niveau d'une heure finit par être moins cher. Le crossover dépend entièrement de votre g, c'est pourquoi deviner un taux de réussite fixe vous induit en erreur. Cet outil trouve le croisement de vos numéros.
Qu'est-ce qui a changé en 2026 et comment réagir
Lorsqu'un fournisseur réduit la durée de vie du cache par défaut (le passage largement ressenti d'environ une heure à cinq minutes), toute charge de travail avec des requêtes espacées passe silencieusement de la plupart des lectures à la plupart des écritures, et les factures grimpent de 30 à 60 % sans changement de code. Deux réponses fonctionnent : garder le cache au chaud avec une requête de battement de cœur légère dans la fenêtre la plus courte, ou opter explicitement pour un niveau TTL plus long lorsque la prime d'écriture est rentabilisée. Décidez lequel en exécutant votre véritable écart d'inactivité et le volume de demandes ci-dessus, puis comparez avec le calculateur d'économies de mise en cache rapide pour la vue à taux de réussite forfaitaire et le calculateur de seuil de rentabilité en écriture de cache pour le cas de réutilisation ponctuelle.
Comment fonctionne cette calculatrice
Il calcule votre taux de réussite du cache à l'état stable comme 1 − e^(−T/g) à partir de votre écart d'inactivité moyen g et du TTL T de chaque niveau (5 minutes ou 60 minutes), puis évalue chaque demande comme un mélange de lectures de cache (hits) et d'écritures de cache (manques) sur le préfixe mis en cache, plus les jetons non mis en cache au prix fort. Il compare le niveau sans cache, le niveau 5 minutes et le niveau 1 heure, et indique le niveau le moins cher pour votre trafic et votre volume.
Questions fréquemment posées
Comment puis-je connaître mon taux de réussite réel dans le cache d'invite ?
Vous le déduisez de la fréquence d’arrivée des demandes par rapport à la durée de vie du cache. Avec un intervalle d'inactivité moyen de g minutes et un TTL de cache de T minutes, le taux de réussite en régime permanent est de 1 − e^(−T/g). Le même code peut avoir un taux de réussite de 10 % sur un cache de 5 minutes et un taux de réussite de 95 % sur un cache d'une heure uniquement en raison du timing.
Le cache d'invite d'une heure vaut-il le coût d'écriture plus élevé ?
Cela dépend de votre espace d'inactivité. Le cache d'une heure écrit à environ 2 × de base contre ~ 1,25 × pendant 5 minutes, mais une durée de vie plus longue évite des erreurs coûteuses. Les demandes à quelques minutes d'intervalle privilégient généralement le niveau d'une heure ; des rafales serrées espacées de quelques secondes conviennent à l'écriture moins chère de 5 minutes.
Pourquoi ma facture de mise en cache rapide a-t-elle augmenté en 2026 ?
Parce que la durée de vie du cache par défaut est devenue plus courte. En déplaçant la durée de vie standard d'environ 1 heure à environ 5 minutes, tout trafic avec des intervalles d'inactivité de plus de quelques minutes manque le cache et rembourse la prime d'écriture, ce qui augmente discrètement les factures de 30 à 60 % pour les charges de travail espacées.