Publié le 2026-06-21 · numéros de référence, vérifier avant de budgétiser
Si votre application envoie la même longue invite système, les mêmes documents récupérés ou le même historique de discussion croissant à chaque appel, vous payez le prix fort pour relire le texte que le modèle a déjà vu il y a quelques secondes. Mise en cache rapide est la solution, et c'est la remise la plus importante sur les éléments de campagne que la plupart des équipes n'activent jamais. Bien fait, il réduit le coût des intrants de 50% à 90%. Voici comment cela fonctionne, les chiffres de 2026 et les domaines dans lesquels cela n’aide pas.
Une facture LLM est principalement jetons d'entrée × prix + jetons de sortie × prix. La mise en cache attaque la moitié d’entrée. Lorsque vous marquez une partie de l'invite comme pouvant être mise en cache, le fournisseur stocke son formulaire traité pendant une courte fenêtre ; lors du prochain appel qui réutilise exactement le même préfixe, vous êtes facturé fraction du taux d'entrée normal pour ces jetons au lieu du montant total. Le prix de sortie reste inchangé : la mise en cache ne réduit que la pièce que vous continuez à renvoyer.
| Fournisseur | Prix d'entrée mis en cache | Remarques |
|---|---|---|
| OpenAI | ~50 % de l'entrée | Automatique sur les invites longues, aucun changement de code |
| Anthropique (Claude) | ~ 10 % des entrées sur les lectures | Jusqu'à 90 % de réduction, mais environ 25 % de prime pour la première fois |
| Google Gémeaux | ~25 % de l'entrée | Mise en cache du contexte ; peut ajouter des frais de stockage minimes |
Supposons qu'un assistant d'assistance envoie un Invite système de 2 000 jetons + base de connaissances sur chaque message, plus environ 200 jetons de la question réelle de l'utilisateur, et renvoie environ 300 jetons de sortie. À raison de 10 000 conversations par mois, le bloc fixe de 2 000 jetons est renvoyé 10 000 fois. En utilisant un modèle à 2,50 $ / 1 M d'entrée :
Adaptez cela à 100 000 ou 1 million de conversations et le préfixe statique fait la différence entre une facture confortable et une facture alarmante. Plus votre contexte fixe est grand et répété, plus la mise en cache vaut la peine : les applications RAG et les agents à invite système longue en bénéficient le plus.
Mettez en cache lorsque vous renvoyez fréquemment et rapidement un bloc de contexte volumineux et identique : invites système, définitions d'outils, documents RAG, quelques exemples, long historique de discussion. Ne vous souciez pas des appels ponctuels, des invites très variables ou des charges de travail lourdes. Structurer l'invite statique en premier, variable en dernier, et la réduction est proche de l'argent gratuit. Mettez un numéro sur votre propre boîtier avec le calculateur d'économies de mise en cache rapide, et comparer les modèles sur le Calculateur de coût de l'API IA.
Généralement 50 à 90 % de réduction sur le prix d'entrée pour la partie mise en cache, selon le fournisseur. Il ne réduit que les jetons d'entrée répétés, pas les sorties.
Non, il s'agit d'une optimisation de facturation/latence : le modèle voit les mêmes jetons, vous payez simplement moins pour renvoyer le préfixe mis en cache. Les réponses sont inchangées.
Presque toujours la prime d'écriture (par exemple la surtaxe d'environ 25 % d'Anthropic pour créer le cache) sur les préfixes qui ne sont pas suffisamment réutilisés avant l'expiration, ou un préfixe qui modifie chaque appel afin qu'il ne soit jamais atteint. La mise en cache est payante grâce à une réutilisation fréquente et identique.
Estimations de référence : vérifiez toujours les remises et les frais sur la page de tarification officielle du fournisseur.