What does an AI gateway actually charge for?

An AI gateway or LLM router sits between your app and the model providers, giving you one API for many models, automatic fallback, caching, logging and spend controls. It pays for that by adding cost in one of three ways: a percentage markup on the underlying token price, a flat fee per request, or a monthly platform subscription — and some combine all three. A pure percentage markup scales directly with your token spend, so it stays cheap on light traffic but grows without limit as you scale. A per-request fee punishes high request counts with small payloads. A flat monthly fee is fixed regardless of volume, so it is expensive when you are small and negligible once you are large. This calculator adds up whichever apply and shows the real overhead.

Is a gateway markup worth paying?

It depends on what the overhead buys you and how big it is. On low volume, a few percent markup is trivial and the reliability, unified billing and instant model-switching are easily worth it. At scale the same percentage can become thousands of dollars a month, at which point self-hosting an open-source proxy such as LiteLLM and calling providers directly often pays for an engineer's time many times over. The decision hinges on the effective markup this tool reports: compare that annual figure against the engineering cost of running your own routing and caching.

How do I cut gateway overhead without losing the features?

Route only the traffic that needs the gateway's features through it and send high-volume, stable calls directly to the provider. Turn on caching so repeated prompts never reach the metered path. Watch for gateways that mark up cached tokens at the full rate. And once your percentage-based overhead crosses the cost of a self-hosted open-source proxy, migrate the heavy routes off the paid gateway while keeping it for the long tail of models you rarely call. The cumulative overhead table below shows exactly when that crossover is worth the migration effort.

Calculateur de balisage AI Gateway

✓ Dernière vérification : 2026-08-15· Source : page officielle des tarifs du fournisseur· Auto-surveillé - signaler un changement →

Les routeurs LLM et les passerelles de revendeur ajoutent une majoration en pourcentage, des frais par demande ou des frais de plate-forme forfaitaires en plus des prix bruts des jetons. Découvrez les frais généraux mensuels réels, la majoration effective et ce que la commodité vous coûte par an par rapport aux appels directs des fournisseurs.

La couche commodité a un prix qui évolue avec vous

Une passerelle LLM achète des choses réelles – une API chez de nombreux fournisseurs, un repli automatique lorsqu'un modèle est en panne, une mise en cache, une journalisation et des limites de dépenses centralisées – et les facture sous la forme d'un pourcentage de majoration sur les jetons, de frais par demande, de frais de plate-forme mensuels fixes ou d'un mélange. Le piège est qu'un pourcentage de majoration est invisible lorsque vous êtes petit et énorme lorsque vous êtes grand : 5 % sur une facture de 200 $ est une erreur d'arrondi, mais 5 % sur une facture de 40 000 $ représente le salaire annuel d'un ingénieur à temps plein, dépensé pour une fonctionnalité que vous pourriez auto-héberger avec un proxy open source. Ce calculateur sépare le coût brut du fournisseur de la réduction de la passerelle afin que vous puissiez voir la majoration effective et les frais généraux annuels en un seul endroit, puis décider itinéraire par itinéraire. Comparez les prix bruts des jetons sur le comparaison de prix des modèles, récupérez les dépenses liées aux invites répétées avec mise en cache rapide, et modéliser l'ensemble de la facture sur le Calculateur du coût de la pile API.

Comment fonctionne cette calculatrice

Le Calculateur de balisage AI Gateway calcule le coût mensuel total du routage de votre trafic LLM via une passerelle ou un routeur de revendeur tel qu'OpenRouter, Portkey, Helicone ou LiteLLM cloud, et sépare ce total entre le coût du fournisseur sous-jacent et le supplément que vous payez pour la passerelle en plus. Cela commence par votre demandes mensuelles multiplié par le jetons d'entrée et de sortie par requête, évalue ces jetons chez le fournisseur taux d'entrée et de sortie par million, puis des couches sur les trois façons dont les passerelles ajoutent des coûts : a majoration en pourcentage appliqué à la dépense symbolique, un frais par demande qui évolue avec le volume d'appels, et un frais de plateforme forfaitaires facturé chaque mois. Les principaux facteurs déterminants sont le volume de vos demandes et le nombre moyen de jetons, car ceux-ci définissent les dépenses de base sur lesquelles chaque pourcentage et chaque frais par demande sont calculés.

Le principal compromis à surveiller est le comportement de chaque type de frais à mesure que vous évoluez. UN majoration en pourcentage augmente en proportion directe de vos dépenses en jetons, il devient donc le coût dominant pour les charges de travail à jetons ou à volume élevé, tandis qu'un frais par demande cela fait le plus mal lorsque vous envoyez de nombreux petits appels avec quelques jetons chacun. UN frais de plateforme forfaitaires est le contraire : cela n'a guère d'importance en cas de volume élevé, mais peut constituer l'élément de campagne le plus important pour un petit projet. Un conseil pratique consiste à saisir votre trafic réaliste, puis à comparer le coût supplémentaire de la passerelle avec ce que vous paieriez directement au fournisseur, car les fonctionnalités de commodité, de routage et d'observabilité offertes par une passerelle n'en valent la peine que si la majoration reste faible par rapport à vos dépenses de base.

Questions fréquemment posées

Que facture réellement une passerelle IA ?

Une passerelle IA ou un routeur LLM se situe entre votre application et les fournisseurs de modèles, vous offrant une API pour de nombreux modèles, un repli automatique, une mise en cache, une journalisation et des contrôles des dépenses. Il paie cela en ajoutant le coût de l'une des trois manières suivantes : une majoration en pourcentage sur le prix du jeton sous-jacent, un montant forfaitaire par demande ou un abonnement mensuel à la plateforme – et certains combinent les trois. Une majoration en pourcentage pur s'adapte directement à vos dépenses en jetons, de sorte qu'elle reste bon marché sur un trafic léger mais augmente sans limite à mesure que vous évoluez. Des frais par requête punissent un nombre élevé de requêtes avec de petites charges utiles. Un forfait mensuel est fixé quel que soit le volume, il est donc cher lorsque l'on est petit et négligeable une fois que l'on est grand. Cette calculatrice additionne selon les cas et affiche les frais généraux réels.

Une majoration de passerelle vaut-elle la peine d'être payée ?

Cela dépend de ce que vous rapportent les frais généraux et de leur importance. Sur un faible volume, une majoration de quelques pour cent est insignifiante et la fiabilité, la facturation unifiée et le changement instantané de modèle en valent facilement la peine. À grande échelle, le même pourcentage peut atteindre des milliers de dollars par mois, auquel cas l'auto-hébergement d'un proxy open source tel que LiteLLM et les appels directs des fournisseurs payent souvent plusieurs fois le temps d'un ingénieur. La décision dépend du balisage efficace rapporté par cet outil : comparez ce chiffre annuel au coût d'ingénierie lié à l'exécution de votre propre routage et de votre mise en cache.

Comment puis-je réduire les frais généraux de la passerelle sans perdre les fonctionnalités ?

Acheminez uniquement le trafic qui a besoin des fonctionnalités de la passerelle et envoyez des appels stables et à grand volume directement au fournisseur. Activez la mise en cache afin que les invites répétées n’atteignent jamais le chemin mesuré. Surveillez les passerelles qui balisent les jetons mis en cache au tarif plein. Et une fois que vos frais généraux basés sur un pourcentage dépassent le coût d'un proxy open source auto-hébergé, migrez les routes lourdes hors de la passerelle payante tout en les conservant pour la longue traîne de modèles que vous appelez rarement. Le tableau des frais généraux cumulés ci-dessous montre exactement quand ce croisement vaut l'effort de migration.