How do TPM and RPM limits interact?

Providers cap you on both tokens-per-minute (TPM) and requests-per-minute (RPM), and you hit whichever comes first. Small, frequent calls usually hit RPM; large-context calls hit TPM. Your real capacity is the lower of the two, so raising only the non-binding limit changes nothing.

How do I serve more users without hitting rate limits?

Lift the binding limit — request a higher tier for whichever one caps you, batch or combine small requests to ease RPM, and trim prompt size to ease TPM. Caching repeated context and routing overflow to a second key or model also spreads load beyond a single limit.

APICostCalc

Modèles d'IA Calculatrice Outils Apprendre API d'IA Cryptomonnaie Paiements Toutes les API 🔔 Alertes Blogue

Calculateur de capacité limite de débit

✓ Dernière vérification : 2026-07-15· Source : page officielle des tarifs du fournisseur· Auto-surveillé - signaler un changement →

Combien d’utilisateurs une limite de débit TPM/RPM peut réellement servir en même temps.

Limite de jetons (TPM)

Jetons par demande

Limite de requêtes (RPM)

Requêtes / utilisateur actif / min

—

utilisateurs simultanés

—demande effective/min

—limite contraignante

—jetons/min utilisés

Votre capacité est définie par la limite que vous avez atteinte en premier

TPM et RPM sont deux plafonds, et seul le plus bas compte – augmenter l’autre est un effort inutile. Prévoyez où le trafic vous pousse sur le Calculateur de prévision des coûts de l'API, et dimensionnez les jetons derrière chaque appel sur le Calculateur du coût des jetons LLM.

Hébergez votre projet :DigitalOcean — 200 $ gratuits ↗VPS Hostinger

Calculateur de limite de taux Calculateur du coût des temps d'arrêt de l'API Calculateur de gravure d'essai gratuit AI Calculateur des coûts excédentaires du plan API Coût des demandes simultanées

Échanges

Bybit Binance OKX KuCoin Bitget Porte.io MEXIQUE

Outils et hébergement

📈TradingView 🔒NordVPN 💳 Révolution Océan Numérique $200 Hébergeur

Comment fonctionne cette calculatrice

Calculateur gratuit de capacité de limite de débit : transformez une limite de débit d'API TPM et RPM en nombre d'utilisateurs actifs simultanés que vous pouvez servir avant que les demandes ne soient limitées.

Questions fréquemment posées

Comment les limites TPM et RPM interagissent-elles ?

Les fournisseurs vous limitent à la fois aux jetons par minute (TPM) et aux requêtes par minute (RPM), et vous appuyez sur la première éventualité. Les petits appels fréquents atteignent généralement RPM ; les appels à grand contexte atteignent le TPM. Votre capacité réelle est la plus faible des deux, donc augmenter uniquement la limite non contraignante ne change rien.

Comment puis-je servir plus d’utilisateurs sans atteindre les limites de débit ?

Supprimez la limite de liaison : demandez un niveau plus élevé pour celui qui vous plafonne, regroupez ou combinez de petites requêtes pour faciliter le RPM et réduisez la taille de l'invite pour faciliter le TPM. La mise en cache du contexte répété et le débordement de routage vers une deuxième clé ou un deuxième modèle répartissent également la charge au-delà d'une seule limite.