How do I convert a TPM limit into requests per minute?

Divide the tokens-per-minute (TPM) limit by the tokens used per request (input + output). For example a 30,000 TPM limit with 1,500 tokens per request allows about 20 requests per minute from the token side. Your real ceiling is the smaller of that number and the separate requests-per-minute (RPM) limit — whichever you hit first is the binding limit.

Why am I getting 429 errors below my RPM limit?

Because most LLM APIs enforce two limits at once: requests per minute (RPM) and tokens per minute (TPM). Long prompts or large outputs blow the TPM budget long before you reach the RPM count, so you get 429 rate-limit errors even though your request count looks fine. This calculator shows which of the two limits binds for your token size.

How many concurrent users can one API key support?

Take your effective requests-per-minute ceiling and divide by how many requests each active user sends per minute. If a key allows 20 effective RPM and each user sends 2 requests per minute, that's about 10 concurrent active users before requests start queueing. Scale by moving to a higher usage tier, batching, or spreading load across keys.

Calcolatore del limite di tariffa LLM

✓ Ultima verifica: 15-08-2026· Fonte: pagina ufficiale dei prezzi del fornitore· Monitoraggio automatico — segnalare il cambiamento →

Le API LLM sono limitate due limiti contemporaneamente: richieste al minuto (RPM) e token al minuto (TPM). Inserisci i limiti di un modello e i tuoi token per richiesta per vedere quante richieste e utenti simultanei puoi davvero servire e quale limitare prima i morsi.

Perché due limiti e perché sono importanti

Tutti i principali fornitori di LLM (OpenAI, Anthropic, Google, Mistral) ti seguono richieste al minuto E gettoni al minuto contemporaneamente. Il problema è che il limite dei token è quello che la maggior parte delle persone dimentica. Un budget di 30.000 TPM sembra elevato finché non invii richieste di 4.000 token: si tratta solo di circa 7 richieste al minuto prima di iniziare a ricevere 429 Too Many Requests, anche se il limite RPM potrebbe consentirne centinaia. La soluzione non è quasi mai "invia più velocemente": si tratta di tagliare il contesto, limitare la lunghezza dell'output o aumentare il livello di utilizzo.

Questa calcolatrice fa la divisione per te. Prende sia i limiti che i tuoi token per richiesta, trova il tetto più piccolo e lo trasforma in qualcosa su cui puoi pianificare: utenti attivi simultanei. Se sai che ogni utente invia circa due richieste al minuto, il numero utente ti dice quante persone serve una chiave prima che le richieste vengano messe in coda. Quando ti trovi di fronte al muro, le opzioni oneste sono: rimpicciolire il prompt (spesso la leva più grande), accorciare max_tokens, lavori in batch non urgenti sul API batch asincronaoppure qualificarti per un livello superiore spendendo di più.

Una volta dimensionato il throughput, stabilisci il prezzo: the Calcolatore del costo del token LLM trasforma quei gettoni in dollari e il Stima dei costi delle app AI modella l'intera fattura in base al conteggio degli utenti. Costruire un prodotto di chat? IL calcolatore dei costi del chatbot collega il volume delle conversazioni sia ai costi che alla velocità effettiva.

Come usarlo

1. Scegli un livello preimpostato o digita i limiti RPM e TPM dalla dashboard del tuo fornitore.
2. Inserisci i token di input e output utilizzati da una richiesta tipica (anche l'output viene conteggiato ai fini del TPM).
3. Imposta il numero di richieste inviate da un utente attivo al minuto.
4. Leggi le richieste effettive al minuto, gli utenti simultanei e quale limite rappresenta il collo di bottiglia.

Errori comuni

Contare solo i token di input. Anche i token di output vengono fatturati e hanno una velocità limitata: un modello loquace con risposte lunghe brucia velocemente il TPM. Dimensionamento al limite RPM. Se i tuoi prompt sono grandi, TPM ti limita prima; il numero di giri è irrilevante. Supponendo che il limite sia fisso. I livelli aumentano automaticamente man mano che la tua spesa cresce, quindi un muro oggi potrebbe essere eliminato il mese prossimo. Ignorando gli scoppi. I limiti sono medie al minuto ma vengono applicati in periodi brevi, quindi il traffico intenso raggiunge 429 secondi al di sotto della media.

Solo stima. I limiti di tariffa sono cifre di riferimento e variano in base al fornitore, al modello e al livello dell'account: verifica nella dashboard.

Come funziona questa calcolatrice

IL Calcolatore del limite di tariffa LLM calcola la quantità di throughput che il tuo livello API può effettivamente sostenere, piuttosto che un costo in dollari. Inserisci un modello Limite giri/min (richieste al minuto) e Limite TPM (token al minuto), quindi il tuo gettoni di input E token di output per richiesta. Li combina per mostrare il tuo tetto effettivo: poiché ogni richiesta consuma sia uno slot di richiesta che un budget di token, lo strumento segnala il più basso dei due limiti e lo traduce in richieste supportabili al minuto e, utilizzando il tuo richieste per utente al minuto, una stima di utenti simultanei. Un livello preimpostato opzionale riempie i limiti tipici pubblicati.

Ciò è importante perché i team spesso valutano la capacità solo in base all'RPM e vengono invece limitati dal TPM o viceversa. Il compromesso chiave da tenere d’occhio è peso simbolico per richiesta: richieste lunghe o completamenti dettagliati aumentano i token per richiesta, quindi your Soffitto TPM viene raggiunto molto prima del limite massimo di RPM, riducendo drasticamente il numero di utenti che puoi servire. Ridurre la lunghezza dell'output o abbreviare il contesto spesso consente di acquisire più margine reale rispetto alla richiesta di un limite di richiesta più elevato.

Domande frequenti

Come posso convertire un limite TPM in richieste al minuto?

Dividere il limite di token al minuto (TPM) per i token utilizzati per richiesta (input + output). Ad esempio, un limite di 30.000 TPM con 1.500 token per richiesta consente circa 20 richieste al minuto dal lato token. Il tuo tetto reale è il più piccolo tra quel numero e il limite separato di richieste al minuto (RPM): qualunque cosa tu raggiunga per prima è il limite vincolante.

Perché ricevo errori 429 al di sotto del limite RPM?

Perché la maggior parte delle API LLM applica due limiti contemporaneamente: richieste al minuto (RPM) e token al minuto (TPM). Richieste lunghe o output di grandi dimensioni incidono sul budget TPM molto prima di raggiungere il conteggio RPM, pertanto si ottengono errori di limite di velocità 429 anche se il conteggio delle richieste sembra corretto. Questo calcolatore mostra quale dei due limiti è vincolante per la dimensione del tuo token.

Quanti utenti simultanei può supportare una chiave API?

Prendi il tetto massimo di richieste effettive al minuto e dividilo per il numero di richieste inviate da ciascun utente attivo al minuto. Se una chiave consente 20 RPM effettivi e ogni utente invia 2 richieste al minuto, si tratta di circa 10 utenti attivi simultanei prima che le richieste inizino ad essere accodate. Scalabilità passando a un livello di utilizzo più elevato, raggruppando o distribuendo il carico tra le chiavi.

Tetto RPM vs TPM alla dimensione del tuo token