What does an AI gateway actually charge for?

An AI gateway or LLM router sits between your app and the model providers, giving you one API for many models, automatic fallback, caching, logging and spend controls. It pays for that by adding cost in one of three ways: a percentage markup on the underlying token price, a flat fee per request, or a monthly platform subscription — and some combine all three. A pure percentage markup scales directly with your token spend, so it stays cheap on light traffic but grows without limit as you scale. A per-request fee punishes high request counts with small payloads. A flat monthly fee is fixed regardless of volume, so it is expensive when you are small and negligible once you are large. This calculator adds up whichever apply and shows the real overhead.

Is a gateway markup worth paying?

It depends on what the overhead buys you and how big it is. On low volume, a few percent markup is trivial and the reliability, unified billing and instant model-switching are easily worth it. At scale the same percentage can become thousands of dollars a month, at which point self-hosting an open-source proxy such as LiteLLM and calling providers directly often pays for an engineer's time many times over. The decision hinges on the effective markup this tool reports: compare that annual figure against the engineering cost of running your own routing and caching.

How do I cut gateway overhead without losing the features?

Route only the traffic that needs the gateway's features through it and send high-volume, stable calls directly to the provider. Turn on caching so repeated prompts never reach the metered path. Watch for gateways that mark up cached tokens at the full rate. And once your percentage-based overhead crosses the cost of a self-hosted open-source proxy, migrate the heavy routes off the paid gateway while keeping it for the long tail of models you rarely call. The cumulative overhead table below shows exactly when that crossover is worth the migration effort.

Calcolatore markup AI Gateway

Calcolatore del markup di AI Gateway

✓ Ultima verifica: 15-07-2026· Fonte: pagina ufficiale dei prezzi del fornitore· Monitoraggio automatico — segnalare il cambiamento →

I router LLM e i gateway dei rivenditori aggiungono un margine percentuale, una tariffa per richiesta o una tariffa fissa per la piattaforma oltre ai prezzi grezzi dei token. Scopri le spese generali mensili reali, il ricarico effettivo e quanto ti costa la comodità in un anno rispetto alla chiamata diretta ai fornitori.

Il livello di convenienza ha un prezzo che varia con te

Un gateway LLM acquista cose reali - un'API tra molti fornitori, fallback automatico quando un modello non è disponibile, memorizzazione nella cache, registrazione e limiti di spesa centralizzati - e li addebita come percentuale sui token, una tariffa per richiesta, una tariffa fissa mensile per la piattaforma o un mix. La trappola è che un margine percentuale è invisibile quando sei piccolo ed enorme quando sei grande: il 5% su una banconota da 200 dollari è un errore di arrotondamento, ma il 5% su una banconota da 40.000 dollari è lo stipendio annuo di un ingegnere a tempo pieno, speso per una funzionalità che potresti ospitare autonomamente con un proxy open source. Questo calcolatore separa il costo grezzo del fornitore dal taglio del gateway in modo da poter vedere il ricarico effettivo e il sovraccarico annuale in un unico posto, quindi decidere percorso per percorso. Confronta i prezzi dei token grezzi su confronto dei prezzi dei modelli, recupera la spesa richiesta ripetutamente memorizzazione nella cache tempestiva, e modellare l'intera fattura su Calcolatore dei costi dello stack API.

Come funziona questa calcolatrice

IL Calcolatore del markup di AI Gateway calcola il costo mensile totale dell'instradamento del traffico LLM attraverso un gateway o un router del rivenditore come OpenRouter, Portkey, Helicone o LiteLLM cloud e separa tale totale nel costo del fornitore sottostante e nell'extra pagato per il gateway in aggiunta. Inizia dal tuo richieste mensili moltiplicato per il token di input e output per richiesta, valuta i token dal fornitore tassi di input e output per milione, quindi sovrapporre i tre modi in cui i gateway aumentano i costi: a margine percentuale applicato alla spesa in token, a tariffa per richiesta che si adatta al volume delle chiamate e a tariffa fissa della piattaforma addebitato ogni mese. I fattori principali sono il volume delle richieste e il conteggio medio dei token, poiché questi determinano la spesa base su cui viene calcolata ogni percentuale e addebito per richiesta.

Il compromesso chiave da tenere d’occhio è il comportamento di ciascun tipo di commissione man mano che si aumenta. UN margine percentuale cresce in modo direttamente proporzionale alla spesa in token, quindi diventa il costo dominante per carichi di lavoro con token elevati o volumi elevati, mentre un tariffa per richiesta fa più male quando invii molte piccole chiamate con pochi token ciascuna. UN tariffa fissa della piattaforma è l'opposto: ha poca importanza in caso di volume elevato, ma può essere la voce più grande per un piccolo progetto. Un consiglio pratico è quello di inserire il tuo traffico realistico e quindi confrontare il costo aggiuntivo del gateway con quello che pagheresti direttamente al fornitore, poiché le funzionalità di comodità, instradamento e osservabilità offerte da un gateway valgono solo se il margine rimane piccolo rispetto alla tua spesa di base.

Domande frequenti

Quanto costa effettivamente un gateway AI?

Un gateway AI o un router LLM si trova tra la tua app e i fornitori di modelli, offrendoti un'API per molti modelli, fallback automatico, memorizzazione nella cache, registrazione e controlli della spesa. Si ripaga aggiungendo costi in tre modi: un ricarico percentuale sul prezzo del token sottostante, una tariffa fissa per richiesta o un abbonamento mensile alla piattaforma – e alcuni li combinano tutti e tre. Un markup percentuale puro si adatta direttamente alla spesa in token, quindi rimane economico con traffico leggero ma cresce senza limiti man mano che aumenti. Una tariffa per richiesta penalizza un numero elevato di richieste con carichi utili ridotti. Una tariffa mensile fissa è fissa indipendentemente dal volume, quindi è costosa quando sei piccolo e trascurabile una volta grande. Questo calcolatore somma qualunque sia applicabile e mostra il sovraccarico reale.

Vale la pena pagare un markup per il gateway?

Dipende da cosa ti costano le spese generali e da quanto sono grandi. Con volumi ridotti, un margine di profitto di una piccola percentuale è banale e l'affidabilità, la fatturazione unificata e il cambio di modello istantaneo ne valgono facilmente la pena. Su larga scala, la stessa percentuale può diventare migliaia di dollari al mese, a quel punto l'hosting autonomo di un proxy open source come LiteLLM e la chiamata diretta ai fornitori spesso ripagano molte volte il tempo di un tecnico. La decisione dipende dal margine effettivo riportato da questo strumento: confrontare tale cifra annuale con il costo di progettazione della gestione del proprio routing e caching.

Come posso ridurre il sovraccarico del gateway senza perdere le funzionalità?

Instrada solo il traffico che necessita delle funzionalità del gateway attraverso di esso e invia chiamate stabili e ad alto volume direttamente al provider. Attiva la memorizzazione nella cache in modo che i prompt ripetuti non raggiungano mai il percorso misurato. Cerca i gateway che eseguono il markup dei token memorizzati nella cache alla tariffa intera. E una volta che il tuo sovraccarico basato sulla percentuale supera il costo di un proxy open source self-hosted, migra i percorsi pesanti dal gateway a pagamento mantenendolo per la lunga coda di modelli che chiami raramente. La tabella dei costi generali cumulativi riportata di seguito mostra esattamente quando tale crossover vale lo sforzo di migrazione.