—gettoni di input
—gettoni di uscita
—≈ parole
Un dollaro vale molto di più sui modelli economici
Pensare in gettoni per dollaro rende ovvia la scelta del modello: per lavori sfusi e non critici un modello piccolo acquista 10-20 volte i gettoni. Confronta per chiamata su Calcolatore del costo del token LLM.
Gettoni per dollaro: l'unità di acquisto cross-model
Invertire il prezzo per milione di token in token per dollaro rende concreto il modello di acquisto: a 0,15 dollari per milione di token di input, un dollaro acquista 6,7 milioni di token – circa 5 milioni di parole, o cinquanta romanzi di contesto. A 15 dollari per milione, con lo stesso dollaro si acquistano 67.000 token. La diffusione di 100 volte tra modelli di frontiera e di budget rappresenta l'intera opportunità di ottimizzazione dei costi nella maggior parte delle app LLM: instradare l'80% delle query facili a un modello economico e riservare quello costoso per i casi difficili riduce i costi combinati di 5-10 volte con una perdita di qualità minima. I token di output costano 2–5 volte l'input sulla maggior parte dei provider: il rapporto conta più di entrambi i numeri per i carichi di lavoro intensivi di chat.
Margine SaaS AICosto per utente attivoCosto per 1.000 paroleCosto della traduzione AICosto di Azure OpenAI
Come funziona questa calcolatrice
IL Gettoni per calcolatore del dollaro calcola la quantità di testo che puoi effettivamente elaborare con i tuoi soldi su ciascun modello linguistico. Inserisci a bilancio, IL prezzo di input per milione di token, IL prezzo di output per milione di token, e il quota di produzione dei tuoi gettoni totali. Poiché input e output hanno solitamente un prezzo diverso, lo strumento unisce le due tariffe in base a tale quota per trovare un costo reale per token, quindi divide il budget per mostrare quanti token di input e output vengono acquistati da ciascun dollaro. I driver principali sono i due prezzi per milione e il quota di produzione, poiché i token di output rappresentano in genere la parte più costosa del conto.
Ciò è importante perché i prezzi degli adesivi per milione di token sono difficili da confrontare tra i modelli e una tariffa apparentemente più economica può perdere una volta ponderati i carichi di lavoro pesanti in termini di output. modelli di classificazione sui token per dollaro, il calcolatore trasforma i prezzi astratti in un numero di throughput concreto che puoi confrontare direttamente. Il compromesso chiave da tenere d’occhio è il tuo quota di produzione: il riepilogo si basa molto sull'input, mentre la generazione si basa molto sull'output, quindi imposta la percentuale in modo che corrisponda al tuo utilizzo reale prima di fidarti della classifica.
Domande frequenti
Quanti token compra un dollaro?
Dipende dal modello e dal mix di input/output. Con 1 dollaro si acquistano circa 400.000 token su un modello con input da 2,50 dollari/1 milione, ma molto di più su un modello da 0,15 dollari/1 milione. I token di output costano molte volte di più dell’input, quindi il mix è importante.
Perché il mix di input/output cambia?
La produzione è solitamente pari a 3–5 volte il prezzo di input. Un dollaro vale di più per il lavoro ad alto contenuto di input (riassumendo) rispetto al lavoro ad alto impatto di output (generazione).