Quanto ti costa una richiesta
Ripartizione utilizzo (richieste/utente/mese)
—
margine basato sul posto—margine%
—utenti sott'acqua
—utilizzo in pareggio
Sedile vs utilizzo vs ibrido, fianco a fianco
Costo delle fatture basato sull'utilizzo più un margine fisso, quindi il margine è costante; il sedile è piatto, quindi vince sugli utenti leggeri e perde su quelli pesanti; un ibrido limita il lato negativo con un'indennità inclusa.
| Cohort | Costo | Entrate dei posti | Margine |
|---|
Il prezzo forfettario su un costo basato sull'utilizzo è una scommessa sulla distribuzione degli utenti
Poiché il LLM sotto il tuo prodotto fattura in base al gettone, un prezzo fisso per posto è in realtà una scommessa che l'utente medio consumerà meno delle coperture dei posti. Quando l’utilizzo è fortemente distorto – una lunga coda di utenti leggeri e una manciata di utenti esperti – quella scommessa ripaga, perché i molti conti leggeri eliminano ciascuno il margine puro mentre solo i pochi conti pesanti perdono denaro. Ma se la distribuzione del tuo utilizzo è uniforme, o se i tuoi clienti migliori sono anche i più importanti, lo stesso piano flat trasforma silenziosamente gli utenti più coinvolti nelle perdite maggiori. L'utilizzo in pareggio corrisponde al prezzo del posto diviso per il costo combinato per richiesta; ogni account sopra di esso è sott'acqua. Questo calcolatore divide la tua base in coorti leggere e pesanti, prezzi ciascuno in base a un posto piatto e in base a un modello di utilizzo cost-plus e mostra dove un piano ibrido con un'indennità inclusa proteggerebbe il margine. Stabilisci prima il costo reale per richiesta sul calcolatore del costo per 1.000 richieste, check the raw model prices on the confronto dei modelli, e sottoporre a test di pressione un unico prezzo sul Calcolatore del margine di avvolgimento AI.
Come funziona questa calcolatrice
Questo Calcolatore dei prezzi in base al posto e all'utilizzo confronta due modalità di addebito affiancate per un prodotto AI. Ci vuole il tuo prezzo del posto E utenti totali per calcolare le entrate fisse basate sulle postazioni, quindi stimare le entrate basate sull'utilizzo suddividendo gli utenti in leggero E pesante segmenti utilizzando la percentuale di utenti leggeri. Il volume delle richieste di ciascun segmento (richieste leggere degli utenti rispetto a richieste degli utenti pesanti) viene moltiplicato per il tuo costo misto per richiesta per modellare ciò che l’utilizzo genererebbe o costerebbe effettivamente. I fattori principali sono il numero di utenti che rientrano in ciascun livello, il divario tra il conteggio delle richieste leggere e quelle pesanti e il modo in cui il prezzo per richiesta è correlato al costo combinato.
Il compromesso chiave è prevedibilità versus equità. Il prezzo dei posti offre entrate costanti e facili da prevedere, ma può sovraccaricare gli utenti leggeri e abbassare quelli pesanti, che potrebbero consumare molto più delle coperture dei sedili. I prezzi in base all’utilizzo tengono traccia del consumo reale ma rendono più difficile prevedere le entrate. Un consiglio pratico: attenzione quota di utenti pesanti, poiché un piccolo gruppo di utenti con volumi elevati spesso decide quale modello protegge il tuo margine.
Domande frequenti
Un prodotto AI dovrebbe essere addebitato per postazione o per utilizzo?
Dipende da quanto uniformemente i tuoi utenti consumano i token. Un prezzo fisso per posto è semplice da vendere e offre ai clienti una fattura prevedibile, ma poiché il costo LLM sottostante è basato sull'utilizzo, un piano per posto sovraccarica silenziosamente gli utenti leggeri e perde denaro su quelli pesanti. Se la maggior parte degli utenti sono leggeri e solo pochi sono pesanti, il per posto può essere molto redditizio: la maggioranza leggera sovvenziona la minoranza pesante. Se l'utilizzo è distribuito equamente o sbilanciato verso gli utenti esperti, i prezzi per posto diminuiscono e il margine basato sull'utilizzo o un ibrido con un'indennità inclusa più l'eccedenza protegge il margine. Questo calcolatore mostra il margine rispetto al prezzo fisso del posto, data una suddivisione dell'utilizzo leggero/intenso, in modo da poter vedere in che direzione si inclina la tua particolare base di utenti.
Cos’è un utente esperto e perché perde denaro?
Un utente esperto è qualcuno il cui consumo di token spinge il costo API grezzo al di sopra del prezzo forfettario che gli addebiti. Con i prezzi basati sul posto tutti pagano lo stesso, quindi un utente che esegue dieci volte il numero medio di richieste ti costa dieci volte di più pagando la stessa tariffa del posto: ogni richiesta extra oltre il pareggio è una perdita diretta. L'utilizzo in pareggio è semplicemente il prezzo del posto diviso per il costo combinato per richiesta: se ne consumi di più, il conto sarà sott'acqua. Un sano piano basato sui posti richiede che l'utente medio si sieda ben al di sotto del pareggio, in modo che la parte in perdita sia coperta dalla maggioranza redditizia.
Come funziona un piano ibrido con indennità inclusa?
Un piano ibrido addebita una tariffa base fissa che include un'indennità di utilizzo generosa ma limitata, quindi fattura l'eccedenza per unità superiore. Mantiene la semplicità che gli acquirenti apprezzano nel caso comune, limitando allo stesso tempo lo svantaggio per gli utenti esperti, che pagano per ciò che consumano oltre l'indennità. L’arte sta nel fissare l’indennità abbastanza alta in modo che la stragrande maggioranza non veda mai una linea di eccedenza – quindi il piano sembra ancora piatto – mentre abbastanza bassa da consentire agli utenti reali e potenti di oltrepassarla e coprire i propri costi. Imposta l'indennità vicino all'utilizzo di pareggio riportato da questo calcolatore e otterrai fatture prevedibili per la maggior parte e un margine protetto sulla coda.