Calcolatore del costo per risposta corretta

Lo sconto che ti costa denaro

Ogni dashboard di selezione del modello viene ordinata in base al prezzo per milione di token e ognuna di esse risponde alla domanda sbagliata. Il costo che figura sulla tua bolletta non è il costo di una chiamata, è il costo di una chiamata che puoi effettivamente utilizzare e nel momento in cui la tua attività ha una risposta giusta e una sbagliata, quei due numeri si separano. Un modello che costa il 30% in meno per chiamata ma dieci punti in meno di precisione non è più economico del 30%; una volta riprovati o eliminati gli errori, stai acquistando più tentativi per risultato utilizzabile e l'aritmetica può capovolgere completamente la classifica. La soluzione è una divisione: prendi il costo di un tentativo e dividilo per la probabilità che il tentativo abbia successo, e su questo confronta i modelli. Il pareggio stampato da questa calcolatrice rappresenta l'intera decisione in un unico numero: la precisione che un modello più economico deve raggiungere prima che il suo sconto sia reale piuttosto che una tassa da pagare nei nuovi tentativi. Ciò presuppone che tu possa distinguere il bene dallo sbagliato e semplicemente rieseguire gli errori, che è esattamente la situazione quando hai una suite di test, un verificatore o una revisione umana; se le risposte sbagliate passano inosservate, il modello economico è ancora peggio, perché ora si paga anche il costo di sbagliare a valle. Valuta prima una singola chiamata con il calcolatore del costo dei gettoni, confronta i prezzi dei modelli grezzi su pagina di confronto dei modellie se stai concatenando le chiamate a un agente, dimensiona il token dell'attività completa con il file Calcolatore dei costi dell'agente AI.