precisione votata (N)
1 campione / corretto
N campioni / corretto
più economico per corretto

Accuracy and cost at each N

La precisione votata sale velocemente per poi appiattirsi; il costo per risposta corretta è N campioni diviso per tale accuratezza. Viene evidenziata la riga più economica per correzione: è quasi sempre una N bassa. La N scelta è contrassegnata.

N campioniPrecisione votataCosto/query$/correttoMensile

Il voto compra precisione, quasi mai risparmio

L'autocoerenza è uno dei trucchi di precisione più economici del libro e uno dei più facili da interpretare erroneamente su un foglio di calcolo. Il meccanismo è onesto: chiedi al modello la stessa domanda una manciata di volte a una temperatura reale, prendi la risposta che appare di più e ti affidi al fatto che un modello decente ha ragione in modo più coerente di quanto abbia torto in ogni singolo modo. La precisione aumenta davvero. Ciò che sale più velocemente è il conto, perché non è previsto alcuno sconto per il secondo, terzo o quinto campione: ognuno di essi è una chiamata a prezzo pieno. E la curva di precisione è scortese: salta da un campione a tre, ti dà notevolmente meno da tre a cinque, e al settimo paghi il prezzo intero per un errore di arrotondamento di miglioramento. Dividi il costo N volte per l’accuratezza del voto e il costo per risposta corretta di solito aumenta, non diminuisce, motivo per cui il voto è uno strumento di accuratezza, non uno strumento di risparmio. C’è anche una trappola nella fascia bassa: se la precisione del singolo campione è inferiore al 50%, il voto a maggioranza non ti salva, ti trascina giù, perché la maggioranza ora vota per la risposta sbagliata. L'unico numero che questa calcolatrice non può mostrarti è quanto costa un errore; questo è il numero che decide se valgono i campioni extra. Valuta prima una singola chiamata con il calcolatore del costo dei gettoni, valuta un modello economico ma sbagliato rispetto a uno più costoso ma giusto con il calcolatore del costo per risposta esatta, and if you are chaining calls into an agent where failures cascade, size the full run with the Calcolatore dei costi dell'agente AI.

Ospita il tuo progetto:DigitalOcean: $ 200 gratis ↗Hostinger VPS
Costo per risposta correttaCosto dei gettoniSegnalini di ragionamentoCosto dell'agente IAConfronto dei modelli