precisione votata (N)
1 campione / corretto
N campioni / corretto
più economico per corretto

Precisione e costo ad ogni N

La precisione votata sale velocemente per poi appiattirsi; il costo per risposta corretta è N campioni diviso per tale accuratezza. Viene evidenziata la riga più economica per correzione: è quasi sempre una N bassa. La N scelta è contrassegnata.

N campioniPrecisione votataCosto/query$/correttoMensile

Il voto compra precisione, quasi mai risparmio

L'autocoerenza è uno dei trucchi di precisione più economici del libro e uno dei più facili da interpretare erroneamente su un foglio di calcolo. Il meccanismo è onesto: chiedi al modello la stessa domanda una manciata di volte a una temperatura reale, prendi la risposta che appare di più e ti affidi al fatto che un modello decente ha ragione in modo più coerente di quanto abbia torto in ogni singolo modo. La precisione aumenta davvero. Ciò che sale più velocemente è il conto, perché per il secondo, terzo o quinto campione non è previsto alcuno sconto: ognuno di essi è una chiamata a prezzo pieno. E la curva di precisione è scortese: salta da un campione a tre, ti dà notevolmente meno da tre a cinque, e al settimo paghi il prezzo intero per un errore di arrotondamento di miglioramento. Dividi il costo N volte per l’accuratezza del voto e il costo per risposta corretta di solito aumenta, non diminuisce, motivo per cui il voto è uno strumento di accuratezza, non uno strumento di risparmio. C’è anche una trappola nella fascia bassa: se la precisione del tuo singolo campione è inferiore al 50%, il voto a maggioranza non ti salva, ti trascina giù, perché la maggioranza ora vota per la risposta sbagliata. L'unico numero che questa calcolatrice non può mostrarti è quanto costa un errore; questo è il numero che decide se valgono i campioni extra. Valuta prima una singola chiamata con il calcolatore del costo dei gettoni, valuta un modello economico ma sbagliato rispetto a uno più costoso ma giusto con il calcolatore del costo per risposta esattae se stai concatenando le chiamate a un agente in cui gli errori si riversano a cascata, dimensiona l'intera esecuzione con il file Calcolatore dei costi dell'agente AI.

Condividere: 𝕏 Pubblica Reddit
Ospita il tuo progetto:DigitalOcean: $ 200 gratis ↗Hostinger VPS
Costo per risposta correttaCosto dei gettoniSegnalini di ragionamentoCosto dell'agente IAConfronto dei modelli