précision votée (N)
1 échantillon / correct
N échantillons / correct
moins cher par correct

Précision et coût à chaque N

La précision votée grimpe rapidement puis s'aplatit ; le coût par bonne réponse est de N échantillons divisés par cette précision. La ligne la moins chère par correct est mise en surbrillance – il s’agit presque toujours d’un N faible. Le N que vous avez choisi est marqué.

N échantillonsPrécision votéeCoût/requête$/correctMensuel

Le vote permet d’acquérir de la précision, mais presque jamais d’économiser

L'auto-cohérence est l'une des astuces de précision les moins chères du livre et l'une des plus faciles à mal lire sur une feuille de calcul. Le mécanisme est honnête : posez au modèle la même question plusieurs fois à une température réelle, prenez la réponse qui apparaît le plus et vous vous appuyez sur le fait qu'un modèle décent a plus systématiquement raison qu'il n'a tort d'une manière ou d'une autre. La précision augmente vraiment. Ce qui augmente plus vite, c'est la facture, car il n'y a pas de réduction pour le deuxième, le troisième ou le cinquième échantillon : chacun d'entre eux est un appel au tarif plein. Et la courbe de précision n'est pas aimable : elle passe d'un échantillon à trois, vous donne sensiblement moins de trois à cinq, et au septième, vous payez le plein tarif pour une erreur d'arrondi d'amélioration. Divisez le coût N fois par la précision du vote et le coût par bonne réponse augmente généralement, et non ne diminue pas – c'est pourquoi le vote est un outil de précision, pas un outil d'économies. Il existe également un piège en bas de gamme : si la précision de votre échantillon unique est inférieure à 50 %, le vote majoritaire ne vous sauve pas, il vous entraîne vers le bas, car la majorité vote maintenant pour la mauvaise réponse. Le seul chiffre que cette calculatrice ne peut pas vous montrer est le coût d’une erreur ; c'est le nombre qui décide si les échantillons supplémentaires en valent la peine. Tarifez d'abord un seul appel avec le calculateur de coût symbolique, comparez un modèle bon marché mais erroné à un modèle plus cher mais correct avec le calculateur de coût par bonne réponse, et si vous enchaînez les appels vers un agent où les échecs se produisent en cascade, dimensionnez l'exécution complète avec le Calculateur du coût des agents IA.

Hébergez votre projet :DigitalOcean — 200 $ gratuits ↗VPS Hostinger
Coût par bonne réponseCoût du jetonJetons de raisonnementCoût de l'agent IAComparaison des modèles