La surcharge de jetons liée au forçage des réponses JSON/structurées.
Le coût du jeton du mode JSON est faible par rapport au coût de l'analyse d'une sortie de texte libre irrégulière. Gardez les schémas simples et c'est une bonne affaire. Estimez l'ensemble de l'appel sur le Calculateur du coût des jetons LLM.
Échanges
Outils et hébergement
Calculateur gratuit de coûts de sortie structurée : le schéma JSON et le formatage ajoutent des jetons ; voir combien coûtent les réponses structurées.
Un peu. Vous envoyez le schéma JSON sous forme de jetons d'entrée supplémentaires, et les réponses structurées ont tendance à être plus détaillées que le texte libre. Sur un volume élevé, cela s'additionne, même si cela se rentabilise généralement en moins d'erreurs d'analyse.
Presque toujours : une sortie fiable et analysable permet d'économiser du temps d'ingénierie et des requêtes échouées. Gardez simplement le schéma minimal et ne demandez pas de champs que vous n'utiliserez pas.