La sobrecarga simbólica de forzar respuestas JSON/estructuradas.
El costo simbólico del modo JSON es pequeño en comparación con el costo de analizar la salida de texto libre inestable. Mantenga los esquemas optimizados y es una ganga. Estimar la llamada completa en el Calculadora de costos de tokens LLM.
Intercambios
Herramientas y alojamiento
Calculadora gratuita de costos de salida estructurada: esquema JSON y formato para agregar tokens; vea cuánto cuestan las respuestas estructuradas.
Un poco. Envía el esquema JSON como tokens de entrada adicionales y las respuestas estructuradas tienden a ser más detalladas que el texto libre. En un volumen alto, eso suma, aunque generalmente se amortiza con menos errores de análisis.
Casi siempre: los resultados confiables y analizables ahorran tiempo de ingeniería y solicitudes fallidas. Simplemente mantenga el esquema al mínimo y no solicite campos que no utilizará.