Los precios de entrada y salida son diferentes: obtenga su tasa efectiva real.
Dividir el precio de entrada/salida significa que la tasa de etiqueta no es su tarifa; la producción generalmente domina. Cap max_tokens para controlarlo. Convierta el número por llamada en una factura completa en el Calculadora de costos de tokens LLM.
Herramientas y alojamiento
El Calculadora de precios de LLM combinado calcula el costo real de una sola llamada API y el tasa efectiva por 1 millón de tokens que resulta de mezclar tokens de entrada y salida. Introduzca cuatro valores: el del modelo precio de entrada por 1 millón de tokens, es precio de salida por 1 millón de tokens, y el tokens de entrada y salida utilizados por llamada. La herramienta multiplica cada recuento de tokens por su tasa de coincidencia y los suma, de modo que el costo por llamada depende tanto de los precios publicados como de su combinación de tokens real. Debido a que los tokens de salida generalmente cuestan varias veces más que los tokens de entrada, una llamada con mucho texto generado puede costar mucho más de lo que sugiere su longitud de entrada.
La tarifa combinada es importante porque un precio de etiqueta único oculta lo que realmente pagará. Un modelo con insumos baratos pero resultados caros puede resultar más caro que un rival una vez que su proporción de tokens reales se aplica. El consejo práctico: haga coincidir los recuentos de tokens con una llamada representativa en lugar de con el mejor de los casos, luego compare los modelos en el tasa combinada por 1 millón en lugar del precio principal del insumo. Observe más de cerca el lado de la salida: recortar las respuestas detalladas o limitar la longitud de la salida a menudo reduce el costo más que reducir el mensaje.
Generar tokens requiere más computación que leerlos, por lo que los proveedores fijan el precio de la producción entre 3 y 5 veces más que la entrada. Un mensaje con un contexto enorme pero una respuesta corta aún puede estar dominado por los pocos tokens de salida costosos, o al revés, dependiendo de su combinación de tokens.
Su verdadera tasa efectiva una vez que la entrada y la salida se ponderan según la cantidad de cada uno que realmente utiliza. Los precios anunciados están divididos; la tasa combinada le indica cuánto cuesta una llamada real por token, que es lo que debe usar para el margen y el pronóstico.
📚 ¿Nuevo aquí? Descubra cómo funcionan los precios de LLM API →