El precio de cada mil llamadas API en el tamaño de sus tokens.
Una sola llamada cuesta una fracción de centavo; no tiene sentido hasta que se multiplica por volumen. El costo por 1000 hace que las diferencias entre modelos sean legibles. Estimación total de la carga de trabajo en el Estimador de costos de aplicaciones de IA.
Herramientas y alojamiento
El Calculadora de costo por 1000 solicitudes convierte el uso de tokens por solicitud y los precios de los tokens de su modelo en el costo en dólares de cada mil llamadas API. Introduzca cuatro valores: tokens de entrada por solicitud, tokens de salida por solicitud, el precio de entrada por 1 millón de tokens, y el precio de salida por 1 millón de tokens. La herramienta multiplica cada recuento de tokens por su tasa coincidente por millón, suma los lados de entrada y salida para obtener el costo de una sola solicitud y luego lo aumenta en 1000. El resultado es un número único y comparable (costo por cada 1.000 solicitudes) sobre el que es mucho más fácil razonar que fracciones de centavo por llamada.
Esto es importante porque las facturas de API aumentan con el volumen y un costo por solicitud que aspecto trivial se vuelve significativo una vez que lo multiplicas por el tráfico real. La contrapartida clave a tener en cuenta es que Los tokens de salida suelen costar varias veces más que los tokens de entrada., por lo que una respuesta detallada puede dominar el total incluso cuando su mensaje sea breve. Antes de comprometerse con un modelo, ejecute los tamaños de tokens realistas en la calculadora y compare un modelo más barato con uno más caro con el mismo volumen; Recortar la longitud de la salida o limitar los tokens de respuesta a menudo reduce el costo por 1000 más que cambiar de proveedor.
Costo por solicitud = tokens de entrada × precio de entrada + tokens de salida × precio de salida (por millón). Multiplique por 1000 para obtener la cifra por mil, la unidad en la que se razonan la mayoría de los presupuestos de API.
Los costos por solicitud son pequeñas fracciones de centavo que son difíciles de comparar. Por 1.000 es la escala en la que las diferencias entre modelos se vuelven obvias y presupuestables.