A entrada e a saída têm preços diferentes – obtenha sua verdadeira taxa efetiva.
O preço dividido de entrada/saída significa que a taxa de etiqueta não é a sua taxa – a produção geralmente domina. Limite max_tokens para controlá-lo. Transforme o número por ligação em uma fatura completa no Calculadora de custo de token LLM.
Trocas
Ferramentas e hospedagem
Calculadora de preços LLM combinada gratuita - preços de entrada e saída e combinação de tokens para seu custo real por chamada e taxa efetiva por 1 milhão.
A geração de tokens exige mais computação do que a leitura deles, portanto, os provedores fixam o preço da produção cerca de 3 a 5 vezes mais alto do que a entrada. Um prompt com um contexto enorme, mas com uma resposta curta, ainda pode ser dominado por alguns tokens de saída caros — ou o contrário, dependendo do seu mix de tokens.
Sua verdadeira taxa efetiva, uma vez que a entrada e a saída são ponderadas pela quantidade de cada uma que você realmente usa. Os preços anunciados são divididos; a taxa combinada informa quanto custa uma chamada real por token, que é o que você deve usar para margem e previsão.