Quando um prompt mais curto e ajustado é melhor do que um prompt longo de alguns disparos.
O verdadeiro argumento econômico para o ajuste fino é excluir um aviso gigante de algumas fotos que você reenviaria para sempre. Faça primeiro a matemática do token — veja o calculadora de custos de ajuste fino.
O Calculadora de custo de prompt vs ajuste fino estima o custo mensal de duas maneiras de realizar a mesma tarefa: enviar um prompt longo em cada solicitação, versus ajustar um modelo que precisa de um prompt muito mais curto. Multiplica seu ligações por mês pelo custo do token por chamada, precificando o tokens de prompt de poucos disparos e o tokens de saída em seu insira $/1 milhão e saída $/1 milhão taxas. Para o caminho de ajuste fino, ele usa o menor tokens de prompt ajustados e adiciona o custo único de ajuste fino. Os principais impulsionadores são o volume de chamadas, a diferença entre os dois comprimentos de solicitação e a rapidez com que a taxa de treinamento inicial se espalha pelo uso.
A principal compensação é volume de equilíbrio: o ajuste fino acarreta um custo inicial fixo, mas corta os tokens em cada chamada, portanto, só compensa quando você envia solicitações suficientes para recuperar essa taxa. Em volume baixo, o prompt longo de poucos disparos geralmente é mais barato; em volume alto, o prompt mais curto e ajustado vence. Uma dica prática é verificar onde as duas linhas se cruzam antes de confirmar – se o seu tráfego estiver bem acima desse ponto, o ajuste fino economiza dinheiro, mas se o volume for incerto ou a lacuna imediata for pequena, a abordagem de poucos disparos evita um custo que você talvez nunca recupere.
Quando permite que você troque um prompt longo de algumas fotos por um curto. Você paga um custo único de treinamento e economiza em tokens de entrada a cada chamada. Em volumes elevados o retorno é rápido; em volume baixo, o prompt longo está bom.
O treinamento tem um custo único, e modelos ajustados às vezes cobram um pouco mais por token. A economia vem de um prompt mais curto - portanto, ele vence quando o comprimento × volume do prompt é grande.
📚 Novidade por aqui? Aprenda RAG vs ajuste fino →