Quando um prompt mais curto e ajustado é melhor do que um prompt longo de alguns disparos.
O verdadeiro argumento econômico para o ajuste fino é excluir um aviso gigante de algumas fotos que você reenviaria para sempre. Faça primeiro a matemática do token — veja o calculadora de custos de ajuste fino.
Trocas
Ferramentas e hospedagem
Calculadora gratuita de prompt versus ajuste fino - compare um prompt longo de alguns disparos com o ajuste fino para encontrar o volume de equilíbrio.
Quando permite que você troque um prompt longo de algumas fotos por um curto. Você paga um custo único de treinamento e economiza em tokens de entrada a cada chamada. Em volumes elevados o retorno é rápido; em volume baixo, o prompt longo está bom.
O treinamento tem um custo único, e modelos ajustados às vezes cobram um pouco mais por token. A economia vem de um prompt mais curto - portanto, ele vence quando o comprimento × volume do prompt é grande.