Quanto custa gerar linhas de treinamento sintético com um LLM.
A geração em massa é barata; os tokens perdidos em linhas rejeitadas e duplicadas são o gasto real. Um prompt apertado e um gerador barato vencem. Dimensione as chamadas no Calculadora de custo de token LLM e compare com afinação.
Trocas
Ferramentas e hospedagem
Calculadora gratuita de custo de dados sintéticos – linhas, tokens por linha e preço do modelo para o custo de geração de um conjunto de dados.
Linhas vezes tokens por linha vezes a taxa do modelo, mais os tokens queimados nas gerações rejeitadas que você filtra. Um modelo barato a um dólar por milhão de tokens produz dezenas de milhares de linhas por alguns dólares – a taxa de rejeição/nova tentativa é o que move o número.
Use um modelo pequeno e barato para geração em massa e reserve um modelo mais forte para validação, restrinja o prompt para que menos linhas sejam rejeitadas e elimine a duplicação. O desperdício está em novas tentativas e linhas quase duplicadas, não na geração base.