Lo que cuesta generar filas de entrenamiento sintético con un LLM.
La generación masiva es barata; los tokens perdidos por filas rechazadas y duplicadas son el gasto real. Un aviso ajustado y un generador barato ganan. Dimensionar las llamadas en el Calculadora de costos de tokens LLM y comparar contra sintonia FINA.
Intercambios
Herramientas y alojamiento
Calculadora gratuita de costos de datos sintéticos: filas, tokens por fila y precio del modelo para el costo de generar un conjunto de datos.
Filas multiplicadas por tokens por fila multiplicadas por la tasa del modelo, más los tokens quemados en las generaciones rechazadas que filtra. Un modelo barato a un dólar por millón de tokens genera decenas de miles de filas por unos pocos dólares; la tasa de rechazo/reintento es lo que mueve el número.
Utilice un modelo pequeño y económico para la generación masiva y reserve un modelo más potente para la validación, ajuste el mensaje para que se rechacen menos filas y elimine los duplicados. El desperdicio está en reintentos y filas casi duplicadas, no en la generación base.