Qu'est-ce qui génère des lignes de formation synthétiques avec un LLM coûte.
La production en masse est bon marché ; les jetons perdus à cause des lignes rejetées et en double constituent la dépense réelle. Une invite serrée et un générateur bon marché gagnent. Dimensionnez les appels sur le Calculateur du coût des jetons LLM et comparer avec réglage fin.
Échanges
Outils et hébergement
Calculateur gratuit du coût des données synthétiques : lignes, jetons par ligne et prix du modèle par rapport au coût de génération d'un ensemble de données.
Lignes multipliées par jetons par ligne multiplié par le taux du modèle, plus les jetons brûlés sur les générations rejetées que vous filtrez. Un modèle bon marché à un dollar par million de jetons génère des dizaines de milliers de lignes pour quelques dollars – le taux de rejet/nouvelle tentative est ce qui fait varier le nombre.
Utilisez un modèle petit et bon marché pour la génération en masse et réservez un modèle plus puissant pour la validation, resserrez l'invite afin que moins de lignes soient rejetées et supprimez les duplications. Le gaspillage concerne les tentatives et les lignes quasi-dupliquées, et non la génération de base.