—
総コスト—1,000行あたり
—トークンの合計
—無駄な再試行
コストがかかるのは行ではなく再試行です
大量生成は安価です。拒否された行や重複した行によって失われたトークンが実際の費用となります。タイトなプロンプトと安価な発電機が勝利します。でのコールのサイズを調整する LLM トークンコスト計算ツール と比較してください 微調整.
LLM を使用して合成トレーニング行を生成すると、どのようなコストがかかりますか。
大量生成は安価です。拒否された行や重複した行によって失われたトークンが実際の費用となります。タイトなプロンプトと安価な発電機が勝利します。でのコールのサイズを調整する LLM トークンコスト計算ツール と比較してください 微調整.
無料の合成データ コスト計算ツール - 行数、行ごとのトークン、データセット生成コストに対するモデル価格。
行数×行ごとのトークン×モデルレートに加え、フィルターで除外した拒否された世代で焼かれたトークンを加算します。 100 万トークンあたり 1 ドルの安価なモデルでは、数ドルで数万行を作成できます。数字を左右するのは拒否/再試行率です。
一括生成には小さくて安価なモデルを使用し、検証用には強力なモデルを予約し、プロンプトを強化して拒否される行を減らし、重複を排除します。無駄は基本生成ではなく、再試行と重複に近い行にあります。