Сколько стоит создание синтетических обучающих строк с помощью LLM.
Массовая генерация дешева; жетоны, потерянные из-за отклоненных и повторяющихся строк, представляют собой реальные затраты. Плотная подсказка и дешевый генератор побеждают. Размер вызовов на Калькулятор стоимости токена LLM и сравнить с тонкая настройка.
Обмены
Инструменты и хостинг
Бесплатный калькулятор стоимости синтетических данных — количество строк, токенов на строку и стоимость модели в зависимости от стоимости создания набора данных.
Количество строк, умноженное на количество токенов в каждой строке, умноженное на ставку модели, плюс токены, сожженные в отклоненных поколениях, которые вы отфильтровываете. Дешевая модель с ценой доллара за миллион токенов позволяет выполнять десятки тысяч строк за несколько долларов — показатель отклонения/повторной попытки — это то, что меняет число.
Используйте небольшую и дешевую модель для массовой генерации и зарезервируйте более надежную модель для проверки, ужесточите подсказку, чтобы отклонялось меньше строк, и выполните дедупликацию. Потери происходят в повторных попытках и почти повторяющихся строках, а не в базовой генерации.