Как работает этот калькулятор
The Калькулятор смешанных цен LLM вычисляет реальную стоимость одного вызова API и эффективная ставка за 1 миллион токенов это результат смешивания входных и выходных токенов. Вы вводите четыре значения: модель входная цена за 1 миллион токенов, его выходная цена за 1 миллион токенови токены ввода и вывода, используемые для каждого вызова. Инструмент умножает количество каждого токена на его коэффициент соответствия и складывает их вместе, поэтому стоимость за вызов определяется как опубликованными ценами, так и фактическим набором токенов. Поскольку выходные токены обычно стоят в несколько раз дороже, чем входные токены, вызов, в котором много сгенерированного текста, может стоить гораздо больше, чем предполагает одна только его входная длина.
Смешанная ставка имеет значение, поскольку за единой ценой скрывается сумма, которую вы на самом деле заплатите. Модель с дешевыми ресурсами, но дорогой производительностью может оказаться дороже, чем у конкурента, если вы реальное соотношение токенов применяется. Практический совет: сопоставьте количество токенов с репрезентативным вызовом, а не с лучшим случаем, а затем сравните модели на смешанная ставка за 1 миллион вместо основной входной цены. Внимательно следите за выходными данными: сокращение многословных ответов или ограничение длины выходных данных часто снижает затраты больше, чем сокращение подсказки.
Часто задаваемые вопросы
Почему выпуск дороже, чем ввод?
Генерация токенов требует больше вычислительных ресурсов, чем их чтение, поэтому поставщики оценивают выходные данные примерно в 3–5 раз выше, чем входные. В приглашении с обширным контекстом, но коротким ответом все равно могут доминировать несколько дорогих выходных токенов — или наоборот, в зависимости от вашего набора токенов.
Какова цена смешанного токена?
Ваша истинная эффективная ставка после ввода и вывода взвешивается по тому, сколько из каждого из них вы фактически используете. Рекламируемые цены разделены; смешанная ставка показывает, сколько стоит реальный звонок за токен, и это то, что вы должны использовать для маржи и прогнозирования.