Цена каждой тысячи вызовов API при ваших размерах токенов.
Один звонок стоит доли цента — бессмысленно, пока вы не умножите его на объем. Цена за 1000 делает различия между моделями четкими. Полная оценка рабочей нагрузки на Оценщик стоимости приложения с искусственным интеллектом.
The Калькулятор стоимости за 1000 запросов превращает использование токенов по запросу и цены токенов вашей модели в долларовую стоимость каждой тысячи вызовов API. Вы вводите четыре значения: входные токены на запрос, выходные токены на запрос, входная цена за 1 миллион токенови выходная цена за 1 миллион токенов. Инструмент умножает количество каждого токена на соответствующий коэффициент на миллион, складывает входную и выходную стороны, чтобы получить стоимость одного запроса, а затем масштабирует ее на 1000. В результате получается единая сопоставимая цифра — стоимость за 1000 запросов — которую гораздо легче оценить, чем доли цента за звонок.
Это важно, поскольку счета за API масштабируются в зависимости от объема и стоимости каждого запроса, которая выглядит тривиальность становится значимой, как только вы умножаете ее на реальный трафик. Ключевой компромисс, на который стоит обратить внимание, заключается в том, что выходные токены обычно стоят в несколько раз дороже, чем входные токены, поэтому подробный ответ может доминировать в общем объеме, даже если ваше приглашение короткое. Прежде чем выбрать модель, прогоните реалистичные размеры токенов с помощью калькулятора и сравните более дешевую модель с более дорогой при том же объеме; сокращение длины вывода или ограничение токенов ответа часто снижает стоимость за 1000 больше, чем смена поставщика.
Стоимость запроса = входные токены × входная цена + выходные токены × выходная цена (за миллион). Умножьте на 1000, чтобы получить цифру на тысячу — единицу расчета большинства бюджетов API.
Стоимость каждого запроса составляет крошечные доли цента, и их трудно сравнивать. На 1000 — это шкала, при которой различия между моделями становятся очевидными и доступными.