Стоимость токена в моделях Azure OpenAI
Токены одного и того же объема, цены по всему каталогу (стоимость токена без учета накладных расходов) — сначала самые дешевые.
| Модель | Вход/Выход (за 1М) | По запросу | Ежемесячные токены |
|---|
Счет за токен не является счетом Azure.
Самый распространенный сюрприз Azure OpenAI — счет, в несколько раз превышающий оценку токена. Это происходит потому, что Azure OpenAI — это управляемая корпоративная служба, а токены — это только дозируемое ядро. Вокруг них сидят затраты, которые никогда не показывает токен-калькулятор: платный план поддержки (Для разработчиков, Standard или Professional Direct, от примерно 100 до более 1000 долларов в месяц), частная сеть и конечные точки, выход данных, журналирование и хранение, и — если вы зарезервируете емкость — холостой PTU часы, которые вы платите за то, используете вы их или нет. После подсчета всего этого команды обычно обнаруживают, что рабочая среда Azure OpenAI на 20–40 % превышает исходную линию необработанных токенов. Этот калькулятор заставляет вас заранее указать эти накладные расходы и добавить их сверху, поэтому число, которое вы планируете, является числом, по которому вам выставляется счет.
Что касается токенов, Azure взимает плату точно так же, как и прямой API OpenAI: ставка за миллион за ввод и более высокая ставка за вывод. Выходные данные доминируют — их цена в несколько раз превышает входные данные на флагманских уровнях — поэтому длина ваших ответов влияет на счет больше, чем размер ваших подсказок. Введите реалистичную длину ввода и вывода, а также свой ежемесячный объем, и инструмент отделит стоимость токена от накладных расходов, так что вы сможете увидеть, какой рычаг на самом деле влияет на вашу общую сумму.
Оплата по мере использования или PTU: где грань
Azure предлагает два способа купить одни и те же модели. Оплата по мере использования счетов за токен — вы платите только за то, что используете, идеально подходит для резких или низких и средних объемов. А Единица выделенной пропускной способности (PTU) резервирует фиксированную часть мощности по фиксированной ежемесячной цене (около 2000 долларов США за единицу) без платы за каждый токен — идеально, когда объем большой, стабильный и чувствительный к задержкам. Компромисс прост: PTU дешевле только в том случае, если эквивалентный счет за токены с оплатой по мере использования превысит фиксированную цену PTU. Ниже вы будете платить за мощность, которую не используете. Этот инструмент сравнивает предполагаемую стоимость вашего токена с введенной вами ценой PTU и сообщает вам, какой план выигрывает при вашем объеме — и насколько далеко вы находитесь от пересечения.
Если решающим фактором являются накладные расходы Azure, стоит установить цену на ту же модель на прямой API OpenAI или AWS Основа маршрут и проверка самый дешевый LLM API среди провайдеров. Для математических вычислений токенов в одной модели Калькулятор стоимости токена LLM хорошо сочетается с этой страницей, и если вы создаете продукт поверх нее, проведите границу через Калькулятор цен на упаковку AI.
Как его использовать
1. Выберите модель и введите ежемесячный объем запроса.
2. Введите типичные токены ввода и вывода для каждого запроса.
3. Установите процент накладных расходов, который вы ожидаете от поддержки, сетевого взаимодействия и исходящего трафика (20–40 % обычно составляет 20–40 %).
4. Введите ежемесячную цену PTU, чтобы узнать, будет ли резервируемая мощность превосходить оплату по мере использования при вашем объеме.
Распространенные ошибки
Бюджетирование стоимости токена как общей суммы. Поддержка, сетевое взаимодействие и исходящий трафик — это отдельные статьи — добавьте их как накладные расходы. Слишком раннее резервирование PTU. Ниже уровня безубыточности вы платите за простаивающие мощности; оставайтесь с оплатой по мере использования до тех пор, пока использование не станет высоким и стабильным. Оценка только на входе. Выход — это дорогая половина; используйте реалистичную длину ответа. Игнорирование уровня поддержки. Обязательный платный план поддержки сам по себе может превышать небольшой символический счет.
Только оценить. Цены на Azure OpenAI и размеры PTU меняются. Прежде чем составлять бюджет, уточните текущие тарифы у Microsoft.