Стоимость токена в моделях Azure OpenAI
Токены одного и того же объема, цены по всему каталогу (стоимость токена без учета накладных расходов) — сначала самые дешевые.
| Модель | Вход/Выход (за 1М) | По запросу | Ежемесячные токены |
|---|
Счет за токен не является счетом Azure.
Самый распространенный сюрприз Azure OpenAI — счет, в несколько раз превышающий оценку токена. Это происходит потому, что Azure OpenAI — это управляемая корпоративная служба, а токены — это только дозируемое ядро. Вокруг них сидят затраты, которые никогда не показывает токен-калькулятор: платный план поддержки (Для разработчиков, Standard или Professional Direct, от примерно 100 до более 1000 долларов в месяц), частная сеть и конечные точки, выход данных, журналирование и хранение, и — если вы зарезервируете емкость — холостой PTU часы, которые вы платите за то, используете вы их или нет. После подсчета всего этого команды обычно обнаруживают, что рабочая среда Azure OpenAI на 20–40 % превышает исходную линию необработанных токенов. Этот калькулятор заставляет вас заранее указать эти накладные расходы и добавить их сверху, поэтому число, которое вы планируете, является числом, по которому вам выставляется счет.
Что касается токенов, Azure взимает плату точно так же, как и прямой API OpenAI: ставка за миллион за ввод и более высокая ставка за вывод. Выходные данные доминируют — их цена в несколько раз превышает входные данные на флагманских уровнях — поэтому длина ваших ответов влияет на счет больше, чем размер ваших подсказок. Введите реалистичную длину ввода и вывода, а также свой ежемесячный объем, и инструмент отделит стоимость токена от накладных расходов, так что вы сможете увидеть, какой рычаг на самом деле влияет на вашу общую сумму.
Оплата по мере использования или PTU: где грань
Azure предлагает два способа купить одни и те же модели. Оплата по мере использования счетов за токен — вы платите только за то, что используете, идеально подходит для резких или низких и средних объемов. А Единица выделенной пропускной способности (PTU) резервирует фиксированную часть мощности по фиксированной ежемесячной цене (около 2000 долларов США за единицу) без платы за каждый токен — идеально, когда объем большой, стабильный и чувствительный к задержкам. Компромисс прост: PTU дешевле только в том случае, если эквивалентный счет за токены с оплатой по мере использования превысит фиксированную цену PTU. Ниже вы будете платить за мощность, которую не используете. Этот инструмент сравнивает предполагаемую стоимость вашего токена с введенной вами ценой PTU и сообщает вам, какой план выигрывает при вашем объеме — и насколько далеко вы находитесь от пересечения.
Если решающим фактором являются накладные расходы Azure, стоит установить цену на ту же модель на прямой API OpenAI или AWS Основа маршрут и проверка самый дешевый LLM API среди провайдеров. Для математических вычислений токенов в одной модели Калькулятор стоимости токена LLM хорошо сочетается с этой страницей, и если вы создаете продукт поверх нее, проведите границу через Калькулятор цен на упаковку AI.
Как его использовать
1. Выберите модель и введите ежемесячный объем запроса.
2. Введите типичные токены ввода и вывода для каждого запроса.
3. Установите процент накладных расходов, который вы ожидаете от поддержки, сетевого взаимодействия и исходящего трафика (20–40 % обычно составляет 20–40 %).
4. Введите ежемесячную цену PTU, чтобы узнать, будет ли резервируемая мощность превосходить оплату по мере использования при вашем объеме.
Распространенные ошибки
Бюджетирование стоимости токена как общей суммы. Поддержка, сетевое взаимодействие и исходящий трафик — это отдельные статьи — добавьте их как накладные расходы. Слишком раннее резервирование PTU. Ниже уровня безубыточности вы платите за простаивающие мощности; оставайтесь с оплатой по мере использования до тех пор, пока использование не станет высоким и стабильным. Оценка только на входе. Выход — это дорогая половина; используйте реалистичную длину ответа. Игнорирование уровня поддержки. Обязательный платный план поддержки сам по себе может превышать небольшой символический счет.
Часто задаваемые вопросы
Цены на токены Azure OpenAI такие же, как и у OpenAI?
Да, по сути — Azure указывает одинаковые скорости ввода и вывода для каждого токена для одной и той же модели. Разница в общей стоимости обусловлена корпоративными расходами Azure, а не токенами.
Каков реальный процент накладных расходов Azure?
Производственные развертывания обычно добавляют 20–40 % к стоимости токена за поддержку, работу в сети, выход и мониторинг. Использование Light Dev может быть ниже; в жестко регулируемых предприятиях этот показатель может быть выше.
Сколько стоит ПТУ?
Примерно 2000 долларов США за единицу в месяц в качестве фиксированного резервирования, без платы за каждый токен. Точная цена и необходимое количество единиц зависят от вашей пропускной способности и региона; рассматривайте поле здесь как приближение.
Должен ли стартап использовать Azure OpenAI или прямой API?
Если вам не нужны соответствие требованиям Azure, сеть или существующая система выставления счетов Azure, прямой API OpenAI позволяет избежать большей части накладных расходов. Выбирайте Azure, если управление предприятием, размещение данных или существующие обязательства Azure перевешивают дополнительные затраты.
Только оценить. Цены на Azure OpenAI и размеры PTU меняются. Прежде чем составлять бюджет, уточните текущие тарифы у Microsoft.