Каждая модель Bedrock для этой рабочей нагрузки
Токены одного и того же объема, цены по всему каталогу — на первом месте самые дешевые.
| Модель | Вход/Выход (за 1М) | По запросу | Ежемесячно |
|---|
Как на самом деле работает биллинг Bedrock
Amazon Bedrock — это шлюз, а не отдельная модель. Вы звоните Клоду, семейству Nova от Amazon, Llama от Meta, Mistral или Titan через один API, и каждый из них рассчитывается одинаково: ставка за миллион. вход токены (все, что вы отправляете — системное приглашение, контекст, сообщение пользователя) и отдельная, обычно более высокая, ставка за миллион выход токены (то, что генерирует модель). По требованию нет ежемесячного минимума; ваш счет представляет собой чисто жетоны × ставка. Тонкость, которую упускают большинство оценок, заключается в том, что деньги идут именно на результат: его цена в два-пять раз выше, чем на входе на уровнях Claude и Nova, поэтому болтливая модель, которая пишет длинные ответы, стоит гораздо больше, чем предполагает ее скорость ввода.
Этот калькулятор делает это видимым. Введите токены, которые отправляет и получает типичный запрос, а также количество ежемесячных запросов, и он разделяет счет на входную долю и выходную долю, чтобы вы могли видеть, какую из них атаковать. Затем он оценивает такой же рабочую нагрузку по всему каталогу Bedrock и ранжирует их, поскольку самая дешевая модель для сумматора, который много читает и мало пишет, не является самой дешевой моделью для генератора, который записывает длинные выходные данные. Заголовок числа «за 1 миллион» редко говорит вам о победителе — это делает ваш набор токенов.
Три рычага, которые сократили счет Bedrock
1. Выбор модели. Переход от пограничного Claude к Nova Lite или Llama для запросов, не требующих глубокого обоснования, может сократить затраты более чем на 90 % — в таблице показано, насколько именно для вашего микса. Направляйте сложные подсказки к большой модели, а простые — к дешевой; размер разделения с помощью калькулятор маршрутизации модели. 2. Пакетный вывод. Если работа не выполняется в режиме реального времени (ночное обогащение, массовая классификация, оценка), пакетный режим Bedrock выполняет ее примерно за полцены. Переверните режим ценообразования выше, чтобы увидеть это. 3. Оперативное кэширование. Когда многие запросы имеют большой фиксированный префикс (длинное системное приглашение, документ, несколько примеров), кэширование этого ввода снижает его скидку до 90 %; установите процент кэширования ввода для моделирования экономии и копайте глубже с помощью быстрый калькулятор кэширования.
Bedrock против прямого API
Для той же модели Клода прейскурантные цены за токен на Bedrock и прямой антропный API обычно одинаковы или имеют погрешность округления. Таким образом, выбор является операционным, а не финансовым: выберите Bedrock, чтобы сохранять выводы внутри своей учетной записи AWS, IAM и VPC, консолидировать выставление счетов и получать доступ к Nova, Llama, Mistral и Titan посредством одной интеграции. Выберите прямой API для новейших моделей с первого дня и простейшую настройку. Если весь вопрос в стоимости, сравните победителя здесь с самый дешевый LLM API между поставщиками, прежде чем принять решение.
Как его использовать
1. Выберите модель и введите ежемесячный объем запроса.
2. Введите типичные входные и выходные токены для каждого запроса (примерное среднее значение подойдет).
3. Выберите «по требованию» или «пакетный» и установите долю кэшируемых входных данных.
4. Прочтите ежемесячную стоимость и стоимость каждого запроса, а затем просмотрите таблицу, чтобы узнать, подходит ли более дешевая модель для той же работы.
Распространенные ошибки
Оценка только на входных токенах. Вывод — это дорогая половина — всегда указывайте реалистичную длину вывода. Использование средних значений, скрывающих длинные ответы. Если некоторые ответы в 5 раз длиннее, ваш реальный счет превышает средний показатель; смоделируйте и худший случай. Забывая о свободных рычагах. Пакетная обработка и кэширование — это однократная экономия, которую многие команды никогда не включают. Игнорирование сопутствующих расходов. Обязательства по передаче данных, хранению для RAG и предоставленной пропускной способности не входят в стоимость каждого токена — бюджет для них предусмотрен отдельно.
Часто задаваемые вопросы
Взимает ли Bedrock базовую или ежемесячную плату?
Нет, Bedrock по требованию — это чистая оплата за токен без минимальной суммы. Вы платите только фиксированную сумму, если выбираете Provisioned Throughput, при котором емкость резервируется по часам для высоких и стабильных рабочих нагрузок.
Какая модель Bedrock самая дешевая?
Amazon Nova Micro и Nova Lite являются самыми дешевыми для текстовых сообщений, их цена составляет доли цента за тысячу токенов. Llama 3.3 70B — это сильный средний уровень, а Claude Haiku — самый дешевый Claude. В таблице они ранжированы для вашего точного набора токенов.
Сколько пакетная экономия на Bedrock?
Примерно 50 % по сравнению с запросом для заданий, не требующих немедленного реагирования. Переключите режим ценообразования на пакетный, чтобы увидеть разницу в вашей рабочей нагрузке.
Могу ли я смешивать модели, чтобы сэкономить деньги?
Да, перенаправление простых запросов на дешевую модель, а сложных — на пограничную модель — самый важный рычаг после выбора правильного значения по умолчанию. Оцените смешанную стоимость с помощью калькулятора экономии на маршрутизации модели.
Только оценить. Цены на базовые продукты различаются в зависимости от региона и меняются — уточняйте текущие тарифы в AWS, прежде чем составлять бюджет.