Пакетная, гибкая, стандартная и приоритетная — одна и та же модель, четыре цены.
Задержка — это рычаг: асинхронная пакетная работа никогда не должна платить стандартную цену, и только по-настоящему интерактивные пути нуждаются в приоритете. Выбор размера одной модели? Оцените каждую модель на Сравнение более 300 моделейи проверьте асинхронную экономию на Калькулятор экономии пакетного API.
Обмены
Инструменты и хостинг
Бесплатный калькулятор уровня обслуживания LLM — ваши токены и стандартная цена к стоимости на пакетном, гибком, стандартном и приоритетном уровнях.
Большинство крупных провайдеров продают одну и ту же модель с несколькими уровнями задержки. Пакетное выполнение ваших запросов асинхронно (часто в течение 24 часов) примерно за полцены; гибкий уровень или уровень обслуживания дешевле, но медленнее или варьируется; Стандартный — значение по умолчанию; Уровень приоритета требует дополнительной оплаты за гарантированное быстрое реагирование.
Всякий раз, когда работа не связана с пользователем в режиме реального времени — массовое обобщение, внедрение, оценка, маркировка данных, ночные задания. Пакетная обработка обычно производится со скидкой примерно 50 %, поэтому перемещение асинхронных рабочих нагрузок со стандартного уровня может примерно вдвое сократить эту часть счета без потери качества.