Why is average agent cost not enough to budget?

Agent loops have high step-count variance. A task that averages 8 steps might occasionally need 25. If you cap at the average, 5% of runs get cut off early or spike your bill. P95/P99 planning gives you a safety margin for real worst-case costs.

What is a good max_steps budget for an AI agent?

Set max_steps at your P99 step count: avg_steps + 2.33 × step_std. This caps 99% of normal runs while letting them complete. Any agent exceeding this limit is likely stuck in a loop — a hard stop here saves money without harming normal runs.

How do parallel agent workers multiply cost?

Parallel workers each run full agent loops independently. Cost scales linearly: 10 workers = 10× the per-run cost. The P99 for the entire fleet is higher because at least one of 10 workers is very likely to hit a long run.

What is a runaway agent loop?

A runaway loop is when an agent repeatedly calls tools or itself without making progress — often due to a planning error or an unreachable goal. Without a max_steps cap, a single runaway can cost 10–100× a normal run. Always enforce a hard step cap in production.

How do I calculate P99 cost for an agent?

Assuming steps follow a roughly normal distribution: P99 steps ≈ avg_steps + 2.33 × step_std. P99 cost = P99_steps × tokens_per_step × (input_price + output_price) / 1M. This calculator does that math and also shows daily fleet budget.

Калькулятор бюджета цикла агента AI — стоимость за запуск P50/P95/P99

Калькулятор бюджета цикла AI-агента

✓ Последняя проверка: 15 июля 2026 г.· Источник: официальная страница цен поставщика.· Автоматический мониторинг — сообщить об изменении →

Разница в количестве шагов приводит к тому, что стоимость P99 в 3–10 раз превышает среднюю стоимость. Бюджет рассчитан на худший случай, а не на счастливый путь.

Почему средние затраты — это неправильный бюджет

Циклы агента не выполняют фиксированное количество шагов — они выполняются до тех пор, пока задача не будет выполнена или не будет достигнуто ограничение. Агент кодирования, который в среднем выполняет 8 вызовов инструментов, может увеличиться до 25 при сложном рефакторинге. Если вы планируете рассчитывать только на среднее значение, эти длинные прогоны либо провалятся в середине задачи, либо сведут на нет ваш ежемесячный счет.

Бюджет P95: охватывает 95 из каждых 100 пробегов. Подходит для некритических задач, где допустимы случайные перезапуски.

Бюджет P99: охватывает 99 из 100 пробегов. Право для производственных агентов, где невыполнение задач обходится дорого.

Максимальное количество шагов = P99: Если агент все еще работает со своим количеством шагов P99, он почти наверняка застрял в цикле. Здесь жесткое ограничение останавливает неконтролируемые затраты, не прерывая нормальное завершение строительства.

Сравните с Калькулятор стоимости ИИ-агента, стоимость решенного билета, и Планировщик бюджета API.

Часто задаваемые вопросы

Почему средней стоимости агента недостаточно для составления бюджета?

Циклы агента имеют высокую дисперсию количества шагов. Для задачи, которая в среднем состоит из 8 шагов, иногда может потребоваться 25. Если вы ограничите среднее значение, 5% прогонов будут прерваны раньше или увеличится ваш счет. Планирование P95/P99 дает вам запас прочности для реальных затрат в худшем случае.

Каков хороший бюджет max_steps для ИИ-агента?

Установите max_steps на количество шагов P99: avg_steps + 2,33 ×step_std. Это ограничивает 99% обычных запусков, позволяя им завершиться. Любой агент, превышающий этот предел, скорее всего, застрянет в цикле — жесткая остановка здесь экономит деньги, не нанося вреда обычным запускам.

Как работники параллельных агентов умножают затраты?

Каждый из параллельных рабочих процессов независимо запускает полные циклы агентов. Затраты масштабируются линейно: 10 рабочих = 10 × стоимость одного запуска. P99 для всего парка выше, потому что по крайней мере один из 10 рабочих, скорее всего, добьется успеха в долгосрочной перспективе.

Что такое цикл беглого агента?

Неуправляемый цикл — это когда агент неоднократно вызывает инструменты или самого себя, не добиваясь прогресса — часто из-за ошибки планирования или недостижимой цели. Без ограничения max_steps один прогон может стоить в 10–100 раз больше обычного забега. Всегда применяйте жесткие ограничения в производстве.

Как рассчитать стоимость P99 для агента?

Предполагая, что шаги следуют примерно нормальному распределению: шагов P99 ≈ avg_steps + 2,33 ×step_std. Стоимость P99 = P99_steps × tokens_per_step × (входная_цена + выходная_цена) / 1 миллион. Этот калькулятор выполняет эту математику, а также показывает ежедневный бюджет автопарка.