Автономные агенты обновляют контекст на каждом этапе — наблюдайте, как резко возрастает счет токенов.
Счет за токен увеличивается, поскольку накопленный контекст пересчитывается в каждом цикле — 10-шаговый агент может стоить в 20–40 раз больше однократного вызова. Разбить один чат на калькулятор стоимости чат-ботаи убедитесь, что растущий контекст соответствует контекстное окно калькулятора.
The Калькулятор стоимости шага агента AI оценивает общий счет токенов для запуска автономного агента с помощью многоэтапной задачи. Поскольку большинство агентов повторно отправляют свой накапливаемый контекст на каждом этапе, стоимость не растет линейно — она увеличивается по мере того, как предыдущие рассуждения, выходные данные инструментов и инструкции накапливаются в каждом новом запросе. Этот инструмент вычисляет промежуточную сумму на основе предоставленных вами входных данных: количество шагов на задачу, фиксированный системные и базовые токены присутствует при каждом вызове, добавлен контекст за шаг что увеличивает каждый последующий запрос, выходные токены за шаги ваши ставки за миллион за вход и выход жетоны. Доминирующим фактором обычно является растущая сторона ввода: задача, которая выглядит дешевой за шаг, может стать дорогостоящей, если один и тот же контекст перечитывается десятки раз.
Ключевым компромиссом, на который стоит обратить внимание, является количество шагов в зависимости от роста контекста. Добавление шагов редко бывает бесплатным, поскольку каждый новый шаг также повторно отправляет все накопленное до него, поэтому входная стоимость масштабируется примерно пропорционально квадрату шагов, а не по прямой линии. Практический совет: запустите калькулятор дважды — один раз с ожидаемым количеством шагов и один раз с более длительным прогоном в худшем случае — чтобы увидеть, насколько быстро растет счет, когда агент зацикливается или повторяет попытку. Если в прогнозируемой стоимости преобладают входные токены, наиболее эффективными исправлениями являются обрезка или суммирование переносимого контекста, ограничение количества шагов и сохранение компактности базовой подсказки, а не уменьшение длины выходных данных.
Агенты работают в цикле, и на каждом этапе повторно отправляется растущая история — системные запросы, предыдущие рассуждения и результаты каждого инструмента на данный момент. Этот накопленный контекст снова оплачивается как входные данные на каждом этапе, поэтому многоэтапная задача стоит в несколько раз дороже, чем один вызов, даже без учета дополнительных выходных данных.
Суммируйте или усекайте блокнот вместо хранения всей истории, ограничивайте количество шагов, сокращайте подробные выходные данные инструмента перед их отправкой обратно, кэшируйте стабильную системную подсказку и используйте более дешевую модель для рутинных шагов. Рычагом является повторно отправленный контекст, который увеличивается с каждым шагом.
📚 Впервые здесь? Узнайте, как работают цены на LLM API →