Автономные агенты обновляют контекст на каждом этапе — наблюдайте, как резко возрастает счет токенов.
Счет за токен увеличивается, поскольку накопленный контекст пересчитывается в каждом цикле — 10-шаговый агент может стоить в 20–40 раз больше однократного вызова. Разбить один чат на калькулятор стоимости чат-ботаи убедитесь, что растущий контекст соответствует контекстное окно калькулятора.
Обмены
Инструменты и хостинг
Калькулятор стоимости бесплатного агента ИИ — смоделируйте, как автономный агент, который повторно отправляет накапливаемый контекст на каждом этапе, превращает простую задачу в большой счет в токенах.
Агенты работают в цикле, и на каждом этапе повторно отправляется растущая история — системные запросы, предыдущие рассуждения и результаты каждого инструмента на данный момент. Этот накопленный контекст снова оплачивается как входные данные на каждом этапе, поэтому многоэтапная задача стоит в несколько раз дороже, чем один вызов, даже без учета дополнительных выходных данных.
Суммируйте или усекайте блокнот вместо хранения всей истории, ограничивайте количество шагов, сокращайте подробные выходные данные инструмента перед их отправкой обратно, кэшируйте стабильную системную подсказку и используйте более дешевую модель для рутинных шагов. Рычагом является повторно отправленный контекст, который увеличивается с каждым шагом.