Повторяющаяся позиция, которую никто не проверяет
Раздутая системная подсказка или стопка многословных примеров из нескольких примеров взимается снова за каждый отдельный запрос, поэтому единоразовое редактирование приносит реальные деньги в больших масштабах. Обрежьте фиксированный префикс, а затем кэшируйте то, что осталось, чтобы оплата за чтение осуществлялась по сниженной скорости чтения. Проверьте это с помощью быстрый калькулятор экономии кэширования, размер всего вызова на Калькулятор стоимости токена LLMи сравнить модели на самый дешевый инструмент LLM API.