—
первоначальная полная вставка—ежемесячный отток
—всего за 1 год
—одно полное переиндексирование
Годовая стоимость в зависимости от ежемесячного оттока
Отток — это движущая сила, которую упускает большинство людей. Поддержание актуальности корпуса, оборот которого превышает 20% в месяц, обходится гораздо дороже, чем предполагает единовременное встраивание, — до какой-либо миграции модели.
| Ежемесячный отток | Документы повторно встраиваются в месяц | Всего за 1 год |
|---|
Стоимость, которая поступает после запуска
Проекты генерации с расширенным поиском почти всегда оцениваются одинаково: подсчитайте документы, умножьте на токены и цену внедрения, и вот вам цифра. Это число реально, но это всего лишь стоимость внедрения корпуса. один раз. База знаний — это не музей: статьи поддержки переписываются, документация по продуктам обновляется, новый контент появляется каждую неделю. Каждое из этих изменений необходимо встроить заново, и если каждый месяц меняется десятая часть вашего корпуса, вы спокойно платите за повторное встраивание десятой части всего, месяц за месяцем. В большом корпусе этот повторяющийся счет может конкурировать с первоначальным в течение года и никогда не отображается в оценке запуска.
Затем возникает миграционный обрыв. Векторы внедрения из разных моделей не являются взаимозаменяемыми, поэтому в тот день, когда вы перейдете на более новую или более дешевую модель внедрения, вам придется повторно встроить весь корпус сразу — полную переиндексацию. Это одно событие может стоить больше, чем целый год обычного оттока сотрудников, и именно поэтому команды откладывают обновления моделей, которые им следует сделать. Предварительное составление бюджета превращает пугающий сюрприз в статью расходов. Чтобы снизить постоянное количество, повторно встраивайте только то, что действительно изменилось, отслеживая хэши документов, разбивайте на мелкие части, чтобы небольшое редактирование не приводило к повторному встраиванию всего файла, и группируйте задания с любой скидкой. Измерьте остальную часть трубопровода с помощью Калькулятор стоимости Тряпки, Калькулятор стоимости встраивания и векторный калькулятор стоимости базы данных. Цены являются редактируемыми справочными оценками — подтвердите текущую цену в документах вашего провайдера.
Часто задаваемые вопросы
Почему база знаний RAG стоит денег каждый месяц, а не один раз?
Потому что документы меняются. Единовременные расходы большинства команд заключаются в единоразовом внедрении всего корпуса, но реальная база знаний постоянно меняется — добавляются новые документы, редактируются существующие — и каждый измененный документ приходится встраивать заново, чтобы он оставался доступным для поиска. Если 10% большого корпуса меняется каждый месяц, вы повторно встраиваете 10% всего корпуса каждый месяц, навсегда. Эта повторяющаяся линия невидима в большинстве смет расходов RAG, и этот калькулятор делает ее явной наряду с единовременными первоначальными затратами.
Что такое полная реиндексация и почему она такая дорогая?
Полное переиндексирование — это повторное встраивание всего корпуса с нуля, обычно потому, что вы перешли на другую или более новую модель внедрения. Встраивания из разных моделей несовместимы — нельзя смешивать векторы из старой модели и новой в одном индексе — поэтому обновление модели вынуждает перевставлять все сразу. На большом корпусе, который может затмить целый год постепенного оттока в одном законопроекте. Этот инструмент показывает стоимость одного полного переиндексирования отдельно, поэтому вы можете планировать миграцию модели, а не удивляться ей.
Как я могу снизить текущие затраты на повторное внедрение?
Три рычага. Во-первых, повторно встраивайте только то, что действительно изменилось: отслеживайте хэши документов, чтобы неизмененный файл никогда не встраивался повторно, и повторно встраивайте на уровне фрагментов, чтобы редактирование одного абзаца не приводило к повторному встраиванию всей книги. Во-вторых, выберите более дешевую модель внедрения или меньшую размерность, если позволяет качество извлечения; Цены на встраивание сильно различаются. В-третьих, группируйте задания по повторному внедрению, чтобы использовать любую скидку на пакетный API. Калькулятор позволяет вам рассчитать отток и цену, чтобы увидеть, сколько экономит каждый рычаг, прежде чем строить конвейер.