—
incorporação completa inicial—rotatividade mensal
—total do ano 1
—uma reindexação completa
Custo anual por rotatividade mensal
A rotatividade é o fator que a maioria das pessoas sente falta. Um corpus que movimenta mais de 20% ao mês custa muito mais para se manter atualizado do que sugere a incorporação única – antes de qualquer migração de modelo.
| Rotatividade mensal | Documentos re-incorporados / mês | Total do ano 1 |
|---|
O custo que chega após o lançamento
Os projetos de geração aumentada de recuperação quase sempre são custeados da mesma maneira: conte os documentos, multiplique por tokens e o preço de incorporação, e aí está o seu número. Esse número é real, mas é apenas o custo de incorporar o corpus uma vez. Uma base de conhecimento não é um museu – artigos de suporte são reescritos, documentos de produtos são atualizados, novos conteúdos chegam a cada semana. Cada uma dessas mudanças precisa ser reincorporada e, se um décimo do seu corpus mudar a cada mês, você estará pagando discretamente para reincorporar um décimo de tudo, mês após mês. Em um grande corpus, esse projeto recorrente pode rivalizar com o inicial dentro de um ano e nunca aparece na estimativa de lançamento.
Depois, há o precipício da migração. A incorporação de vetores de modelos diferentes não é intercambiável; portanto, no dia em que você mudar para um modelo de incorporação mais novo ou mais barato, será necessário reincorporar todo o corpus de uma só vez - uma reindexação completa. Esse único evento pode custar mais do que um ano inteiro de rotatividade normal, e é exatamente por isso que as equipes adiam as atualizações de modelo que deveriam fazer. Fazer um orçamento antecipado transforma uma surpresa assustadora em um item de linha. Para manter o número contínuo baixo, reincorpore apenas o que realmente mudou, rastreando os hashes dos documentos, faça pedaços finos para que uma pequena edição não reincorpore um arquivo inteiro e agrupe os trabalhos para obter qualquer desconto. Dimensione o restante do pipeline com o Calculadora de custos RAG, o calculadora de custos de incorporações e o calculadora de custos de banco de dados vetorial. Os preços são estimativas de referência editáveis – confirme a taxa atual nos documentos do seu provedor.
Como funciona esta calculadora
O Calculadora de custos de reintegração da base de conhecimento estima o custo anual contínuo de manter atualizado o índice vetorial de um sistema RAG, não apenas o custo único da execução inicial de incorporação. Multiplica seu documentos em corpus por tokens médios por documento para dimensionar toda a base de conhecimento e, em seguida, aplica o preço de incorporação por 1 milhão de tokens. A partir daí, ele se divide no trabalho recorrente: rotatividade mensal (a porcentagem de documentos que mudam e devem ser reincorporados), reindexados completos por ano (reconstruções completas, como após a troca de modelos de incorporação) e um reincorporar sobrecarga porcentagem que contabiliza novas tentativas, fragmentação de desperdício e reprocessamento. O resultado é um total anual realista, em vez de um único número inicial.
O insight principal é que a rotatividade, e não o tamanho do corpus, geralmente impulsiona a conta de longo prazo. Uma base de conhecimento grande, mas estática, custa pouco para manter, enquanto uma base menor com alta rotatividade mensal pode facilmente exceder seu custo inicial de incorporação dentro de um ano. Observe o trade-off entre frequência de reindexação e atualização: reconstruções completas garantem consistência, mas multiplicam os gastos com tokens, portanto, reserve-os para mudanças genuínas de modelo e, caso contrário, conte com atualizações incrementais de rotatividade. Ajuste o valor indireto para corresponder ao seu pipeline real, já que novas tentativas e reagrupamentos são fáceis de subestimar.
Perguntas frequentes
Por que uma base de conhecimento RAG custa dinheiro todos os meses, e não apenas uma vez?
Porque os documentos mudam. O custo único que a maioria das equipes orçamenta é incorporar todo o corpus uma vez, mas uma base de conhecimento real mudou – novos documentos adicionados, os existentes editados – e cada documento alterado precisa ser reincorporado para permanecer pesquisável. Se 10% de um grande corpus mudar a cada mês, você estará reincorporando 10% de tudo todo mês, para sempre. Essa linha recorrente é invisível na maioria das estimativas de custos RAG, e esta calculadora a torna explícita junto com o custo inicial único.
O que é uma reindexação completa e por que é tão cara?
Uma reindexação completa é a reincorporação de todo o seu corpus do zero, geralmente porque você mudou para um modelo de incorporação diferente ou mais recente. Incorporações de modelos diferentes não são compatíveis — você não pode misturar vetores de um modelo antigo e um novo no mesmo índice — portanto, atualizar o modelo força você a incorporar novamente tudo de uma vez. Em um corpus grande que pode diminuir um ano inteiro de rotatividade incremental em uma única fatura. Esta ferramenta mostra o custo de uma reindexação completa separadamente para que você possa planejar migrações de modelo em vez de ser surpreendido por elas.
Como posso reduzir o custo contínuo de reincorporação?
Três alavancas. Primeiro, reincorpore apenas o que realmente mudou - rastreie os hashes do documento para que um arquivo inalterado nunca seja reincorporado e incorpore novamente no nível do bloco para que a edição de um parágrafo não reincorpore um livro inteiro. Segundo, escolha um modelo de incorporação mais barato ou uma dimensão menor onde a qualidade da recuperação permitir; os preços de incorporação variam amplamente. Terceiro, agrupe seus trabalhos de reintegração para usar qualquer desconto de API em lote. A calculadora permite que você marque o churn e o preço para ver quanto cada alavanca economiza antes de construir o pipeline.