Custo anual por rotatividade mensal
A rotatividade é o fator que a maioria das pessoas sente falta. Um corpus que movimenta mais de 20% ao mês custa muito mais para se manter atualizado do que sugere a incorporação única – antes de qualquer migração de modelo.
| Rotatividade mensal | Documentos re-incorporados / mês | Total do ano 1 |
|---|
O custo que chega após o lançamento
Os projetos de geração aumentada de recuperação quase sempre são custeados da mesma maneira: conte os documentos, multiplique por tokens e o preço de incorporação, e aí está o seu número. Esse número é real, mas é apenas o custo de incorporar o corpus uma vez. Uma base de conhecimento não é um museu – artigos de suporte são reescritos, documentos de produtos são atualizados, novos conteúdos chegam a cada semana. Cada uma dessas mudanças precisa ser reincorporada e, se um décimo do seu corpus mudar a cada mês, você estará pagando discretamente para reincorporar um décimo de tudo, mês após mês. Em um grande corpus, esse projeto recorrente pode rivalizar com o inicial dentro de um ano e nunca aparece na estimativa de lançamento.
Depois, há o precipício da migração. A incorporação de vetores de modelos diferentes não é intercambiável; portanto, no dia em que você mudar para um modelo de incorporação mais novo ou mais barato, será necessário reincorporar todo o corpus de uma só vez - uma reindexação completa. Esse único evento pode custar mais do que um ano inteiro de rotatividade normal, e é exatamente por isso que as equipes adiam as atualizações de modelo que deveriam fazer. Fazer um orçamento antecipado transforma uma surpresa assustadora em um item de linha. Para manter o número contínuo baixo, reincorpore apenas o que realmente mudou, rastreando os hashes dos documentos, faça pedaços finos para que uma pequena edição não reincorpore um arquivo inteiro e agrupe os trabalhos para obter qualquer desconto. Dimensione o restante do pipeline com o Calculadora de custos RAG, o calculadora de custos de incorporações e o calculadora de custos de banco de dados vetorial. Os preços são estimativas de referência editáveis – confirme a taxa atual nos documentos do seu provedor.