—
incorporação única de corpus
—consultar incorporações / mês
—reincorporação / ano
—ano total 1
Custo único do corpus por provedor
Mesmo corpus, cada modelo de incorporação foi classificado como mais barato primeiro.
| Modelo | Tokens de US$/1 milhão | Escurece | Custo do corpus |
|---|
Incorporar o corpus é a parte barata
O primeiro instinto é temer o custo de incorporar uma grande base de conhecimento. Relaxe: os modelos de incorporação modernos são extraordinariamente barato por token – geralmente de dois a treze centavos por milhão de tokens. Incorporar 100.000 pedaços de 500 tokens equivale a 50 milhões de tokens, o que fica em algum lugar entre $ 1 e $ 7 como um custo único na maioria dos provedores. Para corpora típicos, a incorporação única é um erro de arredondamento. Os custos que realmente somam estão em outro lugar e são fáceis de perder quando você está fazendo uma estimativa.
Os dois custos que as pessoas esquecem
Primeiro, cada consulta também é incorporada. Um produto de pesquisa que incorpora 500.000 consultas por mês está pagando uma pequena taxa recorrente que, ao longo de um ano, pode exceder discretamente o custo único do corpus. Segundo, alterar seu modelo de incorporação ou fragmentar reincorpora tudo - mude de um modelo pequeno para um grande ou reorganize-o para melhor recuperação e você pagará novamente o custo total do corpus. As equipes que iteram na qualidade da recuperação são reincorporadas várias vezes antes de ficarem satisfeitas. Defina acima as reintegrações esperadas por ano para ver quanto essa iteração realmente custa.
Armazenamento é a conta que nunca para
Embeddings são vetores, e armazenar milhões deles em um banco de dados de vetores gerenciado – Pinecone, Qdrant Cloud, Weaviate – geralmente é a solução. maior linha em andamento, diminuindo a própria API de incorporação. Os modelos de dimensão superior (1536, 3072) custam mais para armazenar e pesquisar do que os compactos, portanto, o modelo de incorporação mais barato por token não é automaticamente o sistema mais barato. Defina o preço do armazenamento e da consulta no calculadora de custos de banco de dados vetorial, em seguida, coloque todo o pipeline junto no Calculadora de custos RAG.
Ferramentas e guias relacionados
Calculadora de custos de banco de dados vetorial · Calculadora de custos RAG · Calculadora de custos de ajuste fino · Calculadora de custo de token LLM · Todas as APIs de IA
Custo de migração de modeloPlanejador de orçamento de APICusto da janela de contextoCusto do chatbot RAGPreço-desempenho de IA
Como funciona esta calculadora
Esse Calculadora de custos de incorporações estima quanto custa transformar um corpus de texto em vetores. Você digita seu número de documentos ou pedaços e o média de tokens por pedaço; multiplicados juntos, isso dá ao volume total de tokens os preços da calculadora em relação à taxa por token escolhida modelo de incorporação. Ele compara provedores como OpenAI, Cohere, Voyage, Google e Jina, de modo que o mesmo corpus é citado lado a lado. O resultado se divide em um custo único para incorporar tudo de uma vez, um custo recorrente de reincorporação com base em quantas vezes por ano você reindexa e um custo da consulta derivado de sua contagem mensal de consultas e tokens por consulta.
A alavanca principal é o total de tokens, portanto, o tamanho do bloco e a profundidade do corpus determinam mais o número do que o provedor que você escolher. Assista o frequência de reincorporação: a troca de modelos ou o reprocessamento de todo o corpus repete a cobrança única completa a cada vez, o que muitas vezes diminui o gasto diário de consultas. Um modelo por token mais barato ainda pode custar mais no geral se precisar de vetores maiores ou reindexação frequente, então pondere único, recorrente e de consulta linhas em conjunto, em vez de comparar apenas as taxas principais.
Perguntas frequentes
Quanto custa incorporar documentos?
A incorporação é cobrada por token, como uma entrada LLM. Total de tokens = documentos × média de tokens por documento e, em seguida, × preço do provedor por milhão de tokens. Os modelos de incorporação modernos são baratos – geralmente de US$ 0,02 a US$ 0,13 por milhão de tokens – portanto, incorporar alguns milhões de tokens custa de centavos a poucos dólares. O custo só importa em corpora muito grandes ou quando você reincorpora com frequência.
Qual é o custo recorrente oculto dos embeddings?
Duas coisas que as pessoas esquecem. Primeiro, cada consulta de pesquisa também deve ser incorporada – em um alto volume de consultas, esse custo recorrente pode exceder a incorporação única do corpus. Em segundo lugar, sempre que você alterar o modelo de incorporação ou a estratégia de agrupamento, deverá reincorporar todo o corpus do zero, pagando novamente o custo total. O armazenamento de banco de dados vetorial é separado e geralmente é a conta contínua mais importante.
Qual modelo de incorporação é mais barato?
Entre as APIs hospedadas, modelos pequenos como OpenAI text-embedding-3-small e o modelo de incorporação do Google estão entre os mais baratos por token, enquanto modelos maiores como text-embedding-3-large e o carro-chefe da Voyage custam mais, mas capturam mais nuances. O mais barato por token nem sempre é o mais barato no geral — uma incorporação de maior qualidade pode exigir menos pedaços e menos reclassificação. Compare o preço com a qualidade da sua recuperação, não isoladamente.