Envie as páginas que você precisa, não o PDF inteiro
Despejar documentos inteiros no modelo é fácil e caro. Recupere as páginas relevantes primeiro. Para custos de recuperação, consulte o Calculadora de custos do chatbot RAG.
Quanto custa executar milhares de PDFs por meio de um LLM.
Despejar documentos inteiros no modelo é fácil e caro. Recupere as páginas relevantes primeiro. Para custos de recuperação, consulte o Calculadora de custos do chatbot RAG.
Trocas
Ferramentas e hospedagem
Calculadora gratuita de custos de processamento de PDF – número de PDFs, páginas e tokens para o custo LLM de processamento deles.
Custo por PDF = páginas × tokens/página × preço de entrada + tokens de saída × preço de saída. A alimentação de documentos inteiros exige muita entrada, portanto, a contagem de páginas e o quanto você envia determinam mais a conta do que o comprimento da resposta.
Não envie documentos inteiros às cegas — extraia ou recupere apenas as páginas relevantes, fragmente PDFs longos e armazene em cache os prompts repetidos do sistema. A entrada de documentos completos é o custo maior e mais evitável.