Lo que cuesta ejecutar miles de archivos PDF a través de un LLM.
Volcar documentos completos en el modelo es fácil y costoso. Recupere las páginas relevantes primero. Para conocer el costo de recuperación, consulte el Calculadora de costes del chatbot RAG.
Intercambios
Herramientas y alojamiento
Calculadora gratuita de costos de procesamiento de PDF: número de archivos PDF, páginas y tokens en comparación con el costo de LLM para procesarlos.
Costo por PDF = páginas × tokens/página × precio de entrada + tokens de salida × precio de salida. Alimentar documentos completos requiere mucho ingreso, por lo que el número de páginas y la cantidad que envía aumentan la factura más que la longitud de la respuesta.
No envíe documentos completos a ciegas: extraiga o recupere solo las páginas relevantes, fragmente archivos PDF largos y guarde en caché las indicaciones repetidas del sistema. La entrada de documentos completos es el coste más grande y evitable.