—
ahorro mensual autohospedaje (frente a administrado)—API administrada / mes
—total autohospedado / mes
—Se necesitan instancias de GPU
API administrada versus autohospedada, por volumen mensual
El mismo precio administrado, costo de GPU, entradas de configuración y mantenimiento que se muestran arriba, abarcados por el volumen de artículos: las instancias necesarias (y, por lo tanto, el costo autohospedado) se vuelven a calcular en cada fila. La fila resaltada es la más cercana a su volumen de equilibrio.
| Artículos/mes | API administrada | Instancias | Total autohospedado | Opción más barata |
|---|
Cómo se conecta esto con otras herramientas
Esta calculadora valora una decisión específica: si pagar por solicitud de una API de moderación/guardrails administrada o ejecutar un modelo de guardrail de código abierto usted mismo. Si ya sabe que quiere una API administrada y solo necesita la factura sin procesar, la Calculadora de costos de moderación de contenido precios sencillos, precios administrados de $ por 1,000 artículos, y el Calculadora de costos de pila de barandillas de IA fija el precio de una pila administrada por nivel de tarifas en todos los recuentos de escaneo; ninguno de esos modelos es el lado autohospedado en absoluto. La forma de infraestructura autohospedada aquí (costo de la instancia de GPU, horas de configuración amortizadas, horas de mantenimiento continuo) es el mismo patrón de modelado utilizado para alojar una servidor MCP, simplemente aplicado a un clasificador de moderación en lugar de a un adaptador de protocolo. Y si la pregunta sobre construcción versus compra que realmente tiene es sobre un chat de propósito general o un modelo de finalización en lugar de un clasificador de seguridad estrecho, esa es una forma de costo diferente con diferentes tamaños de GPU; consulte la Calculadora LLM autohospedada frente a API para esa comparación.
Cómo funciona esta calculadora
El Calculadora de API autohospedada y administrada de Guardrails compara dos formas de costos para el mismo trabajo: comparando el contenido con las reglas de seguridad. El lado administrado es simple: artículos revisados por mes dividido por 1.000, multiplicado por el precio API gestionado, ofrece una factura mensual que aumenta linealmente con el volumen, sin límite máximo. El lado autohospedado es una función escalonada: el volumen de su artículo dividido por el capacidad de rendimiento por instancia de GPU, redondeado hacia arriba, da la número de instancias necesarias, cada uno facturado en el piso Costo de la instancia de GPU independientemente de qué tan cerca del máximo lo ejecutes. Además de esa línea de infraestructura, el horas de configuración únicas multiplicado por tu tarifa por hora y se extendió por todo el ventana de amortización agrega un cargo de instalación mensual y horas de mantenimiento multiplicado por la misma tarifa agrega un cargo de mantenimiento mensual continuo. La suma de la infraestructura de GPU, la configuración amortizada y el mantenimiento da la total autohospedado, y administrado menos autohospedado le brinda a su ahorro mensual – negativo a bajo volumen, ya que incluso una instancia de GPU inactiva más la configuración y el mantenimiento pueden costar más que una pequeña factura administrada.
El número que vale la pena recordar es el volumen de equilibrio: el recuento exacto de elementos donde el costo mensual fijo de una única instancia autohospedada (GPU + configuración amortizada + mantenimiento) es igual a lo que cobraría la API administrada por ese mismo volumen. Por debajo de ese volumen, la API administrada es más barata porque estás pagando por una instancia de GPU completa que no necesitas completar. Por encima de este nivel, el autohospedaje es más barato y sigue siendo más barato por un margen cada vez mayor, porque la factura administrada sigue subiendo linealmente mientras que la línea autohospedado solo salta en pasos planos cada vez que se cruza el límite de rendimiento de otra instancia. Esta es una comparación de costo mínimo: no pesa las diferencias de latencia, confiabilidad o calidad del modelo entre un proveedor administrado y un modelo de código abierto como Llama Guard, solo el costo directo en dólares de las dos formas de ejecutar la verificación.
Preguntas frecuentes
¿Por qué la decisión de guardarrails entre autohospedado y administrado tiene un punto de equilibrio real en lugar de que una opción siempre gane?
Porque las dos opciones tienen formas de costos fundamentalmente diferentes, no sólo precios diferentes. Una API de moderación administrada cobra por solicitud: el costo aumenta linealmente con el volumen para siempre, sin límite. Un modelo de barrera autohospedado se ejecuta en una instancia de GPU con un costo mensual fijo y un límite de rendimiento estricto: una instancia maneja hasta su capacidad por una tarifa fija, y usted solo paga por una segunda instancia una vez que supera ese límite. Esa es una función escalonada, no una línea. En volúmenes bajos, el costo fijo de incluso una instancia de GPU más los gastos generales de configuración y mantenimiento es mayor que la pequeña factura administrada, por lo que la API gana. Más allá de cierto volumen, el costo lineal administrado sube por encima del costo fijo del autohospedaje y permanece allí, por lo que el autohospedaje gana a partir de ese momento y la brecha sigue ampliándose. El punto de cruce entre el escalón plano y la línea ascendente es el volumen de equilibrio: un número específico y computable, no una cuestión de opinión, y es por eso que la respuesta honesta a "cuál es más barato" es siempre "depende de su volumen", no una recomendación general en cualquier caso.
¿Qué son los modelos de barandillas de código abierto como Llama Guard y NeMo Guardrails, y por qué son lo suficientemente baratos como para autohospedarse?
Son clasificadores especialmente diseñados, no modelos de chat de uso general. Llama Guard está optimizado específicamente para leer un fragmento de texto o un turno de conversación y generar una clasificación de seguridad frente a una taxonomía fija de categorías (violencia, incitación al odio, autolesiones y similares) en lugar de mantener una conversación o escribir código. NeMo Guardrails es un marco para conectar clasificadores, reglas y modelos pequeños en un canal de moderación en lugar de un único modelo grande. Debido a que la tarea es limitada (clasificar, no generar texto de formato largo), estos modelos pueden ser mucho más pequeños que un modelo de chat fronterizo y aun así funcionar bien, lo que significa que se ejecutan aceptablemente en una única instancia de GPU modesta en lugar de los clústeres de múltiples GPU que necesita un modelo grande de propósito general. Esa es la única razón por la que el lado autohospedado de esta calculadora es viable: un pequeño modelo específico de clasificación en una instancia de GPU de $450/mes puede procesar millones de elementos al mes, a un costo fijo que el precio por solicitud de una API administrada no puede igualar una vez que el volumen sube lo suficiente.
¿Qué no tiene en cuenta esta calculadora?
Esta es una comparación del costo mínimo, no una decisión completa de construir versus comprar. No modela las diferencias de latencia y confiabilidad: una API administrada generalmente tiene garantías de tiempo de actividad y redundancia geográfica más maduras que una instancia única autoadministrada, y la conmutación por error para una configuración autohospedada es en sí misma un costo de ingeniería que no se refleja en las horas de mantenimiento. No modela la carga de mantenimiento más allá de las horas que ingresa: modela actualizaciones a medida que surgen nuevos patrones de ataque y jailbreak, cambios de taxonomía a medida que evoluciona la política y respuesta a incidentes cuando algo se escapa, todo lo cual puede exceder una estimación fija de horas mensuales en la práctica. Y no modela las diferencias de calidad entre los proveedores y los modelos de código abierto: el clasificador de un proveedor administrado puede detectar categorías o idiomas que un modelo de código abierto omite, o viceversa, y esa brecha de precisión tiene un costo real en falsos positivos y falsos negativos que esta herramienta no puede valorar. Utilice el número aquí como el costo mínimo de la decisión, luego compárelo con esos factores antes de comprometerse en cualquier sentido.
¿En qué se diferencia de la calculadora de costos de moderación de contenido y la calculadora de costos de pila de barreras de seguridad de IA de este sitio?
Ambas herramientas solo tienen precio por servicios administrados. La Calculadora de costos de moderación de contenido modela una sencilla factura de API administrada de $ por 1,000 elementos sin ninguna opción de autohospedaje; responde "¿cuánto me costará la API administrada?", no "podría ejecutar esto más barato yo mismo". La calculadora de costos de pila de AI Guardrails modela una pila administrada por nivel de tarifas (el escaneo cuenta con niveles de precios) nuevamente exclusivamente en el lado administrado, útil para comparar proveedores administrados entre sí, pero no con el autohospedaje. Esta calculadora es la primera en el sitio que coloca un modelo de barrera de código abierto y autohospedado en el otro lado de la comparación y calcula el volumen exacto en el que comienza a superar el precio lineal de una API administrada, lo cual es una pregunta que ninguna de esas herramientas puede responder porque solo modelan un lado del comercio.