Como funciona esta calculadora
O Calculadora de custos de auto-hospedagem vs API calcula dois números mensais lado a lado: quanto você pagaria a um provedor com uma taxa de API por token e quanto custaria alugar uma GPU e executar você mesmo um modelo aberto. O lado da API é simples — seu fichas por mês multiplicado pelo Preço da API por 1 milhão de tokens. O lado do auto-host é impulsionado pelo Taxa horária da GPU, o modelo taxa de transferência em tokens por segundo, e seu utilização realista, que juntos definem um custo efetivo por token. A ferramenta então encontra o volume mensal em que a auto-hospedagem se torna mais barata do que pagar por token.
O número a observar mais de perto é utilização. Uma GPU alugada fatura a cada hora, esteja ocupada ou ociosa, portanto, uma placa operando com 20% da capacidade custa efetivamente cinco vezes mais por token do que uma mantida saturada. A auto-hospedagem tende a vencer apenas em volume alto e constante; abaixo do ponto de equilíbrio, o preço da API geralmente é mais barato e não acarreta compromisso fixo. Antes de mudar, confirme se o seu tráfego real pode manter o hardware genuinamente ocupado – uma estimativa otimista de rendimento ou utilização pode fazer com que a auto-hospedagem pareça muito melhor do que funciona na prática.
Perguntas frequentes
Quando a auto-hospedagem de um LLM é mais barata do que uma API?
Somente em volume alto e constante. Uma GPU alugada tem um custo fixo 24 horas por dia, 7 dias por semana, por isso compensa quando a taxa de transferência do token a preenche. Abaixo do volume de equilíbrio, a API por token é mais barata porque você paga apenas pelo que usa; acima dela, uma GPU bem utilizada supera o preço medido.
Que custos ocultos a auto-hospedagem adiciona?
A utilização é o grande problema: uma GPU faturada 24 horas por dia, mas usada 30% do tempo, triplica seu custo efetivo por token. Além disso, chega a hora da engenharia, escalonamento automático para picos, lacunas de qualidade do modelo em relação às APIs de fronteira e confiabilidade. Fatore-os antes de mudar para salvar o adesivo.