GPUs ociosas são o custo oculto
Alugar uma GPU é barato por hora e caro por hora ociosa. Ela supera as APIs apenas quando a utilização é alta e estável. Compare com o preço por token no calculadora auto-hospedada vs API.
Aluguel de GPU: a utilização é o preço real
O aluguel do Cloud H100 custa entre US$ 2 e US$ 10/hora, dependendo do nível do fornecedor – hiperescaladores na parte superior e mercados bare-metal na parte inferior. Mas a taxa cotada importa menos do que sua utilização: uma GPU de US$ 3/hora executando trabalhos de treinamento 20% do tempo custa US$ 15 por hora produtiva. O preço spot/interruptível reduz de 50 a 70% para cargas de trabalho verificáveis. O cruzamento entre construção e aluguel: um servidor GPU de US$ 30 mil com depreciação de 3 anos supera o aluguel de US$ 2,50/hora com aproximadamente 40% de utilização sustentada — sem contar a carga de operações. Especificamente para inferência, as ofertas de GPU sem servidor por token geralmente superam os aluguéis brutos abaixo de alguns milhões de solicitações mensais.