How much does it cost to rent an H100 in the cloud?

As of mid-2026 a single NVIDIA H100 80GB rents for roughly $2 to $3.50 an hour on-demand, depending on the provider, and noticeably less — often $1.80 to $2.50 — on spot or community tiers. Running one flat-out around the clock is about 730 hours a month, so on-demand works out near $1,500 to $2,500 monthly per GPU. This calculator lets you set the exact GPU, hours and count to see your own number, and shows the spot savings beside the on-demand price.

What's the difference between on-demand and spot GPU pricing?

On-demand (or reserved) GPUs are guaranteed for as long as you keep them running — you pay a premium for that stability. Spot, community or interruptible instances are spare capacity sold at a discount, typically 20–50% cheaper, but the provider can reclaim them with little warning. Spot is ideal for fault-tolerant batch jobs and checkpointed training; on-demand is safer for inference endpoints and anything that can't be interrupted. The calculator shows both so you can weigh the saving against the risk.

Is renting a GPU cheaper than using an inference API?

It depends almost entirely on utilization. A rented GPU is billed every hour it's switched on, busy or not, so it only beats a per-token API once you keep it densely loaded — usually well above 30–50% utilization. For spiky or low traffic, a per-token API is cheaper because you pay nothing when idle. For steady high throughput, owning the GPU-hours wins. Use this calculator for the rental side, then compare against per-token pricing with the self-hosted vs API calculator.

Calcolatore dei costi di noleggio del cloud GPU

✓ Ultima verifica: 15-08-2026· Fonte: pagina ufficiale dei prezzi del fornitore· Monitoraggio automatico — segnalare il cambiamento →

Formare o ospitare autonomamente un modello? Fattura delle GPU cloud ogni ora, acceso o inattivo. Scegli una carta — H100, A100, L40S, L4, RTX 4090 e altro ancora: imposta le tue ore e conta per visualizzare la fattura mensile, il spot vs on-demand risparmio e quanto costerebbe essere sempre attivo (730 ore). Confronta ogni GPU fianco a fianco.

Una GPU noleggiata fattura ogni ora di accensione

La cosa che sorprende i team che passano dalle API alle proprie GPU è che il misuratore non si ferma mai. Un'API per token non costa nulla quando il traffico è tranquillo; un H100 noleggiato costa lo stesso sia che sia saturo o con un utilizzo del 2%, perché stai pagando l'ora, non il lavoro. Ecco perché l'elemento più importante sul tuo conto non è la GPU che scegli, ma quante ore continua a farlo funzionare. Un H100 che ti serve solo otto ore al giorno costa un terzo di uno lasciato acceso 24 ore su 24. Questo calcolatore lo rende esplicito: imposta le ore reali, non il massimo teorico, e osserva il movimento del numero mensile. Il menu a discesa di impostazione rapida copre i modelli comuni: inferenza sempre attiva, una casella di formazione per la giornata lavorativa, esecuzioni batch nel fine settimana.

Il livello è la seconda leva. La capacità on-demand è garantita per tutto il tempo in cui la mantieni e ha un prezzo maggiorato; Le istanze spot, comunitarie e interrompibili sono capacità inutilizzate vendute a un prezzo inferiore del 20-50%, con il vantaggio che il fornitore può riprenderle. Per la formazione con checkpoint o per lavori batch tolleranti agli errori, lo spot è vicino al denaro gratuito; per un endpoint di inferenza che non può battere ciglio, il premio on-demand ti offre stabilità. La tabella mostra entrambe le tariffe per ogni carta, quindi il compromesso è davanti a te. Una volta ottenuto il numero di noleggio, la vera domanda è se possedere ore di GPU effettivamente batte il pagamento per token: risolvilo con Calcolatore LLM e API self-hosted, quindi valuta la larghezza di banda servita dal tuo modello con calcolatore dell'uscita dalle nuvole e gli stessi endpoint dell'inferenza con il calcolatore dei costi delle funzioni serverless.

Come usarlo

1. Scegli la tua GPU: le tipiche tariffe on-demand e spot vengono caricate automaticamente.
2. Scegli on-demand o spot e imposta il numero di GPU in esecuzione.
3. Imposta le ore mensili o utilizza il menu a discesa di impostazione rapida per un ciclo di lavoro comune.
4. Leggi il costo mensile e il risparmio immediato e confronta ogni GPU nella tabella.

Errori comuni

Supponendo che sia sempre attivo. 730 ore sono il massimo, non il tuo utilizzo: la maggior parte dei carichi di lavoro ne richiede molto meno. Dimenticare le bollette dei tempi di inattività. Una GPU lasciata in funzione tra un lavoro e l'altro costa ancora la tariffa intera; spegnilo o usa la scalabilità automatica. Scegliere la carta più grande. Un L4 o 4090 spesso serve un modello piccolo a una frazione del costo di un H100: abbina la GPU al modello. Ignorando l'archiviazione e l'uscita. Volumi, snapshot e trasferimento dati sono voci separate; aggiungi spazio di archiviazione sopra e prezzo in uscita separatamente.

Solo stima. Le tariffe delle GPU cambiano costantemente e variano in base al fornitore e alla regione: verifica i prezzi in tempo reale prima di fare affidamento su di essi.

Come funziona questa calcolatrice

IL Calcolatore dei costi di noleggio GPU Cloud stima il tuo fattura mensile per noleggiare GPU da un fornitore di servizi cloud. Scegli una GPU specifica: H100, A100, L40S, L4, RTX 4090o un altro modello, quindi imposta il numero di GPU, le ore di utilizzo al mese e un livello di prezzo. I principali fattori di costo sono le GPU tariffa oraria, quanti ne esegui in parallelo e il tempo di esecuzione totale, quindi il calcolatore moltiplica la velocità per GPU per ore e aggiunge eventuali opzioni spazio di archiviazione o extra. Perché ti consente di confrontare livelli di prezzo come su richiesta rispetto a riservato, puoi vedere come il livello di impegno modifica il totale per lo stesso carico di lavoro.

Il compromesso chiave da tenere d’occhio è utilizzo rispetto all’impegno. Le tariffe su richiesta costano di più all'ora ma fatturano solo per le ore effettivamente utilizzate, mentre i livelli riservati o impegnati sono più economici all'ora ma addebitano se la GPU è occupata o inattiva. Prima di vincolarti a un livello inferiore, stima onestamente le tue ore mensili realistiche: una tariffa scontata non fa risparmiare nulla se l'hardware rimane inutilizzato. Regola il ore al mese E Conteggio GPU input per modellare sia l'utilizzo leggero che quello intenso e ricordare che lo spazio di archiviazione e gli extra possono aggiungere una quantità fissa significativa oltre al calcolo grezzo.

Domande frequenti

Quanto costa noleggiare un H100 nel cloud?

A partire dalla metà del 2026, una singola NVIDIA H100 da 80 GB viene noleggiata per circa $ 2 o $ 3,50 l'ora on-demand, a seconda del fornitore, e notevolmente meno - spesso $ 1,80 - $ 2,50 - a livello locale o comunitario. L'esecuzione di un servizio continuo 24 ore su 24 equivale a circa 730 ore al mese, quindi on-demand si aggira tra $ 1.500 e $ 2.500 al mese per GPU. Questo calcolatore ti consente di impostare la GPU, le ore e il conteggio esatti per vedere il tuo numero e mostra il risparmio immediato accanto al prezzo su richiesta.

Qual è la differenza tra i prezzi delle GPU on-demand e spot?

Le GPU on-demand (o riservate) sono garantite per tutto il tempo in cui le mantieni in funzione: paghi un premio per tale stabilità. Le istanze spot, community o interrompibili sono capacità inutilizzate vendute con uno sconto, in genere del 20-50% in meno, ma il fornitore può recuperarle con poco preavviso. Spot è ideale per lavori batch con tolleranza agli errori e formazione con checkpoint; su richiesta è più sicuro per gli endpoint di inferenza e tutto ciò che non può essere interrotto. Il calcolatore mostra entrambi in modo da poter valutare il risparmio rispetto al rischio.

Noleggiare una GPU è più economico rispetto all'utilizzo di un'API di inferenza?

Dipende quasi interamente dall'utilizzo. Una GPU noleggiata viene fatturata ogni ora in cui è accesa, occupata o meno, quindi batte un'API per token solo quando la mantieni densamente caricata, di solito ben al di sopra del 30-50% di utilizzo. Per traffico intenso o basso, un'API per token è più economica perché non paghi nulla quando è inattiva. Per un throughput elevato e costante, è preferibile possedere le ore di GPU. Utilizza questo calcolatore per il noleggio, quindi confronta i prezzi per token con il calcolatore self-hosted e API.

Cerchi in giro per la tariffa on-demand stessa? DigitalOcean offre $ 200 di credito gratuito per le goccioline GPU, sufficienti per valutare il throughput reale prima di impegnarsi con un contratto più lungo.

Ogni GPU alle tue ore e conta