Jede GPU zu Ihren Zeiten und Zeiten
Monatliche Kosten für die oben genannten Stunden und GPU-Anzahl – On-Demand und Spot nebeneinander.
| GPU | VRAM | Auf Anfrage $/h | Spot $/h | Monatlich (Ihre Stufe) |
|---|
Eine gemietete GPU rechnet jede eingeschaltete Stunde ab
Was Teams, die von APIs auf ihre eigenen GPUs umsteigen, überrascht, ist, dass das Messgerät nie anhält. Eine Pro-Token-API kostet nichts, wenn der Datenverkehr ruhig ist; Ein gemieteter H100 kostet das Gleiche, egal ob er ausgelastet ist oder bei 2 % Auslastung, denn Sie zahlen für die Stunde, nicht für die Arbeit. Aus diesem Grund ist der größte Hebel auf Ihrer Rechnung nicht die GPU, die Sie auswählen, sondern die Anzahl Std. Du hältst es am Laufen. Ein H100, den Sie nur acht Stunden am Tag benötigen, kostet ein Drittel von einem, wenn er rund um die Uhr eingeschaltet bleibt. Dieser Rechner macht das deutlich: Stellen Sie die tatsächlichen Stunden ein, nicht das theoretische Maximum, und beobachten Sie, wie sich die monatliche Zahl verändert. Das Schnelleinstellungs-Dropdown deckt die gängigen Muster ab – ständig aktive Inferenz, eine Trainingsbox für den Arbeitstag, Batch-Läufe am Wochenende.
Tier ist der zweite Hebel. Die On-Demand-Kapazität ist so lange garantiert, wie Sie sie besitzen, und kostet einen Aufpreis. Spot-, Community- und unterbrechbare Instanzen sind freie Kapazitäten, die 20–50 % günstiger verkauft werden, mit dem Haken, dass der Anbieter sie zurücknehmen kann. Für Checkpoint-Schulungen oder fehlertolerante Batch-Jobs ist spot nahezu kostenloses Geld; Für einen Inferenzendpunkt, der nicht blinken kann, verschafft Ihnen die On-Demand-Prämie Stabilität. Die Tabelle zeigt beide Tarife für jede Karte, sodass Sie den Kompromiss direkt im Blick haben. Sobald Sie die Mietnummer haben, ist die eigentliche Frage, ob der Besitz von GPU-Stunden tatsächlich besser ist als die Zahlung pro Token – klären Sie das mit dem Selbstgehosteter LLM vs. API-Rechner, dann bepreisen Sie die Bandbreite, die Ihr Modell bedient Cloud-Egress-Rechner und die Schlussfolgerung endet mit dem Kostenrechner für serverlose Funktionen.
Wie man es benutzt
1. Wählen Sie Ihre GPU – die typischen On-Demand- und Spot-Tarife werden automatisch geladen.
2. Wählen Sie „On-Demand“ oder „Spot“ und legen Sie fest, wie viele GPUs Sie ausführen.
3. Stellen Sie die Stunden pro Monat ein oder verwenden Sie das Schnelleinstellungs-Dropdown-Menü für einen gemeinsamen Arbeitszyklus.
4. Lesen Sie die monatlichen Kosten und Spoteinsparungen und vergleichen Sie alle GPUs in der Tabelle.
Häufige Fehler
Vorausgesetzt, dass es immer eingeschaltet ist. 730 Stunden sind das Maximum, nicht Ihre Nutzung – die meisten Workloads erfordern weitaus weniger. Leerlaufzeitrechnungen vergessen. Eine GPU, die zwischen Jobs weiterläuft, kostet immer noch den vollen Tarif; Fahren Sie es herunter oder verwenden Sie die automatische Skalierung. Die größte Karte auswählen. Ein L4 oder 4090 bedient oft ein kleines Modell zu einem Bruchteil der Kosten eines H100 – passen Sie die GPU an das Modell an. Speicher und Ausgang werden ignoriert. Volumes, Snapshots und Datenübertragung sind separate Einzelposten; Fügen Sie oben Speicher hinzu und berechnen Sie den Ausgang separat.
Nur Schätzung. Die GPU-Preise ändern sich ständig und variieren je nach Anbieter und Region – überprüfen Sie die Live-Preise, bevor Sie sich darauf verlassen.