Jede GPU zu Ihren Zeiten und Zeiten
Monatliche Kosten für die oben genannten Stunden und GPU-Anzahl – On-Demand und Spot nebeneinander.
| GPU | VRAM | Auf Anfrage $/h | Spot $/h | Monatlich (Ihre Stufe) |
|---|
Eine gemietete GPU rechnet jede eingeschaltete Stunde ab
Was Teams, die von APIs auf ihre eigenen GPUs umsteigen, überrascht, ist, dass das Messgerät nie anhält. Eine Pro-Token-API kostet nichts, wenn der Datenverkehr ruhig ist; Ein gemieteter H100 kostet das Gleiche, egal ob er ausgelastet ist oder bei 2 % Auslastung, denn Sie zahlen für die Stunde, nicht für die Arbeit. Aus diesem Grund ist der größte Hebel auf Ihrer Rechnung nicht die GPU, die Sie auswählen, sondern die Anzahl Std. Du hältst es am Laufen. Ein H100, den Sie nur acht Stunden am Tag benötigen, kostet ein Drittel von einem, wenn er rund um die Uhr eingeschaltet bleibt. Dieser Rechner macht das deutlich: Stellen Sie die tatsächlichen Stunden ein, nicht das theoretische Maximum, und beobachten Sie, wie sich die monatliche Zahl verändert. Das Schnelleinstellungs-Dropdown deckt die gängigen Muster ab – ständig aktive Inferenz, eine Trainingsbox für den Arbeitstag, Batch-Läufe am Wochenende.
Tier ist der zweite Hebel. Die On-Demand-Kapazität ist so lange garantiert, wie Sie sie besitzen, und kostet einen Aufpreis. Spot-, Community- und unterbrechbare Instanzen sind freie Kapazitäten, die 20–50 % günstiger verkauft werden, mit dem Haken, dass der Anbieter sie zurücknehmen kann. Für Checkpoint-Schulungen oder fehlertolerante Batch-Jobs ist spot nahezu kostenloses Geld; Für einen Inferenzendpunkt, der nicht blinken kann, verschafft Ihnen die On-Demand-Prämie Stabilität. Die Tabelle zeigt beide Tarife für jede Karte, sodass Sie den Kompromiss direkt im Blick haben. Sobald Sie die Mietnummer haben, ist die eigentliche Frage, ob der Besitz von GPU-Stunden tatsächlich besser ist als die Zahlung pro Token – klären Sie das mit dem Selbstgehosteter LLM vs. API-Rechner, dann bepreisen Sie die Bandbreite, die Ihr Modell bedient Cloud-Egress-Rechner und die Schlussfolgerung endet mit dem Kostenrechner für serverlose Funktionen.
Wie man es benutzt
1. Wählen Sie Ihre GPU – die typischen On-Demand- und Spot-Tarife werden automatisch geladen.
2. Wählen Sie „On-Demand“ oder „Spot“ und legen Sie fest, wie viele GPUs Sie ausführen.
3. Stellen Sie die Stunden pro Monat ein oder verwenden Sie das Schnelleinstellungs-Dropdown-Menü für einen gemeinsamen Arbeitszyklus.
4. Lesen Sie die monatlichen Kosten und Spoteinsparungen und vergleichen Sie alle GPUs in der Tabelle.
Häufige Fehler
Vorausgesetzt, dass es immer eingeschaltet ist. 730 Stunden sind das Maximum, nicht Ihre Nutzung – die meisten Workloads erfordern weitaus weniger. Leerlaufzeitrechnungen vergessen. Eine GPU, die zwischen Jobs weiterläuft, kostet immer noch den vollen Tarif; Fahren Sie es herunter oder verwenden Sie die automatische Skalierung. Die größte Karte auswählen. Ein L4 oder 4090 bedient oft ein kleines Modell zu einem Bruchteil der Kosten eines H100 – passen Sie die GPU an das Modell an. Speicher und Ausgang werden ignoriert. Volumes, Snapshots und Datenübertragung sind separate Einzelposten; Fügen Sie oben Speicher hinzu und berechnen Sie den Ausgang separat.
FAQ
Welche GPU benötige ich für mein Modell?
Ungefähr: 7–13B-Modelle passen auf einen L4, RTX 4090 oder A100 40 GB; Modelle der 70B-Klasse benötigen eine A100/H100 80 GB oder mehrere Karten. Größer ist nicht billiger, wenn eine kleinere Karte die Last bewältigt – passen Sie den VRAM an das Modell und die Losgröße an.
Wie viele Stunden ist „Always-on“?
Ungefähr 730 – das sind 24 × 365 ÷ 12. Alles, was unter der kontinuierlichen Nutzung liegt, sollte die tatsächlichen Stunden bestimmen, da die Kosten linear mit ihnen skalieren.
Warum unterscheiden sich die Preise zwischen den Anbietern so stark?
Spezialisierte Clouds (RunPod, Vast.ai, Lambda) und Community-/Spotmärkte unterbieten die Hyperscaler bei gleichem Silizium deutlich. Die Tarife sind hier im mittleren Preissegment angesiedelt – der Live-Preis Ihres Anbieters ist ausschlaggebend.
Sind darin auch die Kosten für die Modell-API selbst enthalten?
Nein – das ist reine GPU-Vermietung. Um Mieten und Selbsthosting mit einer Pro-Token-API zu vergleichen, verwenden Sie die Selbstgehosteter vs. API-Rechner.
Nur Schätzung. Die GPU-Preise ändern sich ständig und variieren je nach Anbieter und Region – überprüfen Sie die Live-Preise, bevor Sie sich darauf verlassen.