Leerlauf-GPUs sind die versteckten Kosten
Das Mieten einer GPU ist günstig pro Stunde und teuer pro Leerlaufstunde. Es übertrifft APIs nur, wenn die Auslastung hoch und stabil ist. Vergleichen Sie mit den Preisen pro Token auf der Selbstgehosteter vs. API-Rechner.
GPU-Miete: Die Auslastung ist der wahre Preis
Die Miete für Cloud H100 beträgt je nach Anbieterstufe 2 bis 10 US-Dollar pro Stunde – oben Hyperscaler, unten Bare-Metal-Marktplätze. Der angegebene Tarif zählt jedoch weniger als Ihre Auslastung: Eine GPU für 3 US-Dollar pro Stunde, die in 20 % der Zeit Trainingsjobs ausführt, kostet 15 US-Dollar pro produktive Stunde. Spot-/unterbrechbare Preissenkungen um 50–70 % für checkpointbare Workloads. Der Crossover zwischen Bau und Miete: Ein GPU-Server für 30.000 US-Dollar mit 3-jähriger Abschreibung übertrifft die Miete von 2,50 US-Dollar pro Stunde bei etwa 40 % Dauerauslastung – ohne Berücksichtigung der Betriebslast. Konkret: Serverlose GPU-Angebote pro Token übertreffen in der Regel Rohmieten mit weniger als ein paar Millionen Anfragen pro Monat.