So funktioniert die LLM-API-Preisgestaltung

Alles wird pro Token berechnet

LLM-Anbieter berechnen nicht pro Anfrage oder pro Wort, sondern pro Token. Ein Token ist ein Textblock, etwa drei Viertel eines englischen Wortes (etwa vier Zeichen). „APICostCalc ist nützlich“ beträgt ~5 Token. Sowohl der von Ihnen gesendete Text (Eingang) und der Text, den das Modell generiert (Ausgabe) werden gezählt und in der Regel mit einem Preis versehen anders.

Input vs. Output – der Output ist der teuerste

Bei fast jedem Modell Ausgabe-Tokens kosten mehr als Eingabe-Tokens – oft 3–5x mehr – weil das Generieren von Text rechenintensiver ist als das Lesen. Aus diesem Grund kostet ein Chatbot, der lange Antworten schreibt, selbst bei gleichem Anfragevolumen weitaus mehr als einer, der Texte in ein einzelnes Wort unterteilt.

Das Kontextfenster ist eine Kostenobergrenze, kein freier Platz

Ein Model Kontextfenster (z. B. 128.000 oder 1 Mio. Token) ist das Maximum, das auf einmal gelesen werden kann – aber jeder von Ihnen eingegebene Token wird in Rechnung gestellt jeder Anruf. Für jede Anfrage ein ganzes Dokument in den Kontext zu stopfen, ist praktisch und teuer; Das ist das Problem, das RAG und Caching lösen.

Warum die gleiche Aufgabe zwischen den Modellen 50-fach variiert

Frontier-Modelle können mehrere zehn Dollar pro Million Token kosten; kleine oder offene Modelle ein paar Cent. Wenn ein günstiges Modell die Aufgabe in akzeptabler Qualität erledigt, können Sie mit einer Konfigurationszeile die Kosten um eine Größenordnung senken. Die Fähigkeit besteht darin, die Stärke des Modells an die Schwierigkeit der Aufgabe anzupassen – siehe Leitfaden zur Kostensenkung.

Ausgearbeitetes Beispiel: Nano vs. Flaggschiff bei derselben Aufgabe

Angenommen, Sie klassifizieren 100.000 Support-Tickets pro Monat. Jeder Aufruf sendet etwa 2.000 Eingabe-Tokens (Tickettext + eine Eingabeaufforderung für ein paar Schüsse) und gibt etwa 500 Ausgabe-Tokens zurück (Beschriftung + kurze Erklärung) – insgesamt 200 Millionen Eingabe-Tokens und 50 Millionen Ausgabe-Tokens.

Gleiche Aufgabe, gleiches Volumen – das Flaggschiff kostet 62× mehr als das Nano-Modell, rein aus der Preisgestaltung pro Token. Bei einer begrenzten Aufgabe wie der Klassifizierung ist es in der Regel mehr wert, zu testen, ob die Genauigkeit eines günstigen Modells Ihre Messlatte überschreitet, als jede andere Kostenoptimierung.

Zwei Möglichkeiten, die Kosten zu senken, ohne das Modell zu wechseln

Nicht jede Ersparnis ergibt sich aus der Wahl eines günstigeren Modells. Zwei anbieterseitige Mechanismen vergünstigen dies Dasselbe Modell auf der Dasselbe Aufgabe, indem Sie einfach ändern, wie Sie sie nennen:

Sie stimmen mit der Modellauswahl überein, nicht dagegen: Ein Support-Ticket-Klassifikator, der bereits auf einem günstigen Modell läuft, kann häufig zusätzlich eine Stapelverarbeitung hinzufügen, da für die Kennzeichnung über Nacht keine Latenz erforderlich ist – siehe Rechner für schnelle Caching-Einsparungen Und Batch-API-Leitfaden für die genaue Berechnung Ihrer Arbeitsbelastung.

Häufige Fehler bei der Schätzung der LLM-Kosten

• Mittelung von Ein- und Ausgabe in eine Token-Anzahl. Da der Preis für die Ausgabe drei- bis fünfmal höher ist, verbirgt die Kombination davon, wie viel ein ausführlicher Antwortstil tatsächlich kostet.
• Das Vergessen der Systemaufforderung wird für jeden Anruf in Rechnung gestellt. Eine lange Systemaufforderung oder ein langer Konversationsverlauf zählt als Eingabetoken jede Anfrage, nicht einmal pro Sitzung.
• Benchmarking mit dem falschen Point-Release. „GPT-5“ und „GPT-5.5“ können im Preis um ein Vielfaches auseinander liegen – überprüfen Sie immer die genaue Modell-ID, die Sie tatsächlich anrufen, nicht den Familiennamen.
• Ignorieren versteckter Argumentationstoken. „Denkende“ Modelle rechnen mit internem Denken als Ausgabetoken, auch wenn es in der sichtbaren Antwort nie erscheint – siehe Argumentations-Token-Rechner.

Lernen Sie weiter

Häufig gestellte Fragen

Was ist ein Token in einer LLM-API?

Ein Token ist ein kleiner Textblock, den das Modell verarbeitet – auf Englisch etwa drei Viertel eines Wortes oder etwa vier Zeichen. Anbieter berechnen pro Token sowohl den Text, den Sie senden (Eingabe), als auch den Text, den das Modell generiert (Ausgabe).

Warum kosten Output-Tokens mehr als Input-Tokens?

Das Generieren von Text erfordert mehr Rechenaufwand als das Lesen, daher verlangen Anbieter für Ausgabe-Tokens einen höheren Preis – üblicherweise das Drei- bis Fünffache der Eingaberate. Dies macht ausführliche Modellantworten zu einem großen Kostentreiber.

Kostet ein größeres Kontextfenster mehr?

Nur für die Token, die Sie tatsächlich verwenden. Das Fenster hat eine maximale Kapazität, aber jedes Token, das Sie im Kontext platzieren, wird bei jedem Anruf in Rechnung gestellt, sodass das wiederholte Senden großer Aufforderungen schnell teuer wird.

Wie kann die gleiche Aufgabe bei einem Modell 50-mal mehr kosten?

Die Modellpreise pro Million Token variieren enorm zwischen Frontier- und kleinen/offenen Modellen. Wenn ein günstigeres Modell Ihre Qualitätsanforderungen für eine bestimmte Aufgabe erfüllt, kann der Wechsel zu diesem Modell die Kosten um eine Größenordnung senken.

Kann ich Kosten senken, ohne das Modell zu wechseln?

Ja – Prompt-Caching reduziert das wiederholte Präfix einer Anfrage um etwa 90 %, und die Batch-API reduziert einen gesamten nicht dringenden Auftrag um etwa 50 %. Beide gelten für genau dasselbe Modell und sind daher mit eventuellen Einsparungen bei der Modellauswahl kombinierbar.