Alles wird pro Token berechnet
LLM-Anbieter berechnen nicht pro Anfrage oder pro Wort, sondern pro Token. Ein Token ist ein Textblock, etwa drei Viertel eines englischen Wortes (etwa vier Zeichen). „APICostCalc ist nützlich“ beträgt ~5 Token. Sowohl der von Ihnen gesendete Text (Eingang) und der Text, den das Modell generiert (Ausgabe) werden gezählt und in der Regel mit einem Preis versehen anders.
Token-Kostenrechner →Input vs. Output – der Output ist der teuerste
Bei fast jedem Modell Ausgabe-Tokens kosten mehr als Eingabe-Tokens – oft 3–5x mehr – weil das Generieren von Text rechenintensiver ist als das Lesen. Aus diesem Grund kostet ein Chatbot, der lange Antworten schreibt, selbst bei gleichem Anfragevolumen weitaus mehr als einer, der Texte in ein einzelnes Wort unterteilt.
| Kostentreiber | Auswirkung auf die Rechnung |
|---|---|
| Bei jedem Anruf wurde eine lange Systemaufforderung gesendet | Eingabe-Tokens multiplizieren sich mit der Anzahl der Anfragen |
| Ausführliche Modellantworten | Ausgabetoken – die teuerste Art |
| Großer Kontext (RAG-Blöcke, Verlauf) | Eingabetoken steigen schnell auf |
| Argumentations-/Denkmodelle | Versteckte Begründungstoken, die als Ausgabe abgerechnet werden |
Das Kontextfenster ist eine Kostenobergrenze, kein freier Platz
Ein Model Kontextfenster (z. B. 128.000 oder 1 Mio. Token) ist das Maximum, das auf einmal gelesen werden kann – aber jeder von Ihnen eingegebene Token wird in Rechnung gestellt jeder Anruf. Für jede Anfrage ein ganzes Dokument in den Kontext zu stopfen, ist praktisch und teuer; Das ist das Problem, das RAG und Caching lösen.
Kosten des Kontextfensters →Begründung der Token-Kosten →Warum die gleiche Aufgabe zwischen den Modellen 50-fach variiert
Frontier-Modelle können mehrere zehn Dollar pro Million Token kosten; kleine oder offene Modelle ein paar Cent. Wenn ein günstiges Modell die Aufgabe in akzeptabler Qualität erledigt, können Sie mit einer Konfigurationszeile die Kosten um eine Größenordnung senken. Die Fähigkeit besteht darin, die Stärke des Modells an die Schwierigkeit der Aufgabe anzupassen – siehe Leitfaden zur Kostensenkung.
Modellpreise vergleichen →Häufig gestellte Fragen
Was ist ein Token in einer LLM-API?
Ein Token ist ein kleiner Textblock, den das Modell verarbeitet – auf Englisch etwa drei Viertel eines Wortes oder etwa vier Zeichen. Anbieter berechnen pro Token sowohl den Text, den Sie senden (Eingabe), als auch den Text, den das Modell generiert (Ausgabe).
Warum kosten Output-Tokens mehr als Input-Tokens?
Das Generieren von Text erfordert mehr Rechenaufwand als das Lesen, daher verlangen Anbieter für Ausgabe-Tokens einen höheren Preis – üblicherweise das Drei- bis Fünffache der Eingaberate. Dies macht ausführliche Modellantworten zu einem großen Kostentreiber.
Kostet ein größeres Kontextfenster mehr?
Nur für die Token, die Sie tatsächlich verwenden. Das Fenster hat eine maximale Kapazität, aber jedes Token, das Sie im Kontext platzieren, wird bei jedem Anruf in Rechnung gestellt, sodass das wiederholte Senden großer Aufforderungen schnell teuer wird.
Wie kann die gleiche Aufgabe bei einem Modell 50-mal mehr kosten?
Die Modellpreise pro Million Token variieren enorm zwischen Frontier- und kleinen/offenen Modellen. Wenn ein günstigeres Modell Ihre Qualitätsanforderungen für eine bestimmte Aufgabe erfüllt, kann der Wechsel zu diesem Modell die Kosten um eine Größenordnung senken.
Nur als pädagogische Referenz – Preise sind Schätzungen; Überprüfen Sie die aktuellen Tarife auf der Preisseite jedes Anbieters.