Bei günstigen Modellen kostet ein Dollar deutlich mehr
Wenn man in Token pro Dollar denkt, wird die Modellwahl offensichtlich: Für große, unkritische Arbeiten kauft ein kleines Modell das 10- bis 20-fache der Token. Vergleichen Sie pro Anruf auf der LLM-Token-Kostenrechner.
Token pro Dollar: die modellübergreifende Einkaufseinheit
Durch die Umrechnung des Preises pro Million Token in Token pro Dollar wird der Modellkauf konkret: Bei 0,15 US-Dollar pro Million Input-Token kauft ein Dollar 6,7 Millionen Token – etwa 5 Millionen Wörter oder fünfzig Kontextromane. Bei 15 US-Dollar pro Million kauft man für den gleichen Dollar 67.000 Token. Die 100-fache Spanne zwischen Frontier- und Budget-Modellen ist die gesamte Kostenoptimierungsmöglichkeit in den meisten LLM-Apps: Die Weiterleitung der 80 % der einfachen Abfragen an ein günstiges Modell und die Reservierung des teuren Modells für schwierige Fälle senkt die Gesamtkosten um das Fünf- bis Zehnfache bei minimalem Qualitätsverlust. Ausgabe-Tokens kosten bei den meisten Anbietern das Zwei- bis Fünffache der Eingabe – bei chatintensiven Arbeitslasten ist das Verhältnis wichtiger als beide Zahlen.