Denktoken werden mit der Ausgaberate abgerechnet und aus der Antwort ausgeblendet. Ein p50-Anruf (typisch) und ein p99-Anruf (hart) auf demselben Modell führen denselben Code aus, landen aber weit auseinander auf der Rechnung. Die Lücke – nicht der Durchschnitt – ist es, die ein Monatsbudget ruiniert.
Naive Schätzung vs. typisch vs. Tail
Die „naive“ Zeile ist das, was Ihnen ein einfacher Token-Rechner sagt – er ignoriert verborgenes Denken vollständig. Der Abstand zur typischen Zeile ist die Denkprämie, die Sie tatsächlich zahlen; Der Abstand zur hinteren Reihe ist das Budgetrisiko.
| Szenario | Denkmarken | Kosten/Anruf | Kosten/Monat | vs. naiv |
|---|
Budgetband nach Tail-Schweregrad
Wie hoch Ihre monatliche Rechnung sein kann, hängt davon ab, wie schwer der harte Schwanz wird. Wählen Sie das Tail-Vielfache aus, das der Variabilität Ihrer Eingabeaufforderungen tatsächlich entspricht.
| Schwanz mehrfach | S. 99 Denkmarken | Kosten/Anruf | Kosten/Monat |
|---|
Warum eine einzige Cost-per-Call-Nummer über Argumentationsmodelle lügt
Ein nicht-begründendes Modell ist hinsichtlich der Kosten nahezu deterministisch: Sie senden N Eingabe-Tokens, Sie erhalten M Ausgabe-Tokens zurück, Sie multiplizieren mit den Raten und fertig. Argumentationsmodelle machen das kaputt. Zwischen der Aufforderung und der Antwort durchläuft das Modell eine private Gedankenkette – die Denkmarken – und Ihnen wird jede einzelne davon zum Ausgabepreis in Rechnung gestellt, auch wenn sie nie in der Antwort erscheint. Entscheidend ist die Zählung datenabhängig: Eine einfache Klassifizierung könnte ein paar Hundert kosten, ein kniffliger mehrstufiger Beweis oder eine Agenten-Werkzeugplanungsrunde könnte Zehntausende kosten. Die wahren Kosten pro Anruf sind also keine Zahl, sondern eine Verteilung, und wenn man nur den Median (p50) angibt, verbirgt sich der Teil der Verteilung, der tatsächlich Budgets sprengt: das Ende.
Der p50/p99-Spread und die Begründungssteuer
Die Kosten pro Anruf betragen Eingabe×Eingabepreis + (sichtbare_Ausgabe + Denken)×Ausgabepreis. Halten Sie alles außer dem Denken fest, und das Ganze dreht sich um diese eine Variable. Bei der typischen Denkzählung erhalten Sie Ihren 50-Pfund-Preis; Multiplizieren Sie das Denken mit einem Tail-Faktor für den Hard-Prompt-Fall und Sie erhalten p99. Mit einem starken Reasoner können die beiden drei- bis fünfmal voneinander entfernt liegen, was bedeutet, dass das gleiche monatliche Volumen überall in diesem Bereich abgerechnet werden kann, abhängig davon, wie schwierig die Eingabeaufforderungen des Monats gerade waren. Der Begründungssteuer – der Bruchteil der Rechnung, der zum Nachdenken anfällt, und nicht die von Ihnen gesendeten Eingaben oder die erhaltenen Antworten – erledigt bei harten Arbeitsbelastungen routinemäßig 70–80 %. Sie zahlen hauptsächlich für die Scratch-Arbeit. Diesen Anteil zu sehen, ist normalerweise der Moment, in dem Teams eine Denkgrenze setzen.
So schrumpfen Sie das Band
Drei Hebel bewegen es. Begrenzen Sie den Argumentationsaufwand oder die Max-Thinking-Tokens, damit der Schwanz physisch nicht davonlaufen kann – dies tauscht ein wenig Antwortqualität bei den schwierigsten Eingabeaufforderungen gegen eine harte Kostenobergrenze ein. Route nach Schwierigkeitsgrad: Senden Sie die einfache Mehrheit an ein billiges Modell ohne Argumentation und reservieren Sie das Argumentationsmodell für Eingabeaufforderungen, die es wirklich benötigen. Und überwachen Sie den p99, nicht den Mittelwert, denn eine Reihe harter Eingabeaufforderungen hebt den Schwanz an, lange bevor er den Durchschnitt bewegt. Beachten Sie, dass sofortiges Caching Beschneidet die Eingabeseite, aber nicht die Denkseite. Daher ist bei folgerichtigem Datenverkehr die Denkkappe der Hebel, auf den es ankommt – kombinieren Sie dies mit dem Flat Reasoning Token-Rechner für die Punktschätzung und die Agentenschleifen-Budgetrechner für den mehrstufigen Fall.
So funktioniert dieser Rechner
Es bewertet einen Reasoning-Aufruf als Eingabe × Eingabepreis + (sichtbarer_Ausgabe + Denken) × Ausgabepreis pro Million Token und berechnet drei Punkte: eine naive Schätzung, die das Denken ignoriert, einen typischen (p50) Aufruf bei Ihrer typischen Denkanzahl und einen Tail-Aufruf (p99) bei p50 Denken × Ihrem Tail-Vielfachen. Es zeigt die Begründungssteuer (Anteil der 50-Pence-Rechnung), die typischen und monatlichen Gesamtsummen für Ihr Anrufvolumen sowie eine Sensitivitätstabelle für die Tail-Multiplikatoren an, sodass Sie die gesamte Budgetspanne sehen können.
Häufig gestellte Fragen
Warum sind Argumentationsmodelle für das Budget so unvorhersehbar?
Sie geben versteckte Denkmarker ab, die als Output abgerechnet werden, und die Anzahl schwankt von einigen Hundert bei einer einfachen Eingabeaufforderung bis zu Zehntausenden bei einer schwierigen Eingabeaufforderung. Wenn Sie das Budget auf einen typischen Anruf ausrichten, kann das Endergebnis pro Anruf drei- bis fünfmal mehr in Rechnung stellen.
Wie berechne ich die Kosten für das Reasoning-Token?
Kosten pro Aufruf = Eingabe × Eingabepreis + (sichtbare Ausgabe + Denken) × Ausgabepreis, pro Million Token. Das Denken wird mit der Ausgaberate abgerechnet und ist unsichtbar und variabel – schätzen Sie einen typischen Wert und ein Endmultiplikator und bewerten Sie beides.
Was ist die Begründungssteuer?
Der Anteil Ihrer Rechnung, der aus verborgenem Denken und nicht aus der Eingabe oder Antwort besteht. Bei intensiven Gesprächen übersteigt sie regelmäßig 70–80 % – Sie zahlen mehr für die Kurzarbeit als für das sichtbare Gespräch.