| Perzentil |
Schritte |
Kosten/Lauf |
Tägliche Flottenkosten |
Empfohlene max_steps |
Warum Durchschnittskosten das falsche Budget sind
Agentenschleifen führen keine feste Anzahl von Schritten aus – sie laufen, bis die Aufgabe erledigt ist oder eine Obergrenze erreicht wird. Ein Codierungsagent, der durchschnittlich 8 Toolaufrufe durchführt, kann bei einem kniffligen Refactoring auf 25 ansteigen. Wenn Sie nur den Durchschnitt einplanen, scheitern diese Long-Tail-Läufe entweder mitten in der Aufgabe oder sprengen Ihre monatliche Rechnung.
P95-Budget: deckt 95 von 100 Läufen ab. Gut für unkritische Aufgaben, bei denen gelegentliche Neustarts akzeptabel sind.
P99-Budget: deckt 99 von 100 Läufen ab. Geeignet für Produktionsmitarbeiter, bei denen unvollständige Aufgaben kostspielig sind.
Max_steps cap = P99: Wenn ein Agent immer noch mit der P99-Schrittzahl ausgeführt wird, steckt er mit ziemlicher Sicherheit in einer Schleife fest. Eine feste Obergrenze stoppt hier außer Kontrolle geratene Kosten, ohne die normale Fertigstellung zu unterbrechen.
Vergleichen Sie mit Kostenrechner für KI-Agenten, Kosten pro gelöstem Ticket, Und API-Budgetplaner.
Kostenrechner für die LLM-EvaluierungKostenrechner für die Erzeugung synthetischer DatenAI-Seat-Lizenz vs. API-KostenrechnerZeit- und Kostenrechner für die StapelverarbeitungKI-Kosten-pro-Benutzer-Rechner
So funktioniert dieser Rechner
Der AI Agent Loop-Budgetrechner schätzt, was ein einzelner Agentenlauf kostet und wie stark diese Kosten variieren, wenn die Anzahl der Schritte ungewiss ist. Sie geben die durchschnittlichen Schritte pro Lauf und eine Schrittstandardabweichung, die bei jedem Schritt verbrauchten Eingabe- und Ausgabetokens sowie die Eingabe- und Ausgabepreise pro Million Token ein. Das Tool multipliziert Token mit dem Preis über die erwartete Schrittzahl und modelliert den Spread und berichtet P50, P95 und P99 Kosten pro Lauf, plus Tagessummen aus Ihren Läufen pro Tag und der Anzahl paralleler Arbeiter. Die Haupttreiber sind die Varianz der Schrittanzahl, die ausgegebenen Token (normalerweise die teuerste Seite) und die Anzahl der Läufe, die Sie verteilen.
Der wichtigste Kompromiss, den es zu beobachten gilt, ist der Schwanz. Eine Schleife mit moderaten Durchschnittskosten kann immer noch zu seltenen Durchläufen führen, die weit über dem Mittelwert liegen, so dass die Budgetierung allein auf P50 die tatsächlichen Ausgaben unterschätzt. Größenbeschränkungen und Warnungen vor P95 oder P99 sowie maximale Schritte, damit eine außer Kontrolle geratene Schleife Ihre Rechnung nicht stillschweigend vervielfachen kann.
Häufig gestellte Fragen
Warum reichen die durchschnittlichen Agentenkosten nicht aus, um das Budget zu berücksichtigen?
Agentenschleifen weisen eine hohe Schrittzahlvarianz auf. Eine Aufgabe, die durchschnittlich 8 Schritte umfasst, kann gelegentlich 25 erfordern. Wenn Sie den Durchschnitt begrenzen, werden 5 % der Durchläufe vorzeitig abgebrochen oder Ihre Rechnung steigt. Die P95/P99-Planung gibt Ihnen einen Sicherheitsspielraum für echte Worst-Case-Kosten.
Was ist ein gutes max_steps-Budget für einen KI-Agenten?
Stellen Sie max_steps auf Ihre P99-Schrittzahl ein: avg_steps + 2,33 × step_std. Dadurch werden 99 % der normalen Läufe begrenzt, während sie abgeschlossen werden können. Jeder Agent, der diese Grenze überschreitet, bleibt wahrscheinlich in einer Schleife stecken – ein harter Stopp spart hier Geld, ohne den normalen Betrieb zu beeinträchtigen.
Wie vervielfachen sich die Kosten für parallel arbeitende Agenten?
Parallele Worker führen jeweils unabhängig voneinander vollständige Agentenschleifen aus. Die Kosten skalieren linear: 10 Arbeiter = 10x die Kosten pro Lauf. Der P99 für die gesamte Flotte ist höher, da mindestens einer von 10 Arbeitern mit hoher Wahrscheinlichkeit einen Langstreckenangriff erleiden wird.
Was ist eine Runaway-Agent-Schleife?
Von einer außer Kontrolle geratenen Schleife spricht man, wenn ein Agent wiederholt Tools oder sich selbst aufruft, ohne Fortschritte zu machen – oft aufgrund eines Planungsfehlers oder eines unerreichbaren Ziels. Ohne eine max_steps-Obergrenze kann ein einzelner Runaway das 10- bis 100-fache eines normalen Runs kosten. Erzwingen Sie in der Produktion immer eine strenge Stufenobergrenze.
Wie berechne ich die P99-Kosten für einen Agenten?
Unter der Annahme, dass Schritte einer ungefähren Normalverteilung folgen: P99 Schritte ≈ avg_steps + 2,33 × step_std. P99-Kosten = P99_Schritte × Tokens_pro_Schritt × (Eingabepreis + Ausgabepreis) / 1M. Dieser Rechner erledigt diese Berechnungen und zeigt auch das tägliche Flottenbudget an.