| Perzentil |
Schritte |
Kosten/Lauf |
Tägliche Flottenkosten |
Empfohlene max_steps |
Warum Durchschnittskosten das falsche Budget sind
Agentenschleifen führen keine feste Anzahl von Schritten aus – sie laufen, bis die Aufgabe erledigt ist oder eine Obergrenze erreicht wird. Ein Codierungsagent, der durchschnittlich 8 Toolaufrufe durchführt, kann bei einem kniffligen Refactoring auf 25 ansteigen. Wenn Sie nur den Durchschnitt einplanen, scheitern diese Long-Tail-Läufe entweder mitten in der Aufgabe oder sprengen Ihre monatliche Rechnung.
P95-Budget: deckt 95 von 100 Läufen ab. Gut für unkritische Aufgaben, bei denen gelegentliche Neustarts akzeptabel sind.
P99-Budget: deckt 99 von 100 Läufen ab. Geeignet für Produktionsmitarbeiter, bei denen unvollständige Aufgaben kostspielig sind.
Max_steps cap = P99: Wenn ein Agent immer noch mit der P99-Schrittzahl ausgeführt wird, steckt er mit ziemlicher Sicherheit in einer Schleife fest. Eine feste Obergrenze stoppt hier außer Kontrolle geratene Kosten, ohne die normale Fertigstellung zu unterbrechen.
Vergleichen Sie mit Kostenrechner für KI-Agenten, Kosten pro gelöstem Ticket, Und API-Budgetplaner.
Kostenrechner für die LLM-EvaluierungKostenrechner für die Erzeugung synthetischer DatenAI-Seat-Lizenz vs. API-KostenrechnerZeit- und Kostenrechner für die StapelverarbeitungKI-Kosten-pro-Benutzer-Rechner
Häufig gestellte Fragen
Warum reichen die durchschnittlichen Agentenkosten nicht aus, um das Budget zu berücksichtigen?
Agentenschleifen weisen eine hohe Schrittzahlvarianz auf. Eine Aufgabe, die durchschnittlich 8 Schritte umfasst, kann gelegentlich 25 erfordern. Wenn Sie den Durchschnitt begrenzen, werden 5 % der Durchläufe vorzeitig abgebrochen oder Ihre Rechnung steigt. Die P95/P99-Planung gibt Ihnen einen Sicherheitsspielraum für echte Worst-Case-Kosten.
Was ist ein gutes max_steps-Budget für einen KI-Agenten?
Stellen Sie max_steps auf Ihre P99-Schrittzahl ein: avg_steps + 2,33 × step_std. Dadurch werden 99 % der normalen Läufe begrenzt, während sie abgeschlossen werden können. Jeder Agent, der diese Grenze überschreitet, bleibt wahrscheinlich in einer Schleife stecken – ein harter Stopp spart hier Geld, ohne den normalen Betrieb zu beeinträchtigen.
Wie vervielfachen sich die Kosten für parallel arbeitende Agenten?
Parallele Worker führen jeweils unabhängig voneinander vollständige Agentenschleifen aus. Die Kosten skalieren linear: 10 Arbeiter = 10x die Kosten pro Lauf. Der P99 für die gesamte Flotte ist höher, da mindestens einer von 10 Arbeitern mit hoher Wahrscheinlichkeit einen Langstreckenangriff erleiden wird.
Was ist eine Runaway-Agent-Schleife?
Von einer außer Kontrolle geratenen Schleife spricht man, wenn ein Agent wiederholt Tools oder sich selbst aufruft, ohne Fortschritte zu machen – oft aufgrund eines Planungsfehlers oder eines unerreichbaren Ziels. Ohne eine max_steps-Obergrenze kann ein einzelner Runaway das 10- bis 100-fache eines normalen Runs kosten. Erzwingen Sie in der Produktion immer eine strenge Stufenobergrenze.
Wie berechne ich die P99-Kosten für einen Agenten?
Unter der Annahme, dass Schritte einer ungefähren Normalverteilung folgen: P99 Schritte ≈ avg_steps + 2,33 × step_std. P99-Kosten = P99_Schritte × Tokens_pro_Schritt × (Eingabepreis + Ausgabepreis) / 1M. Dieser Rechner erledigt diese Berechnungen und zeigt auch das tägliche Flottenbudget an.