Die Falle mit Agenten: Eine Aufgabe, die wie eine Frage aussieht, besteht in Wirklichkeit aus 5–20 LLM-Anrufen. Ein Chatbot antwortet einmal. Ein Agent argumentiert, ruft Tools auf und liest seinen eigenen wachsenden Kontext bei jedem Schritt erneut – sodass dasselbe Modell, das einen Bruchteil eines Cents pro Chat-Nachricht kostet, das Zehn- bis Fünfzigfache der Kosten pro Agentenaufgabe kosten kann. Dieser Rechner multipliziert es richtig.
Günstigste Modelle für diesen Agenten
Gleicher Arbeitsaufwand, jedes Modell nach monatlichen Kosten sortiert.
| Modell | Kosten/Monat | Pro Aufgabe |
|---|
Wie sich die Maklerkosten tatsächlich summieren
Die Formel lautet Aufgaben × Schritte × (Input-Tokens × Input-Preis + Output-Tokens × Output-Preis). Der Multiplikator, den die Leute vergessen, ist Schritte: Ein Forschungsagent könnte 12 Schleifen benötigen, ein Codierungsagent 20+. Und da die meisten Agenten die gesammelten Gespräche bei jedem Schritt erneut senden, Die Eingabemarken pro Schritt steigen mit fortschreitender Aufgabe — Die oben eingegebene Zahl ist der Durchschnitt über die gesamte Schleife. Aus diesem Grund ist die Ausgabe pro Schritt (ein kurzer Gedanke oder ein Tool-Aufruf) normalerweise gering Der Input dominiert die Agentenrechnung – und warum schnelles Caching und Kontexttrimmen hier wichtiger sind als anderswo.
Wie man es schneidet
Vier Hebel, in der Reihenfolge ihrer Wirkung: (1) Modellrouting — ein kleines Modell für Routineschritte und ein Grenzmodell nur für die schwierigen Schritte verwenden; (2) Stufenkappe — außer Kontrolle geratene Schleifen stoppen; (3) Kontexttrimmen – Senden Sie nicht bei jedem Schritt den gesamten Verlauf erneut. (4) Sofortiges Caching für die statische Systemeingabeaufforderung und Tooldefinitionen. Siehe die Prompt-Caching-Anleitung und die Rechner für Caching-Einsparungen. Einen Chatbot statt eines Agenten bauen? Benutzen Sie die Chatbot-Kostenrechner. Ganze App? Der Kostenschätzer für KI-Apps. Führen Sie mehr als einen Agenten für die gleiche Aufgabe aus – Fan-Out-, Debatten-, Supervisor- oder Schwarmmuster? Dieser Rechner berechnet die Preise für einen einzelnen Makler. Benutze die Rechner für Schwarmkosten von KI-Agenten um den Multiplikator zu sehen, den diese Orchestrierungsmuster zusätzlich hinzufügen.