Die Kosten steigen, da Dokumente pro Abfrage steigen
Dieselben Raten wie oben, die durchschnittlichen neu eingestuften Dokumente pro Abfrage schwankten über einen repräsentativen Bereich (Abfragen/Monat und festgehaltene Token-Größen). Beobachten Sie die „Klippe“ jedes Mal, wenn die Dokumentenzahl bei Cohere ein Vielfaches von 100 überschreitet, während bei Voyage AI und Jina AI ein sanfter Anstieg pro Token zu verzeichnen ist.
| Dokumente / Abfrage | Zusammenhängen | Reise-KI | Jina AI | Günstigstes |
|---|
Zwei grundlegend unterschiedliche Reranker-Abrechnungsformen
Kohärente Neubewertung misst die Nutzung in ganzen „Sucheinheiten“: Eine Sucheinheit deckt eine Abfrage plus bis zu 100 Dokumente ab, wobei jedes Dokument auf 500 Token begrenzt ist. Wenn eine Abfrage mehr als 100 Dokumente sendet oder ein Dokument die 500-Token-Obergrenze überschreitet, wird der Überlauf auf eine zusätzliche ganze Sucheinheit aufgerundet – das Neuranking von 101 Dokumenten kostet also genau das Gleiche wie das Neuranking von 200. Die von diesem Rechner verwendete Formel lautet effectiveDocs = docs × ceil(tokensPerDoc / 500); units = ceil(effectiveDocs / 100); searches = queries × units; cost = searches / 1000 × rate (Preis ≈ 2,00 $/1.000 Suchanfragen für Rerank 3.5 und Rerank 4 Fast, ≈ 2,50 $/1.000 für Rerank 4 Pro). Reise-KI Und Jina AI Stattdessen wird jedes tatsächlich verarbeitete Token in Rechnung gestellt – Abfragetext plus die Token jedes Kandidatendokuments – ohne gebündelten Headroom und ohne Rundungsklippe: tokens = queries × (docs × tokensPerDoc + queryTokens); cost = tokens / 1,000,000 × rate (Voyage rerank-2.5 ≈$0.05/1M Token, rerank-2.5-lite ≈$0.02/1M Token; Jina jina-reranker-v2-base-multilingual ≈$0.02/1M Token, jina-reranker-v3.5 ≈$0.05/1M Token).
Der praktische Effekt: Die meisten RAG-Pipelines ordnen nur eine Auswahlliste mit 10–50 Kandidatenblöcken pro Abfrage neu, was weit unter der Obergrenze von 100 Dokumenten von Cohere liegt – was bedeutet, dass Sie für eine vollständige Sucheinheit mit der Größe von bis zu 100 Dokumenten bezahlen, obwohl Sie nur einen Bruchteil davon verwenden, und die tokenbasierten Anbieter normalerweise günstiger sind. Cohere wird wettbewerbsfähiger, sobald eine Pipeline kontinuierlich in die Nähe der vollen Obergrenze von 100 Dokumenten wechselt, da Sie zu diesem Zeitpunkt tatsächlich den Headroom nutzen, für den Sie bezahlen. Beobachten Sie die Anzahl der Dokumente, die knapp über einem Vielfachen von 100 liegen (101, 201, 301 …) – hier steigen die Kosten von Cohere im Vergleich zu den tokenbasierten Anbietern am stärksten an. Führen Sie Ihr eigenes Abfragevolumen und Ihre eigene Dokumentanzahl mit dem oben stehenden Rechner durch, anstatt die Schlagzeilenraten pro Einheit oder pro Token isoliert zu vergleichen.
RAG vs. FeinabstimmungKosten für die Site Search-API
So funktioniert dieser Rechner
Der Reranker-Kostenrechner für Cohere vs. Voyage AI vs. Jina AI vergleicht zwei grundlegend unterschiedliche Reranker-API-Abrechnungsformen anhand Ihres monatlichen Abfragevolumens und Ihrer Dokumentanzahl: Zusammenhängen Rechnungen in ganzen „Sucheinheiten“ (eine Abfrage plus bis zu 100 Dokumente, jedes auf 500 Token begrenzt, mit Überlaufaufrundung auf eine weitere volle Einheit), während Reise-KI Und Jina AI Rechnung pro Token tatsächlich verarbeitet, ohne gebündelten Spielraum. Die Kosten für Cohere betragen effectiveDocs = docs × ceil(tokensPerDoc/500); units = ceil(effectiveDocs/100); cost = queries × units / 1000 × rate; Voyage AI und Jina AI sind beides cost = queries × (docs × tokensPerDoc + queryTokens) / 1,000,000 × rate, die sich nur in der Rate pro Million Token unterscheiden. Die folgende Vergleichstabelle durchsucht einen repräsentativen Bereich von Dokumenten pro Abfrage, sodass Sie genau sehen können, wo die abgerundeten Klippen von Cohere im Verhältnis zu den glatten tokenbasierten Kurven landen.
Hierbei handelt es sich um repräsentative Preisformen, die auf typischen veröffentlichten Preisen ab 2026 basieren (Cohere Rerank 3.5 / Rerank 4 Fast ≈2,00 $ pro 1.000 Suchanfragen, Rerank 4 Pro ≈2,50 $ pro 1.000 Suchanfragen, wobei jede Suche bis zu 100 Dokumente mit einer Obergrenze von jeweils 500 Token abdeckt; Voyage AI Rerank-2,5 ≈0,05 $/1 Mio. Token und Rerank-2,5-Lite ≈0,02 $/1 Mio. Token mit 200 Mio. kostenlosen Token; Jina AI jina-reranker-v2-base-multilingual ≈0,02 $/1 Mio. Token und jina-reranker-v3.5 ≈0,05 $/1 Mio. Token) – keine Live-Anbieterangebote. Die tatsächlichen Preise variieren je nach Modellversion, Volumenverpflichtungen und ausgehandelten Unternehmenskonditionen. Bestätigen Sie die aktuellen Preise immer direkt mit jedem Anbieter, bevor Sie ein Budget erstellen.
Häufig gestellte Fragen
Ist Cohere Rerank günstiger als Voyage AI oder Jina AI?
Es hängt ganz davon ab, wie viele Dokumente Sie pro Abfrage im Verhältnis zur Cohere-Sucheinheitsobergrenze von 100 Dokumenten neu einordnen. Kohärente Rechnungen in ganzen „Suchen“ – eine Suche deckt eine Abfrage plus bis zu 100 Dokumente ab (jedes ist auf 500 Token begrenzt) – wenn Sie also nur 20–30 Dokumente pro Abfrage senden, zahlen Sie für eine vollständige Sucheinheit, die Sie nicht verwenden, und in der Regel kommen Voyage AI (0,05 $/1 Mio. Token für Reranking-2,5) oder Jina AI (0,02 bis 0,05 $/1 Mio. Token) zum Einsatz günstiger, weil sie nur die Token abrechnen, die Sie tatsächlich senden. Sobald Sie nahezu 100 Dokumente pro Abfrage kontinuierlich neu einordnen, können die 2,00 bis 2,50 US-Dollar pro 1.000 Suchanfragen von Cohere wieder konkurrenzfähig oder sogar günstiger werden.
Warum berechnet Cohere pro Suche und nicht pro Token wie Voyage AI und Jina AI?
Die Rerank-API von Cohere misst die Nutzung in „Sucheinheiten“: Eine Sucheinheit deckt eine Abfrage plus bis zu 100 Dokumente ab, wobei jedes Dokument auf 500 Token begrenzt ist. Wenn Sie mehr als 100 Dokumente senden oder ein Dokument mehr als 500 Token umfasst, wird der Überlauf in zusätzliche ganze Sucheinheiten aufgerundet – das Senden von 101 Dokumenten kostet also genauso viel wie das Senden von 200. Voyage AI und Jina AI berechnen stattdessen pro tatsächlich verarbeitetem Token (Abfragetext plus Token jedes Dokuments), was sich problemlos und ohne Rundungsklippen skalieren lässt, aber bedeutet, dass die Kosten linear weiter steigen, egal wie viele Token Sie senden, ohne gebündelten Spielraum.
Was passiert, wenn ich bei Cohere mehr als 100 Dokumente pro Abfrage neu einordne?
Cohere rundet auf die nächste ganze Sucheinheit auf. Das Neuranking von 101–200 Dokumenten in einer Abfrage wird als 2 Sucheinheiten berechnet, obwohl Sie nur durch ein zusätzliches Dokument die Obergrenze von 100 Dokumenten überschritten haben. 201-300 dokumentiert Rechnungen als 3 Einheiten und so weiter. Die gleiche Rundung gilt pro Dokument, wenn ein einzelnes Dokument die Obergrenze von 500 Token überschreitet – ein Dokument mit 1.200 Token zählt als 3 Dokumente für die Obergrenze von 100 Dokumenten. Diese Stufenfunktionspreisgestaltung bedeutet, dass die Grenzkosten eines zusätzlichen Dokuments von nahezu Null auf den Preis einer vollständigen Sucheinheit steigen können.
Wie viel kosten die Reranker-APIs Voyage AI und Jina AI pro Million Token?
Voyage AI berechnet 0,05 US-Dollar pro 1 Mio. Token für Rerank-2,5 und 0,02 US-Dollar pro 1 Mio. Token für das leichtere Rerank-2,5-Lite-Modell, wobei 200 Millionen kostenlose Token pro Konto enthalten sind. Jina AI berechnet 0,02 USD pro 1 Mio. Token für jina-reranker-v2-base-multilingual und 0,05 USD pro 1 Mio. Token für das neuere jina-reranker-v3.5. Beide Anbieter rechnen nach den insgesamt verarbeiteten Token (Abfragetext plus Token jedes Kandidatendokuments) ab, ohne Einheit pro Abfrage oder pro Suche – die Kosten skalieren also linear und vorhersehbar mit dem Token-Volumen, anstatt wie bei Cohere in Schritten von 100 Dokumenten zu springen.
Welche Reranker-API ist für eine typische RAG-Pipeline, die 10–50 Dokumente pro Abfrage neu einordnet, am günstigsten?
Für die meisten RAG-Retrieval-Pipelines, die eine Auswahlliste von 10–50 Kandidatenblöcken pro Abfrage neu einstufen – deutlich unter Coheres 100-Dokument-Sucheinheitsobergrenze – kosten jina-reranker-v2-base-multilingual (0,02 $/1 Mio. Token) von Jina AI oder rerank-2.5-lite (0,02 $/1 Mio. Tokens) von Voyage AI normalerweise weniger als Cohere, weil Ihnen werden nur die von Ihnen gesendeten Token in Rechnung gestellt, statt einer Pauschalgebühr pro Suche, die für bis zu 100 Dokumente gilt. Cohere wird wettbewerbsfähiger, sobald Ihre Pipeline immer näher an die volle Obergrenze von 100 Dokumenten pro Abfrage heranrückt. Führen Sie Ihr eigenes Abfragevolumen und Ihre Dokumentenanzahl mit dem oben stehenden Rechner durch, um zu sehen, welcher Anbieter bei Ihrem tatsächlichen Umfang gewinnt.