—月間チャーン
—1年目の合計
—1 回の完全なインデックスの再作成
月ごとの解約ごとの年間コスト
チャーンは、ほとんどの人が見逃しているドライバーです。月に 20% 以上回転するコーパスを最新の状態に保つには、モデルの移行前に 1 回限りの埋め込みで示唆されるよりもはるかに多くのコストがかかります。
| 月間チャーン | ドキュメントの再埋め込み / 月 | 1年目の合計 |
|---|
導入後に発生する費用
検索拡張生成プロジェクトのコストは、ほとんどの場合同じ方法で計算されます。ドキュメントを数え、トークンと埋め込み価格を掛ければ、その数字が得られます。この数値は実際のものですが、コーパスを埋め込むコストにすぎません。 一度。ナレッジ ベースは博物館ではありません。サポート記事は書き直され、製品ドキュメントは更新され、新しいコンテンツが毎週登場します。これらの変更はすべて再埋め込みする必要があり、コーパスの 10 分の 1 が毎月変更されると、毎月、すべての 10 分の 1 を再埋め込むために静かにお金を払っていることになります。大規模なコーパスでは、定期的な請求額は 1 年以内に最初の請求額に匹敵する可能性があり、開始の見積もりには決して現れません。
それから移民の崖があります。異なるモデルの埋め込みベクトルは互換性がないため、新しいまたは安価な埋め込みモデルに移行した日には、コーパス全体を一度に再埋め込み、つまり完全なインデックスを再埋め込む必要があります。その 1 つのイベントで、通常のチャーンが 1 年かかる場合よりも多くの費用がかかる可能性があり、チームが本来行うべきモデルのアップグレードを先延ばしにするのはまさにこれが理由です。事前に予算を立てることで、恐ろしいサプライズが広告申込情報に変わります。進行中の数を抑えるには、ドキュメントのハッシュを追跡して実際に変更されたもののみを再埋め込み、小さな編集でファイル全体が再埋め込まれないように細かく分割し、割引のためにジョブをバッチ化します。パイプラインの残りの部分のサイズを設定します。 RAG コスト計算ツール、 埋め込みコスト計算ツール そして ベクトル データベースのコスト計算ツール。価格は編集可能な参考見積もりです。現在の料金はプロバイダーのドキュメントで確認してください。
暗号通貨取引所支払い電子メールとSMS市場データ地図
よくある質問
RAG ナレッジ ベースには、1 回だけではなく毎月費用がかかるのはなぜですか?
書類が変わるからです。ほとんどのチームが予算を計上する 1 回限りのコストは、コーパス全体を 1 回埋め込むことですが、実際のナレッジ ベースは頻繁に変更され、新しいドキュメントが追加され、既存のドキュメントが編集され、検索可能な状態を保つために変更されたすべてのドキュメントを再埋め込む必要があります。大規模なコーパスの 10% が毎月変更される場合、全体の 10% を毎月、永久に再埋め込むことになります。この繰り返しの線は、ほとんどの RAG コスト見積もりでは目に見えませんが、この計算ツールでは、1 回限りの初期コストと併せて明示的に示します。
完全なインデックスの再構築とは何ですか?また、なぜそれほど高価なのでしょうか?
完全なインデックスの再埋め込みとは、コーパス全体を最初から埋め込み直すことです。これは通常、別の埋め込みモデルまたは新しい埋め込みモデルに切り替えたことが原因です。異なるモデルからの埋め込みには互換性がありません。同じインデックス内で古いモデルと新しいモデルからのベクトルを混合することはできません。そのため、モデルをアップグレードすると、すべてを一度に再埋め込む必要があります。 1 つの請求書で 1 年間の増加分のチャーンが小さく見えてしまうほどの大規模なコーパスです。このツールは、1 回の完全なインデックス再作成のコストを個別に表示するため、モデルの移行に驚かずに計画を立てることができます。
継続的な再埋め込みコストを下げるにはどうすればよいですか?
レバーが3本。まず、実際に変更されたもののみを再埋め込みます。ドキュメントのハッシュを追跡して、変更されていないファイルが再埋め込まれないようにします。また、チャンク レベルで再埋め込むことで、1 つの段落を編集しても本全体が再埋め込まれないようにします。次に、検索品質が許す限り、より安価な埋め込みモデルまたはより小さい次元を選択します。埋め込みの価格は大きく異なります。 3 番目に、再埋め込みジョブをバッチ処理して、バッチ API 割引を使用します。計算ツールを使用すると、チャーンと価格をダイヤルして、パイプラインを構築する前に各レバーがどれだけ節約できるかを確認できます。