Come funziona questa calcolatrice
IL Calcolatore dei costi di archiviazione del database vettoriale stima l'impronta di archiviazione grezza e costo di hosting mensile degli embedding dietro un sistema RAG. Moltiplica il tuo numero di vettori (inserito in migliaia) dal dimensioni di incorporamento e il byte per dimensione per ottenere il carico utile del vettore di base, quindi applica il sovraccarico dell'indice per riflettere lo spazio extra che le strutture vicine più vicine consumano oltre i vettori stessi. Il totale viene convertito in gigabyte e moltiplicato per tuo $ / GB al mese tariffa, in modo da poter vedere quanto costa effettivamente mantenere online una determinata dimensione del corpus ogni mese prima di impegnarsi con un fornitore o un modello.
La leva principale da tenere d'occhio è la prodotto dimensione per byte: un incorporamento a 1536 dimensioni a 4 byte per dimensione costa il doppio da archiviare rispetto a uno a 768 dimensioni e il passaggio da float32 a una rappresentazione quantizzata a 8 bit riduce i byte per dimensione all'incirca quadruplicati. Poiché i costi scalano linearmente con il conteggio dei vettori, la crescita si accumula rapidamente su larga scala. Il compromesso chiave è precisione di recupero rispetto alla spesa di archiviazione — dimensioni e quantizzazione più piccole riducono i costi ma possono peggiorare la qualità dei risultati, quindi testare il richiamo a ogni impostazione anziché ottimizzare solo per l'archiviazione.
Domande frequenti
Come viene calcolata la dimensione di archiviazione del database vettoriale?
Ogni vettore conta la sua dimensione moltiplicata per byte per numero: un vettore float32 di 1536 dimensioni è di circa 6 KB. Moltiplica per il numero di vettori archiviati, quindi aggiungi il sovraccarico dell'indice (circa il 20–50% per i grafici in stile HNSW). Quel totale, diviso per un miliardo, rappresenta i tuoi gigabyte, che il fornitore fattura per GB al mese.
Come posso ridurre i costi di archiviazione dei vettori?
Utilizza un modello di incorporamento di dimensioni più piccole, quantizza i vettori da float32 a int8 o binario (un risparmio 4× o maggiore) e suddivide i documenti in blocchi in modo meno aggressivo in modo da archiviare meno vettori. Anche l'eliminazione dei metadati inutilizzati e l'eliminazione dei vettori obsoleti aiuta quando il corpus RAG diventa milioni.