Часто задаваемые вопросы
Как рассчитывается размер хранилища векторной базы данных?
Каждый вектор представляет собой число измерений, умноженное на байты на число: вектор float32 с размером 1536 измерений имеет размер около 6 КБ. Умножьте на количество векторов, которые вы храните, а затем добавьте накладные расходы на индекс (примерно 20–50 % для графов в стиле HNSW). Эта сумма, разделенная на миллиард, и составляет ваши гигабайты, которые провайдер выставляет за ГБ-месяц.
Как сократить расходы на хранение векторов?
Используйте модель внедрения меньшего размера, квантовайте векторы из float32 в int8 или двоичный формат (экономия в 4 раза или больше) и разбивайте документы менее агрессивно, чтобы хранить меньше векторов. Удаление неиспользуемых метаданных и удаление устаревших векторов также помогает, когда корпус RAG вырастает до миллионов.