完整题目
在检索增强生成(RAG)系统中,向量索引是关键组件。请列举并解释可用于提升索引效率与召回率的常见优化策略。
本文目录
先明确优化对象
索引效率与召回率存在权衡,不能只调一个参数。应先建立精确搜索基线,再在真实向量分布、过滤条件和并发下测 Recall@K、P50/P95 延迟、QPS、内存、构建时间与更新成本。
常见策略
- 索引选择:HNSW 通常以较高内存换取低延迟和较高召回;IVF 通过聚类缩小扫描范围;PQ/OPQ 压缩向量以节省存储和带宽。选择取决于数据规模、更新模式、内存和目标硬件。
- 参数调优:HNSW 的 M、efConstruction、efSearch,IVF 的 nlist、nprobe,以及 PQ 码长共同决定构建成本、延迟与召回。应扫参绘制 Pareto 曲线,而非使用固定比例。
- 两阶段检索:ANN 先取较大候选集,再用原始向量、cross-encoder 或任务分数精排,以较小在线成本恢复部分精度。
- 表示与分块:选对 embedding、距离函数和归一化方式;文档分块应通过查询集验证边界与重叠。领域微调、多向量表示只有在评测改善时采用。
- 工程维护:分片与副本、冷热分层、批量写入、删除墓碑与周期压缩、索引版本化和原子切换。高选择性过滤要评估 pre-filter 与 post-filter 的召回和延迟差异。
量化节省多少内存取决于原始精度、码本和元数据;DiskANN 也不只用于某个固定数量级。任何“提升召回”的策略都应相对精确近邻和端到端问答质量验证。