搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「重排」找到 340 条内容
按专题浏览 →匹配口述回答:…,先用 [[IVF]] 快速筛出一个候选集,比如 Top-200,然后用精确距离计算或者 [[Cross-Encoder]] [[重排]]到 Top-10。这一步很关键,能有效提升最终结果的相关性。另外,查询扩展也是个好手段,比如用HyDE先生成假设文档再检索,但它可能偏题,是否更准应做消融并计入额外延迟与成本。 模型和计算层面,我重点做两件事。一个是 [[Embedding]] 量化,裸向量每维FP32、FP16、INT8分别是4、2、1字节,不能把总索引内存都按这个比例折…
匹配口述回答:…用于精排,粗粒度用于生成。 具体说,检索阶段用小的chunk,比如200 token,保证召回的每个片段都精准、噪音少,这样 [[Rerank]] 的时候效率也高。但生成阶段,如果只给大模型一个200 token的片段,它可能缺少背景信息,答非所问。所以我通常会同时把包含这个小chunk的[[父文档]]或者更大范围的上下文也带上,比如用 Parent Document 的方式,让大模型有足够的上下文去生成答案。这样既保住了检索的精确度,又保证了生成的完整性。 落地时我倾向一套…
匹配口述回答:…很少用。真正落地时,很少只用一种算法,例如Faiss的IVF-HNSW组合可用HNSW搜索粗聚类中心,再扫描选中的倒排桶;若对候选重排,应明确使用精确距离或Cross-Encoder,不能把HNSW粗量化器说成候选精排。 参数调优是另一个容易踩坑的地方。以HNSW为例,M参数控制邻居数,一般设16到64,M越大召回越高,但内存和构建时间也涨;efConstruction设100到500,影响建图质量。IVF的nlist与nprobe联合扫描,4倍根号N只能作某些配置的起点,不…
按学习路线查看教程、项目和面试题。