搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「Rerank」找到 339 条内容
按专题浏览 →匹配口述回答:…用于精排,粗粒度用于生成。 具体说,检索阶段用小的chunk,比如200 token,保证召回的每个片段都精准、噪音少,这样 [[Rerank]] 的时候效率也高。但生成阶段,如果只给大模型一个200 token的片段,它可能缺少背景信息,答非所问。所以我通常会同时把包含这个小chunk的[[父文档]]或者更大范围的上下文也带上,比如用 Parent Document 的方式,让大模型有足够的上下文去生成答案。这样既保住了检索的精确度,又保证了生成的完整性。 落地时我倾向一套…
匹配口述回答:…很少用。真正落地时,很少只用一种算法,例如Faiss的IVF-HNSW组合可用HNSW搜索粗聚类中心,再扫描选中的倒排桶;若对候选重排,应明确使用精确距离或Cross-Encoder,不能把HNSW粗量化器说成候选精排。 参数调优是另一个容易踩坑的地方。以HNSW为例,M参数控制邻居数,一般设16到64,M越大召回越高,但内存和构建时间也涨;efConstruction设100到500,影响建图质量。IVF的nlist与nprobe联合扫描,4倍根号N只能作某些配置的起点,不…
匹配口述回答:…档库。但注意,真正落地常常是混合方案,例如Faiss IVF-HNSW中HNSW用于粗中心搜索,IVF-PQ另对桶内向量编码;候选重排可用精确距离或Cross-Encoder,应把不同阶段讲清楚。 举个例子,做电商退款政策的RAG,用户问‘退货超时怎么办’,可以把小规模Flat/HNSW与大规模IVF/PQ列为候选;nlist=4096、nprobe=20只是一组待测试配置,延迟还依维度、硬件、过滤和负载,不能承诺10或100毫秒。 平衡精度与效率,我主要看三个策略。先说 分…
学习内容与项目面试,在同一条路上。