匹配口述回答：…一下。[[RAG]] 系统里，初步检索通常用 [[Embedding]] 加 [[ANN]]，比如 [[Faiss]] 里的 [[HNSW]] 或者 [[IVF]]。这些方法追求的是快，几毫秒从百万级库里捞 Top-K，但用的是 [[Bi-Encoder]]，查询和文档各自独立编码，最后算个余弦相似度。这么做的问题是，它只能捕捉粗粒度的语义相关，比如用户问“退款多久到账”，它可能召回一篇讲“退款流程”的文档，但里面根本没提时间。这就是所谓的“语义相关但内容不匹配”的噪声。重…

#字节#重排与优化#RAG 重排

面试题·检索· AIlab

RAG 流程：检索、融合、生成

匹配口述回答：…ing，或者退一步，加上 [[BM25]] 做 [[Hybrid Search]]。索引存储我倾向用 [[Faiss]] 加 [[HNSW]] 图索引，因为它的召回率和延迟平衡得好，但如果业务需要过滤元数据，比如只查某个品类的文档，那 Elasticsearch 更灵活。再来看在线检索。用户问“我的订单怎么还没发货”，直接拿这个query去向量检索，很可能召回的是“发货流程说明”而不是“物流异常处理”。所以第一步是Query理解：我会把query改写成更精确的表达，比如“订…

#AIlab#RAG工作流#RAG 技术流程

面试题·检索· 字节

RAG 为什么需要 Rerank?

匹配口述回答：…但用户要的是产品本身。再一个，向量维度有限，信息压缩过程中会损失很多细节，比如实体精确匹配、否定词这种，[[Faiss]]或者[[HNSW]]索引再快，也解决不了语义颗粒度的问题。所以两阶段架构就来了。第一阶段用向量检索或者[[BM25]]做召回，目标是高召回、快，允许精度低一点，比如从百万级文档里先捞出Top 100。第二阶段用Rerank模型，只对这100条做精排，目标是把最相关的几条顶到前面。你可以这么理解，召回是海选，重排是决赛。海选要快，淘汰大部分不相关的；决赛要…

← 上一页第 5 / 5 页

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

按学习路线查看教程、项目和面试题。

站内 RAG 在线实战

#字节#Rerank模型#RAG Rerank

面试题·检索· 字节

RAG 工作流怎么应对时效衰减?

匹配口述回答：…本要标记为已废弃，不能直接删掉，因为法律上可能需要追溯。落地时有个常见失败场景：知识库刚更新，但检索时还是召回旧版本，因为 [[HNSW]] 索引的局部性导致动态更新不及时。我的做法是把更新分成新增、修改、删除三类，新增直接增量插入，修改和删除用软删除加异步重建，同时维护base和delta双索引，查询时合并再按版本过滤。构建完不能直接上线，我会用一批固定query回放，对比Recall@K和延迟，通过才原子切换，不通过就回滚。说到版本控制，其实还有一个更细的坑：如果同一…

#字节#时间衰减检索#RAG 工作流程

面试题·检索· 阿里

Hard Search vs Soft Search 怎么选?

匹配口述回答：…一的关系，实际落地往往是两阶段配合。先说Hard Search。它的核心就是用[[近似最近邻]]，比如[[Faiss]]或者[[HNSW]]，从几亿的候选里快速捞出一小部分，比如几千个。效率确实高，毫秒级。但这里有个问题：ANN是近似检索，不是精确的，它可能会漏掉真正相关的item，这就是召回损失。而且训练的时候，这个操作是不可导的，你没法直接做梯度回传，得用一些技巧，比如强化学习或者Gumbel-Softmax，要么就搞成两阶段pipeline，先检索再训练，流程很复杂。…

#阿里#Hard Search与Soft Search#SIM 模型

面试题·检索· 小米

Embedding 向量维度选型

匹配口述回答：…然，前提是业务对精度没那么敏感，召回率差一两个点能接受。如果场景是金融风控合同比对，一点语义差别都不能丢，那我会保留高维，配合[[HNSW]]索引和GPU加速来扛性能。这里有个坑：很多人觉得维度越低越好，直接降到128甚至64，结果召回崩了。所以我会先拿一小批业务数据做A/B测试，对比不同维度下的Recall@K和延迟，找到那个拐点。另外，普通模型不能预设随意截断有效；可比较学习投影、PCA或蒸馏。经Matryoshka训练的模型专门支持不同前缀维度，也要按对应模型说明与目…

#小米#向量检索#Embedding 向量维度选型