匹配口述回答：…可能对应多个政策，向量相似度高的不一定就是对的。所以实际落地我倾向用 [[Hybrid Search]]，把 [[BM25]] 的关键词匹配和向量检索结合起来，但这里有个坑：融合权重很难调。比如电商客服场景，用户问“满减政策”，关键词“满减”能精准命中，但向量检索可能把“优惠券”也召回来，如果权重偏向向量，就会引入噪声。我的做法是先做粗排，用快速向量召回 top-100，然后用轻量模型精排到 top-10，最后只在关键查询上启用重排，这样能平衡延迟和精度。再来看上下文层。主…

#阿里云#Agent#Agent RAG 瓶颈

面试题·Agent· 字节

工具集设计最佳实践?

匹配口述回答：…ken太长，LLM也容易选错。这时候就需要引入工具检索机制，先根据用户问题检索出最相关的几个工具，再让LLM选。这个检索怎么做，是关键词匹配还是向量相似度，或者混合，就值得深入讨论了。所以整体上，我更倾向把工具集设计看作一个持续迭代的过程，从粒度、schema、错误处理到扩展性，每一环都要根据实际业务场景和数据反馈来调整，没有银弹。一句话定位：工具集设计本质是LLM与外部世界的接口规范核心原则：单一职责与schema设计是关键落地风险：错误反馈与安全隔离扩展性：动态…

#字节#Agent#Agent 工具集设计

面试题·文档处理· 字节

RAG 文本分块与向量索引流程

…，文本是怎么变成向量的？……那你存到向量数据库之后，怎么建索引才能查得快？如果数据量到百万级，你用什么索引结构？……那如果还要支持关键词匹配呢？直球架构从原始文档到检索结果，你一步步把整个流程讲清楚：文本怎么分块、用什么嵌入模型、怎么存到向量数据库、索引怎么优化才能既快又准。中间遇到chunk size、维度、召回率这些trade-off，你怎么选？

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

匹配追问：

#字节#文档处理#向量检索

面试题·文档处理· 字节

Embedding 模型选型 vs 落地流程?

匹配口述回答：…all@K和延迟，通过才切换。说到混合检索，其实还有个权衡：什么时候用稠密向量，什么时候用稀疏向量？比如订单号检索，稀疏向量或者关键词匹配更准；而意图理解，稠密向量更好。真正稳定的RAG系统，往往是稠密加稀疏再加[[重排]]，但重排会增加延迟，所以需要根据业务场景做取舍。所以整体上，我会把Embedding模型选型看成是工程和效果的平衡，没有银弹。我更倾向先用小规模数据做离线评测，选一个基线，然后根据线上bad case迭代。本质问技术选型与工程落地的平衡 Embedd…

#字节#Embedding 模型选型#RAG 向量化流程

面试题·评估· 字节

RAG 评估指标与迭代陷阱

匹配口述回答：…尺码不对怎么退”，如果检索没召回退款政策文档，那就是召回不足。我会用[[混合检索]]，[[BM25]]加向量，再加[[重排]]，把关键词匹配和语义匹配结合起来。如果召回够但生成还是瞎编，那就强制引用，让模型必须标注来源，甚至把检索内容直接前置到prompt里。还有一个常见失败场景：用户问题太模糊，比如问“满减怎么算”，这时候我会做查询扩展，比如HyDE，先生成一个假设答案再拿去检索。落地时我特别关注一个前提：离线指标提升不一定等于线上好用。比如召回率高了，但引入的噪声文档反…

#字节#评估与监控#RAG 评估

面试题·评估· 字节

RAG 上下文不准确怎么诊断?

匹配口述回答：…没到”，如果知识库里明明有退款时效文档，但召回的是物流政策，那就是检索不准。这时候我会对比[[BM25]]和向量检索的结果，看看是关键词匹配不行，还是语义理解偏了。再看生成层。如果检索出来的文档是对的，但模型没用好，出现了[[幻觉]]或者忽略了关键信息，那就是生成的问题。举个例子，文档里写了“满200减30”，模型却回答“满300减50”，这就是Hallucination。这时候我会看模型的引用行为，是不是没有强制要求它引用原文。最后看数据层。如果知识库本身就有过时、矛盾…

#字节#RAG 上下文不准确#RAG 诊断

面试题·评估· 百度

RAG 架构怎么工作?

匹配口述回答：…是所谓的"迷失在中间"效应。所以真正落地的时候，我会做几个工程取舍。先说[[混合检索]]，不只用向量，还结合[[BM25]]这类关键词匹配，让两种方法互补。再一个是加[[重排]]，召回Top-K之后用更精细的模型比如[[Cross-Encoder]]重新打分，把真正相关的顶上来。还有就是置信度过滤，分太低的直接扔掉，宁可少给信息也别给错的。还有一个常被问到的问题是RAG和微调的边界。我的看法是，RAG适合知识更新快、需要溯源的场景，比如客服的退款政策、企业SOP；微调适合…

#百度#评估与监控#RAG 架构

面试题·模型微调· 美团

向量检索怎么保准又保真?

匹配口述回答：…。这两条路各有适用场景，落地上我一般会加权融合，权重根据业务数据调。比如在订单检索场景里，用户输入‘2024年3月15号的订单’，关键词匹配订单号或者日期就比语义相似重要得多，我会把关键词召回权重调高。有了候选集之后，下一步是[[重排序]]。粗排阶段用向量相似度快速筛出 Top-K，精排阶段再用 [[Cross-Encoder]] 这种交互式模型去算 query 和每个文档的相关性分数。这个步骤很关键，因为 [[Bi-Encoder]] 的向量相似度有时候会漏掉一些细微的匹…

#美团#向量检索准确性#向量检索相关性

面试题·模型微调· 字节

RAG 工作原理与架构怎么搭?

匹配口述回答：…退款失败”的语义，丢了订单号这个精确信息。所以我会用 [[Hybrid Search]]，把向量的语义匹配和 [[BM25]] 的关键词匹配结合起来，用 RRF 融合排序，召回率能明显提升。第三步是生成，把检索到的片段和问题一起喂给 LLM。但检索回来的片段不一定全有用，噪声多了反而会干扰模型。所以我一定会加一层 [[Rerank]]，用 [[Cross-Encoder]] 精排一下，只留最相关的 3 到 5 条，再让模型根据这些片段生成答案，并且要求它输出引用标记，方便事…

#字节#RAG 系统架构#RAG 工作原理

面试题·模型微调· 字节

领域RAG应用链路怎么搭?

匹配口述回答：…关键是注入元数据，比如文档来源、发布时间、置信度，这样后续检索能按时间或权威度过滤。检索模块。我很少只用向量检索，因为专业领域里关键词匹配往往更精准。所以我会用 [[混合检索]]，把 [[Dense Retrieval]] 和 [[BM25]] 结合起来。比如金融场景，用户搜“第X条”，BM25 能直接命中，向量反而可能跑偏。查询改写也很重要，用户问“这个药能吃吗”，我会先用 HyDE 生成一个假设回答再检索，或者用 LLM 把问题扩展成更完整的表达。召回结果用 [[Cr…

#字节#领域 RAG#RAG应用搭建

面试题·模型微调· 百度

文本嵌入模型怎么选?

匹配口述回答：…”和“订单状态异常处理”。如果只用向量，可能只召回语义接近的第一条，漏了第二条。所以我会做两路召回：一路向量检索语义相似文档，一路关键词匹配订单号，然后用[[Rerank]]阶段把结果合并排序。这样命中率明显提升。落地还有几个坑。第一，模型更新频繁，BGE从1.0到3.0向量分布会变，如果你已经存了几千万向量，重新索引成本极高。我会在选型时预留一个版本兼容层，比如存两份不同维度的向量，或者用[[Product Quantization]]压缩，但精度会有折损。第二，维度越高…

#百度#文本嵌入模型#Embedding 模型对比

面试题·模型微调· 字节

RAG 检索噪声 3 大策略

匹配口述回答：…的情况，这对提升判别能力非常关键。再说检索优化。这里有个常见的误区，就是只依赖向量检索。实际上，向量检索在语义匹配上强，但在精确关键词匹配上弱，比如订单号、政策条款编号。所以我会用[[混合检索]]，把[[BM25]]关键词和向量双路召回结合起来，再合并排序。查询改写也很实用，比如用大模型把用户的问题做同义词扩展或指代消解，把“它”换成具体的商品名。还有一个技巧是HyDE，就是先生成一个伪答案，再用这个伪答案去检索，能有效弥合查询和文档之间的语义鸿沟。当然，这些方法的前提是你…

#字节#RAG 检索噪声#RAG 数据构建

面试题·模型微调· 字节

RAG 检索与生成流程详解

匹配口述回答：…排，把低质量的过滤掉。最后把排好的块拼成Prompt，喂给大模型生成答案。这里有个坑：很多人以为只靠向量检索就行，但实际场景里，关键词匹配往往能补足向量检索的盲区。比如搜一个产品型号“A100-Plus”，向量可能把它跟“A100”混淆，但[[BM25]]能精确命中。所以落地时，我倾向于用[[Hybrid Search]]，把向量和关键词两种结果合并，再重排，这样召回率和精度都高。技术架构其实不复杂，就是一条链：Query进来，经过检索、重排、融合，最后生成。关键组件是E…

#字节#检索生成流程#RAG 实现

面试题·模型微调· 商汤科技

RAG 基本工作流程是什么?

匹配口述回答：…服场景，用户问“我上次买的手机怎么还没到”，向量检索能理解“手机”和“物流”的语义，但如果用户说“订单号 12345 怎么退款”，关键词匹配更准。所以混合检索是标配。检索完，生成前还有一步：把搜到的文本和原始查询拼成一个 Prompt，扔给大模型。这里有个关键：不是所有搜到的块都有用。如果相似度低于某个阈值，我会直接过滤掉，宁可不答也别乱答。另外，Prompt 里要明确说“请基于以下文档回答，如果文档里没有相关信息，就说不知道”。这样能大幅降低 [[Hallucinatio…

#商汤科技#RAG 工作流#RAG 工作流程

面试题·知识图谱· 淘天

RAG 系统痛点怎么破?

匹配口述回答：…ross-Encoder]]二次精排，把噪声压下去；另一条是[[Hybrid Search]]，把[[BM25]]和向量检索结合，关键词匹配和语义匹配互补。这里有个坑：重排模型不能太慢，否则延迟受不了，上线前一定要压测P99。还有，如果业务文档本身质量差，比如全是[[OCR]]错字，那重排也救不了，得先清洗数据。再一个，上下文稀释。模型上下文窗口再大，有效信息被一堆无关段落淹没，注意力就散了，典型的就是Lost in the Middle现象。我的做法是动态上下文压缩，用个…

#淘天#知识图谱#RAG 痛点

面试题·Prompt

AI Agent 核心概念与架构

匹配口述回答：…舍是：任务够复杂才用多Agent，否则单Agent加ReAct循环就够了。典型场景我重点讲智能客服。传统客服是人工查订单，或者用关键词匹配。用Agent之后，用户说“我退款没到账”，Agent可以自动调用订单查询工具，查退款状态，如果显示已处理，再调用支付工具查流水，最后定位到银行延迟，然后给用户解释。这个过程中Agent的价值在于端到端自主处理，不用人工介入。但前提是工具接口稳定，而且Agent有清晰的权限边界，不能让它调用删除订单这种危险操作。常见失败场景是Agent在…

#Agent 架构#工具调用#AI Agent 架构

面试题·RAG· 百度

RAG 索引构建管线

匹配口述回答：…[[Hybrid Search]]，就是 [[BM25]] 关键词加 [[Dense Retrieval]] 向量。为什么呢？因为关键词匹配擅长处理长尾词、专有名词，比如订单号、错误码，这种向量很难表达；而向量擅长语义匹配，比如'退货流程'和'退款步骤'。两者互补，能覆盖更多场景。但混合检索有个坑：权重怎么配。如果向量权重太高，关键词结果被淹没，长尾就丢了；反过来关键词权重太高，语义匹配又没了。我一般的做法是先各出一部分结果，再用 [[Rerank]] 模型合并排序。索引结…

#百度#RAG索引优化#RAG 索引构建管线

面试题·RAG· 字节

RAG 怎么提升事实准确性?

匹配口述回答：…直接决定RAG的上限。如果检索回来的内容不相关，模型再强也白搭。所以我会特别关注检索这一步的工程细节，比如用 [[混合检索]]，把关键词匹配（[[BM25]]）和向量相似度（[[Dense Retrieval]]）结合起来，因为很多专业术语或编号（像订单号、错误码）向量搜不好，但关键词能精准命中。另外，切分策略也很关键，固定大小切分容易把完整语义切碎，我一般会用语义切分，配合[[滑动窗口]]加一小段上下文重叠。还有一个容易被忽略的点：RAG的评估。很多人上线后只看最终回答好…

#字节#RAG工作原理#RAG 工作原理

面试题·RAG· 美团

外挂数据库怎么提升大模型准确性?

匹配口述回答：…爆单了。但用动态RAG，数据层通过Kafka或者Flink流式接入，增量构建向量索引，分钟级内新状态就能被检索到。检索层多路召回，关键词匹配商户ID，向量匹配相似场景的历史数据，再根据时间戳加权，新数据排前面。融合层把检索结果注入Prompt，标注数据来源时间，让模型感知时效性。这样模型就能回答出“当前该商户运力不足，建议暂停接单”。但这里有个坑。高并发写入时，向量索引的图结构更新很麻烦。你不能每来一条新数据就重建整个[[HNSW]]图，那延迟扛不住。我会把追加和删除分开处…

#美团#外挂数据库增强#外挂数据库

面试题·检索· 字节

RAG Retriever 工作流程详解

匹配口述回答：…或权限标签先筛一遍，能大幅缩小搜索空间，而不是把几亿条向量全扫一遍。第四步是候选排序。我一般不会只依赖向量检索，因为稀疏特征比如关键词匹配也很重要。所以会做 [[混合检索]]，把向量 + [[BM25]] 的结果线性加权融合，或者用学习模型动态调权。然后[[重排序]]，用 [[Cross-Encoder]] 比如 bge-reranker 对 Top-100 精排到 Top-20，这一步很关键，能显著提升最终回答的质量。最后是去噪，设定置信度阈值，低于阈值的直接丢掉，或者对…

#字节#重排与优化#RAG Retriever 工作流程

面试题·检索· 字节

专业领域RAG链路优化陷阱

匹配口述回答：…edge Graph]]做图索引。但真正落地时，这三种不是等权重，而是根据场景动态调。比如说订单异常场景，用户问“退款到账时间”，关键词匹配“退款”就够了，语义向量反而可能召回无关的“退货”，所以我会优先BM25，向量做补充。前提是你的向量模型得用领域语料做过[[SFT]]或对比学习微调，否则通用模型在专业领域效果差很多。检索策略这块，我倾向于多路召回加精排。召回层同时走向量Top-K、BM25 Top-K和图邻居扩展，合并去重。然后[[重排]]用[[Cross-Enco…

#字节#重排与优化#RAG 链路优化

面试题·检索· 高德

向量数据库怎么支撑 Agent 记忆?

匹配口述回答：这道题问的是[[Agent]]记忆，其实本质是在问：当对话不再是关键词匹配，而是语义理解时，你怎么让Agent记住并召回有用信息。传统数据库靠精确匹配，但Agent对话里用户说'上次那个退款的事'，你不能指望他记住订单号，对吧？所以[[向量数据库]]成了标配，因为它按语义相似度检索，容错性强。但真正落地时，不是简单把文本转成向量存进去就完了，有很多坑要踩。先说[[Embedding]]模型的选择。通用模型比如text-embedding-ada在垂直场景下语义区分度不够。举…

#高德#重排与优化#文档处理

面试题·检索· 哔哩哔哩

直接精排所有候选，为何不可行？

匹配口述回答：…精排可选范围太窄。举个例子，电商大促时，用户搜'手机'，候选池里可能有几十万款。召回阶段先根据用户历史点击和搜索词，用向量检索加关键词匹配，捞出一千款；粗排再用价格、销量、店铺评分等轻量特征，砍到一百款；精排才上深度交叉模型，考虑用户实时行为、商品属性、上下文等，最终输出十个结果。如果跳过召回和粗排，精排直接面对几十万候选，延迟和算力都爆了。所以我的理解是，召回、粗排、精排各有适用场景。召回负责海量候选的快速筛选，粗排做中等粒度的过滤，精排做精准排序。真正落地时，这三者必…

#哔哩哔哩#召回粗排精排#推荐系统架构

面试题·检索· 高德

记忆型Agent为何用向量数据库?

匹配追问：场景切入比如我们做一个订单客服助手，用户说“帮我查上次那个订单”，你得知道是哪个订单。如果只靠关键词匹配，“上次”根本对不上。你一般怎么让智能体记住这种历史信息？为啥非要用向量数据库？层层追问智能体要记住历史对话，你会怎么存？……如果用户问“上次说的那款产品还有吗”，怎么找到“上次”指的是啥？……那embedding怎么选？……怎么保证检索又快又准？直球架构设计一个带记忆的智能体，用向量数据库存储历史信息。说清楚为什么选向量数据库而不选关系型数据库；embeddin…

#高德#Agent#向量数据库 Agent