匹配口述回答：…分块以及零重叠、短窗口、较长窗口，用同一评测集判断边界证据是否更完整。举个例子，客服退款场景下，一个退款政策文档里，不同条款之间有引用关系，如果分块切断了，检索到一半政策，模型可能误解。还有，我会保留元数据，比如标题、章节号，这样在[[重排]]时能辅助过滤。向量归一化这块，很简单，L2归一化把向量长度变成1，这样余弦相似度等价于点积，计算能直接走矩阵乘法，在[[Faiss]]里批量检索快很多。接下来是向量匹配。余弦相似度公式大家都知道，但归一化后就是点积，所以实际计算我用…

#安克科技#RAG 向量化#Embedding 模型

面试题·评估· 淘天

RAG 怎么减少幻觉?

匹配口述回答：…景。用户问'满减优惠能叠加吗'，如果模型凭记忆回答，可能给出过时的政策。RAG会实时从知识库检索最新的满减规则文档，生成答案时附上引用。用户追问'那和店铺券呢'，再检索店铺券规则。整个过程完全动态，而且每个回答都有出处，客服复核也方便。不过落地RAG不是简单的'配个[[向量库]]就行'。有几个风险我特别关注。一是文档切分策略，[[Chunk]]太大包含无关信息，太小丢失上下文，我倾向用语义切分配合重叠窗口。二是检索延迟，大规模知识库下，[[ANN]]检索可能变慢，需要做索引…

#淘天#事实准确性#RAG 减少幻觉

面试题·评估· 百度

RAG 错误根源怎么定位?

匹配口述回答：…AG 是串联系统，前面检索错会传导到生成，生成模型也可能在检索正确的情况下自己发挥，所以要把两个模块拆开看。答案跑题、数字错误或引用缺失只能作为排查线索，不能直接归因。检索和生成可能同时失败，必须用黄金证据替换、重复对照和证据级指标隔离变量。第一步看检索 TopK。检查正确文档有没有被召回，排在第几位。如果正确文档根本不在 TopK，基本就是 retriever 召回问题，对应指标看 Recall@K。如果正确文档在 TopK 但排得很靠后，就是排序问题，对应看 MRR …

← 上一页第 13 / 14 页下一页 →

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

按学习路线查看教程、项目和面试题。

站内 RAG 在线实战

#百度#评估与监控#RAG 错误定位

面试题·评估· 快手

LLM 如何集成外部工具与记忆?

匹配追问：…景切入我看你之前做过客服知识库对吧？假设现在要接入大模型，用户问“我的订单怎么还没到”，模型需要查订单API、翻历史聊天记录、再引用某个文档。你打算怎么把这些模块拼起来？层层追问你平时怎么把大模型和外部工具、数据源串起来？……如果需要让模型自己决定调用哪个工具呢？……那如果还需要记住前面的对话内容，整个架构你怎么设计？直球架构聊一下LangChain的核心设计理念。它怎么把LLM、工具、数据源、记忆这些组件集成起来的？关键组件比如Model I/O、Retrieva…

#快手#评估与监控#Agent

面试题·评估· 美团

ReAct vs Plan-and-Execute 错误恢复谁强?

匹配口述回答：…后申请退款。每一步都基于上一步的观察灵活调整，非常自然。但如果是 30 步的复杂流程，比如企业合规审查，需要依次检查多个条款、交叉引用不同文档，用 ReAct 就会很痛苦，因为上下文越来越长，模型容易迷失。这时 Plan-and-Execute 就合适，先规划好要检查哪些条款、按什么顺序，然后每个子任务独立执行，上下文短且稳定。这里有个坑：Plan-and-Execute 的前提是任务步骤能预先穷举。如果任务本身高度不确定，比如开放式问答，规划阶段可能漏掉关键分支，执行时发…

#美团#评估与监控#Agent

面试题·评估· 美团

Agent 功能模块怎么分工?

匹配口述回答：…提：模块之间要解耦，每个模块的输入输出格式要标准化，否则调度会乱。比如 Search 返回的结构化数据，Coding 模块要能直接引用，而不是重新解析。另外，我想提一个延伸点：这三个模块的调用顺序不是固定的，但顺序错了可能导致任务失败。比如先 Coding 再 Search，代码里用到的是过时数据。所以规划模块需要具备动态规划能力，而不是简单按固定模板走。这个动态规划怎么实现，比如用 [[Tree-of-Thoughts]] 来搜索最优路径，我觉得是 Agent 架构里比较…

#美团#评估与监控#Agent

面试题·模型微调· 美团

RAG 为何比 SFT 更优?

匹配口述回答：…模型就能实时检索到‘满200减30’这种信息，再结合它通过SFT学会的退款逻辑，给出准确回答。而且客服场景要求可溯源，RAG能直接引用政策原文，用户和客服都能验证，这点SFT做不到。不过RAG不是上了就万事大吉，有几个前提必须注意。首先是检索质量，如果召回的内容是错的，那模型再聪明也没用。常见失败场景是，用户问‘订单号12345为什么显示异常’，结果检索出来一堆不相关的日志，模型就可能乱说。所以上线时我会特别关注[[Rerank]]和查询改写，比如把‘订单异常’改写成‘订单…

#美团#RAG vs SFT#RAG

面试题·模型微调· 商汤科技

RAG 技术流程怎么跑?

匹配口述回答：…生成阶段，把检索到的文本和问题拼成Prompt，让LLM基于证据回答。Prompt结构很关键：先给检索内容，再给问题，明确要求模型引用来源。这里有个风险：如果检索内容有噪声或冲突，模型可能会混淆。所以我会设一个置信度阈值，低于0.6的块直接丢弃，避免污染上下文。举个例子，电商客服场景。用户问“我买的手机降价了，能退差价吗？”系统先检索知识库，找到“7天价保”政策文档，然后LLM基于这个文档生成回答，并标注来源。如果知识库没更新，比如政策刚改，那RAG就抓不到，所以前提是知识…

#商汤科技#检索生成流程#RAG 技术流程

面试题·模型微调· 字节

大模型输出JSON怎么保正确?

匹配口述回答：…判，延迟开销依实现和schema实测。支持这些规则的strict schema可约束必填字段、类型与枚举；它不能证明金额、身份、引用等业务事实正确。所以第二层就是提示工程。我会在prompt里把Schema写清楚，比如字段名、类型、枚举值、必填还是可选，再给两三个完整的输入输出示例。这里有个技巧，我会让模型输出先以{开头，并且在最后加一句“只返回JSON，不要任何解释”，这样能减少很多噪声。不过提示工程是软约束，模型可能不听话，所以不能完全依赖。第三层是后处理兜底。实际线…

#字节#Agent#大模型 JSON 输出

面试题·RAG

什么是 RAG？一句话讲清检索增强生成

匹配口述回答：…，RAG 能有效降低[[幻觉]]，提升可审计性。纯生成时模型容易一本正经地编造，RAG 把回答约束在检索到的资料上，而且可以要求它引用来源。比如客服场景，用户问'退款什么时候到账'，RAG 会先查订单状态、支付规则、退款政策，再生成针对这个用户的回答。政策改了，改文档就生效，出了问题也能追溯到具体片段，合规审核容易很多。这里有个很重要的边界。RAG 和微调不是二选一，而是解决不同问题。RAG 适合知识注入和事实更新，微调适合改变模型的行为风格或任务格式。比如让模型学会客服话…

#入门#基础概念#什么是RAG

面试题·知识图谱· 字节

GraphRAG 原理与构建方法

匹配口述回答：…程一般是：文档清洗和[[分块]]之后，用模型抽取实体，比如人、公司、产品、概念；再抽取实体之间的关系，比如投资、隶属、竞争、因果、引用。抽完以后要做实体消歧和合并，比如“OpenAI”“Open AI”“这家公司”可能指同一个实体。最后把实体作为点，关系作为边，构建属性图，并保留来源文档、时间、关系置信度这些信息。在微软 GraphRAG 那类方案里，还会做社区检测，比如用 Leiden 算法把联系紧密的实体聚成社区，然后对每个社区生成摘要。社区可以分层，底层是局部实体关系…

#字节#GraphRAG 实现原理#知识图谱构建

面试题·知识图谱· 淘天

GraphRAG 落地的主要技术挑战是什么？

匹配口述回答：…务指标受很多因素影响，不能替代正确性和权限门禁。图构建要保留来源并正确抽样审核路径算法只生成候选融合顺序由目标查询实测跨索引用代际发布控制一致性图、检索、生成、系统和业务分层评测约4分钟融合顺序由目标查询实测可继续追问实体链接、路径证据、查询路由与评测设计。

#淘天#知识图谱#评估与监控

面试题·知识图谱· 淘天

GraphRAG 知识图谱构建有哪些挑战?

匹配口述回答：…然语言映射到正确实体和遍历范围。图太密会带来噪声，太稀会让多跳路径中断，而且图上存在一条路径不代表因果关系或事实成立，最终答案仍需引用底层证据。删除或纠正一条事实可能改变实体合并、社区划分和摘要，所以需要事件日志、幂等写入、版本化、局部重算和回滚。跨租户、敏感实体和提示注入还要求在检索层重新授权。落地时我会把更新拆成追加事件、实体解析、关系写入、社区与摘要重算几个阶段，每个阶段携带同一版本号。查询只读取完整发布的版本，失败时回滚到上一个快照，避免节点已经更新但摘要仍是旧内…

#淘天#知识图谱#GraphRAG 挑战

面试题·Prompt· 百度

AI Agent组件如何协同工作?

匹配口述回答：…检索到不相关的内容反而会干扰模型。我见过一个失败案例，因为 [[Embedding]] 模型没做好领域适配，导致 Agent 总是引用错误的历史对话，越帮越忙。工具和行动模块是 Agent 的手脚。它通过 [[Function Calling]] 把用户的自然语言请求转化成 API 调用。这里的关键是工具注册和参数解析。比如用户说“查一下这个订单的状态”，Agent 要能识别出“订单号”这个参数，并从上下文提取出来。工具执行后，返回结果还要解析，决定是继续规划还是直接输出。…

#百度#Agent#AI Agent 核心组件

面试题·Prompt· 百度

Prompt 优化策略有哪些?

匹配口述回答：…或工具调用，不过自由生成的思维过程不能当作正确性证据。涉及外部事实时，我会用 RAG 或工具补充来源，Prompt 负责证据边界、引用、不确定时的行为和权限，而不是要求模型凭记忆猜。我先从工程设计角度回答，再用一个假设场景说明。假设做客服质检，可以固定模型、解码参数和数据切分，逐步比较基础指令、边界 Few-shot、结构化输出与验证器。每次只改变一个主要因素，同时看分类质量、格式成功率、校准、安全错误、token 和延迟；自动 Judge 先用人工标签校准。用户内容、检索…

#百度#Prompt工程#Prompt 优化

面试题·RAG· 美团

分布漂移下外接数据库怎么增强模型?

匹配口述回答：…效果，而不是频繁重训。因为重训成本高、周期长，而分布漂移又很常见。所以核心思路是：感知漂移，然后动态更新外挂知识，让模型在推理时能引用最新信息。具体架构上，我把它拆成三层。第一层是漂移感知层，需要持续监控输入分布和业务指标，比如用 KL散度检测特征偏移，或者看模型置信度是不是突然变低、转化率有没有骤降。一旦触发阈值，自动采样并进入审核或自动入库，这样能快速响应。第二层是知识更新层。这里有个关键区分：实时流和批量流要分开处理。实时流比如用户点击行为，通过 Kafka 接 …

#美团#分布漂移#外接数据库增强

面试题·RAG· 字节

RAG 怎么提升生成准确性?

匹配口述回答：…果只用LLM微调，模型可能记错或者把旧政策当答案。用RAG的话，我把最新版的售后规则文档切成块建索引，每次检索到对应条款，模型直接引用条款回答，准确率能到95%以上，而且政策更新只需替换文档，不用重新训练。那RAG和微调的边界怎么划？我的理解是：知识频繁更新、需要溯源、对[[幻觉]]零容忍的场景，优先RAG，比如企业SOP、合规文档、客服知识库。需要改变模型行为风格、或者内化复杂推理模式的任务，更适合 [[LoRA]] 微调，比如把模型调成客服语气。但实际落地常常是两者一起…

#字节#外部知识检索#RAG 原理

面试题·RAG· 字节

RAG 怎么提升事实准确性?

匹配口述回答：…是错的或者切分不合理，那检索出来的东西反而会带偏模型。所以真正落地的时候，我通常会把RAG和微调结合起来，比如用微调让模型学会怎么引用来源，用RAG提供实时信息。举个例子，电商客服场景。用户问“我买的衣服退货期限是多少？”如果模型只靠参数知识，它可能回答“7天”，但不同商品、不同活动期间退货政策完全不同。用RAG的话，我们会先把所有退换货政策、满减规则、特殊活动说明都做成文档库。用户提问时，系统检索出对应的政策段落，比如“双十一期间购买的服装，支持30天无理由退换”，然后让…

#字节#RAG工作原理#RAG 工作原理

面试题·RAG· 蚂蚁

时间窗口对话系统：约束与取舍

匹配追问：…？对模型推理有什么影响？直球架构给你一个需求：对话系统必须支持时间窗口（比如只保留最近1小时）和时间偏移（比如“三轮对话前”的引用）。你如何设计上下文管理、模型输入构造和用户体验，来同时满足准确性和时效性？

#蚂蚁#时间窗口对话#时间窗口对话系统

面试题·检索· 字节

RAG 检索优化:重排序怎么用?

匹配口述回答：…于图的检索增强，比如 [[GraphRAG]]，它在处理多跳、关系密集的问答时比纯向量检索强很多。比如企业合规文档里，一个条款可能引用另一个条款，图结构能显式建模这种依赖关系。但它的构建和维护成本也更高，不是所有场景都适用。所以整体上，我更倾向把RAG检索看成多路召回加精排过滤的管线，而不是依赖单一技术。上线前我会特别注意分层检索的延迟预算，以及重排序模型的大小和[[蒸馏]]。如果离线评估时 [[Faithfulness]] 指标不达标，我会优先调重排序和过滤的阈值，而…

#字节#混合检索#RAG 检索优化

面试题·检索· 字节

RAG 架构：检索到生成全链路

匹配口述回答：…又控制长度。分完块后用[[Embedding]]模型编码成向量，存到[[Vector Database]]里，比如Milvus，索引用[[HNSW]]，兼顾速度和召回。在线流程从用户提问开始。先做查询改写，比如用户说“它怎么退款”，得把“它”还原成具体商品或订单号，不然检索会偏。然后是多路检索，这里我强调一下边界：向量检索擅长语义匹配，比如用户说“手机屏幕碎了”能召回“碎屏险理赔流程”；关键词检索擅长精确匹配，比如订单号、错误码。所以真正落地我都是两条路一起上，用[[Hyb…

#字节#RAG组件设计#RAG 系统架构

面试题·检索· 商汤科技

RAG 两阶段架构：模块与数据流

匹配口述回答：…uery完全不相关，LLM应该明确说“没有找到相关信息”，而不是硬编一个答案。说到边界划分，RAG适合场景是知识库频繁更新、需要引用外部证据的，比如企业内部的SOP文档或者合规政策；而微调适合让模型学会固定的格式或风格，比如客服话术模板。检索层面，关键词搜索适合精确匹配，比如订单号；向量搜索适合语义匹配，比如“退款政策”和“退货规则”意思相近。分块层面，固定切分简单但容易断掉语义，语义切分更准但计算成本高。真正落地的系统往往是混合策略，比如用固定长度切块，同时保留段落边界做…

#商汤科技#两阶段文档处理#RAG 系统架构

面试题·检索· 高德

语义检索向量数据库构建流程

匹配追问：…。层层追问语义检索的向量数据库，你整体怎么搭建？……文本预处理那块，分块有什么讲究？……嵌入模型你怎么选，考虑哪些因素？……索引用哪种，HNSW还是别的？……存储和查询优化还有哪些坑？直球架构描述一下构建语义检索向量数据库的完整流程，包括文本预处理、嵌入模型选择、向量索引构建、存储方案和查询优化策略，每个环节的关键点是什么？

#高德#评估与监控#向量数据库构建

面试题·检索· 字节

两阶段 vs 端到端怎么选?

匹配追问：…吧？一般怎么组织流程……那如果知识库特别大，比如几百万文档，你是用两阶段还是直接端到端？……再想想，要是用户要求答案必须可溯源、有引用，你怎么设计？直球架构在构建大模型检索生成系统时，先召回后精排的两阶段架构和端到端单次生成，你选哪个？给出它们的适用场景和技术权衡，比如延迟、成本、准确性和可解释性。

#字节#两阶段检索与端到端生成#两阶段检索