匹配正文：…重排序优化：用Cross-Encoder等精排模型提升相关性（可选但重要） 3. 生成阶段上下文组装：将检索结果与用户问题拼接成Prompt 大模型生成：LLM基于"检索到的证据"生成回答，典型Prompt结构：基于以下参考资料回答问题： [检索内容1] [检索内容2] 问题：{用户提问} RAG解决的核心问题问题说明知识时效性大模型训练数据有截止日期，RAG可接入实时数据库幻觉问题生成有溯源依据，可标注参考来源私有数据无需训练即可利用企业内部知识成本可…

#商汤科技#检索生成流程#RAG 技术流程

面试题·模型微调· 字节

RAG 检索与生成流程详解

匹配口述回答：…相似不等于内容相关，所以我会加一道[[重排]]，用[[Cross-Encoder]]模型精排，把低质量的过滤掉。最后把排好的块拼成Prompt，喂给大模型生成答案。这里有个坑：很多人以为只靠向量检索就行，但实际场景里，关键词匹配往往能补足向量检索的盲区。比如搜一个产品型号“A100-Plus”，向量可能把它跟“A100”混淆，但[[BM25]]能精确命中。所以落地时，我倾向于用[[Hybrid Search]]，把向量和关键词两种结果合并，再重排，这样召回率和精度都高。技…

#字节#检索生成流程#RAG 实现

面试题·多模态· 字节

Agent 优势与局限怎么分析?

匹配口述回答：…解释退货政策，但 Agent 能自己调订单 API 查出两个订单号，再调退货接口创建售后单，中间还可能发现一个订单已过退货期，它得动态调整策略，比如转补偿方案。这个能力差异就是本质区别。具体说一下 Agent 的核心优势。首先是任务分解，把“处理这个退货”拆成查订单、验证时间、生成单号、通知仓库。其次是工具编排，它不像固定 pipeline 那样写死调用顺序，而是根据中间结果动态选，比如发现用户是会员，就额外调一个免运费券接口。再一个是多轮决策，它能记住前面说过什么，比如用…

← 上一页第 8 / 8 页

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#字节#Agent#Agent 优势与局限

面试题·RAG· 淘天

现代 RAG 架构怎么变?

匹配口述回答：…之间的关系。早期做法就是典型的流水线，检索器用[[BM25]]或者[[TF-IDF]]这种[[稀疏检索]]，把文档拿回来，直接拼到prompt里扔给LLM。生成器是固定的，完全不参与检索过程。但现代RAG系统，比如Facebook 2020年那篇RAG论文，已经开始把检索器和生成器一起训练了。具体区别我分几个点讲。先说架构。传统的是两个独立系统串联，检索器是稀疏检索，生成器是LLM，中间就是个字符串拼接。现代的做法，检索器换成了[[稠密检索]]，比如DPR、Contriev…

#淘天#RAG端到端训练#现代 RAG 架构

面试题·检索· 字节

专业领域RAG链路优化陷阱

匹配正文：…调Embedding和Reranker 学习建议建议先掌握RAG基础流程，再结合垂直领域特点学习文档分块、向量检索、重排序模型和提示工程，多参考医疗/法律类RAG实战案例。

#字节#重排与优化#RAG 链路优化

面试题·检索· AIlab

RAG 流程：检索、融合、生成

匹配口述回答：…回一致性。这块我目前是先把新旧版本分层存储，查询时做版本合并，但实时性还是不够理想。所以整体上，我会把RAG看成一套需要根据场景动态调整的管线。比如客服场景，召回率比延迟更重要，我会用重排加多路召回；但如果是实时问答机器人，延迟敏感，我会牺牲一点召回率，只用向量检索加轻量级过滤。没有银弹，只有取舍。 RAG本质是给LLM配外挂知识库离线建库：分块粒度与混合索引在线检索：从Query改写到底层召回策略生成阶段：Prompt约束与幻觉管控落地权衡：场景决定方案选择约4…

#AIlab#RAG工作流#RAG 技术流程

面试题·检索· 百度

RAG 工作原理与核心组件

匹配口述回答：…见过的东西？[[RAG]] 的思路很简单，用检索代替记忆。模型不需要记住所有知识，需要的时候去外部数据库里查，再把查到的信息塞进 Prompt 让它生成。这样好处很明显：知识更新快，可控，[[幻觉]]也能压下去。具体分三步走。先说离线索引，就是把文档切碎、转成向量存起来。这里有个前提：切分的粒度直接影响后面召回质量。切太粗，一块里面混着好几件事儿，检索容易带偏；切太细，上下文断了，模型看不懂。一般 chunk size 在 256 到 512 token，但真正落地时我会根…

#百度#RAG核心组件#RAG 工作原理

面试题·检索· 字节

领域 RAG 架构如何控幻觉?

匹配口述回答：…举个例子，用户问“北京地区工伤认定流程”，我会优先排北京的法规，新法在前。生成优化这块，核心是引用溯源和[[幻觉]]检测。我会在Prompt里强制要求引用格式，比如[《劳动法》第X条]，生成内容必须关联检索片段，用户能点击跳转原文。同时设置信度阈值，检索分数太低就拒答或转人工，避免胡编。幻觉检测用[[Faithfulness]]模型校验生成内容和检索片段的一致性，不一致就重新生成或提示用户。这里有个坑：不要盲目相信模型生成的引用，必须做交叉验证。工程落地层面，我倾向离线在…

#字节#专业领域RAG#领域 RAG 架构

面试题·检索· 商汤科技

RAG 两阶段架构：模块与数据流

匹配口述回答：…型精排，把最相关的文档排到前面。重排之后就是上下文融合，把检索到的文档按相关性排序，截断到LLM能接受的token长度，然后组装成Prompt。最后交给LLM生成答案。这里要特别注意拒答场景，如果检索到的文档跟Query完全不相关，LLM应该明确说“没有找到相关信息”，而不是硬编一个答案。说到边界划分，RAG适合场景是知识库频繁更新、需要引用外部证据的，比如企业内部的SOP文档或者合规政策；而微调适合让模型学会固定的格式或风格，比如客服话术模板。检索层面，关键词搜索适合精确…

#商汤科技#两阶段文档处理#RAG 系统架构

面试题·RLHF与对齐· 阶跃星辰

TRL Agent 组件交互机制

匹配追问：KL散度系数如何设置和动态调整，过大或过小会有什么后果 reward hacking问题在工具调用场景中如何识别和缓解如果搜索引擎返回结果不稳定，如何设计reward保证训练的稳定性场景切入假设你要训练一个能调用搜索引擎的客服助手，用户问“帮我查下订单”，助手需要先生成搜索词，调用搜索，再看结果回答。如果要用TRL库做PPO训练，你觉得核心要设计哪些组件？每个组件怎么配合？层层追问用PPO训练一个能调用工具的Agent，你觉得整个训练流程需要哪些模块？……那模型除了…

#TRL#PPO#Agent

面试题·Agent· 美团

ReAct vs Plan-and-Execute 怎么选?

匹配口述回答：ReAct 根据当前状态选择动作，读取工具观察后再决定下一步，适合工具返回不可预测的任务。若把完整轨迹都塞回提示词，上下文会增长；但生产系统可以只保留结构化状态、验证事实和必要工具结果，因此增长方式由记忆策略决定。 Plan-and-Execute 先建立高层计划，再按子任务执行并在检查点重规划。它适合依赖清晰、可阶段验收或并行的任务，但计划可能过时，维护计划也有成本，所以不能保证调用数和 token 一定更少。错误恢复取决于系统机制。两类架构都需要幂等键、超时、重试上限、…

#美团#Agent#ReAct vs Plan-and-Execute

面试题·Agent· 蚂蚁

Agent项目经验怎么突出亮点?

匹配口述回答：…能产生副作用。这样“我负责 Agent”不会变成模糊的大包大揽。技术选择也要绑定约束：流程稳定、分支有限时优先工作流；需要根据观察动态选工具时才引入 Agent；只有存在明确并行或专业分工收益时再考虑多 Agent。结果部分不能只报一个最终值。质量指标要说明任务完成的判定者，延迟要区分排队、模型和工具，人工量要说明转人工规则是否变化，成本要包含重试与失败请求。若几个模块同时上线，就用消融、灰度或分桶说明哪个动作可能产生贡献；做不到因果归因时，只能说同期相关，不能说“由我这项…

#蚂蚁#AI Agent 项目经验#大模型业务落地

面试题·Agent· 同花顺

Agent 开发技术栈怎么选?

匹配追问：……那模型训练有涉及吗？比如让模型学会选工具，是怎么做的？……具体怎么微调，数据怎么构造的？直球架构设计一个Agent，要求支持动态工具注册、记忆管理和模型训练。框架选什么？模型要不要微调？给出你的架构方案和关键实现细节。

#同花顺#Agent#Agent 技术栈

面试题·评估· 高德

高并发 Agent 延迟卡在哪?

匹配口述回答：…能力时，队列会迅速增长。入口应有并发上限、优先级、截止时间和拒绝策略，下游将剩余时间继续传递，避免父请求已超时而子任务仍消耗资源。动态批处理也要限制等待窗口，防止为吞吐牺牲交互请求。缓存必须包含正确的隔离维度。检索结果通常依赖 query、语料版本、embedding、过滤条件和租户权限；生成缓存还依赖模型、Prompt、上下文与安全策略。漏掉任一维度都可能返回过期或越权答案。KV Cache 是请求级计算状态，也要考虑不同会话之间的隔离与释放。压测不能只用等长的随机请求…

#高德#Agent#Agent 系统延迟优化

面试题·评估· 字节

RAG 评估指标与迭代陷阱

匹配口述回答：…[[重排]]，把关键词匹配和语义匹配结合起来。如果召回够但生成还是瞎编，那就强制引用，让模型必须标注来源，甚至把检索内容直接前置到prompt里。还有一个常见失败场景：用户问题太模糊，比如问“满减怎么算”，这时候我会做查询扩展，比如HyDE，先生成一个假设答案再拿去检索。落地时我特别关注一个前提：离线指标提升不一定等于线上好用。比如召回率高了，但引入的噪声文档反而让生成更不稳定。所以上线前我会建一个回归测试集，覆盖高频query和边界case，比如用户问“订单号输错了怎么办…

#字节#评估与监控#RAG 评估

面试题·检索· 淘天

Naive RAG vs Advanced RAG 区别?

匹配口述回答：…没有哪个模块默认该上。比如正确文档没进候选，先修覆盖和召回；候选已有答案但位置低，再考虑融合或重排；上下文正确而回答仍错，才检查 Prompt、生成模型或验证器。 Modular 或 Agentic RAG 把检索、工具、验证、重试与路由组成受控工作流，适合多步、多源和需要动态补证据的任务。代价是路径更难复现，也容易循环、越权和成本失控，所以要限制最大步骤、工具权限、总预算，并保留人工节点。选型时我会从 Naive 基线出发，在同一评测集上逐步加模块，分别看 Recall@K…

#淘天#重排与优化#Naive RAG