匹配正文：人工干预的三层架构 1. 输入层：前置过滤与引导敏感Query识别：基于规则+小模型做意图分类，拦截违规请求 Prompt改写：自动注入安全约束（如"请确保回答符合法律法规"）上下文注入：RAG场景下动态插入合规知识片段 2. 生成层：过程控制解码策略干预：调整temperature、top-p，或对特定token降权动态停止条件：检测到风险模式时触发early stopping 工具调用约束：Agent场景下限制可调用的工具白名单 3. 输出层：审核与修正规则拦截…

#快手#人工反馈控制#人工干预 LLM 生成

面试题·检索· 字节

RAG 架构：检索到生成全链路

匹配正文：…ker）精排Top-K，提升相关性上下文组装按相关性排序拼接chunk，控制总长度（通常占LLM上下文30%-50%） LLM生成构造Prompt："基于以下信息回答问题：[context]\n问题：[query]" 四、关键优化点混合检索：稠密向量+稀疏向量+倒排索引，兼顾语义和精确匹配检索缓存：高频Query直接走缓存，降低延迟多路召回融合：不同检索策略结果用RRF（Reciprocal Rank Fusion）合并动态分块：根据Query意图调整chunk…

#字节#RAG组件设计#RAG 系统架构

面试题·模型微调· 字节

RAG 检索与生成流程详解

…相似不等于内容相关，所以我会加一道[[重排]]，用[[Cross-Encoder]]模型精排，把低质量的过滤掉。最后把排好的块拼成Prompt，喂给大模型生成答案。这里有个坑：很多人以为只靠向量检索就行，但实际场景里，关键词匹配往往能补足向量检索的盲区。比如搜一个产品型号“A100-Plus”，向量可能把它跟“A100”混淆，但[[BM25]]能精确命中。所以落地时，我倾向于用[[Hybrid Search]]，把向量和关键词两种结果合并，再重排，这样召回率和精度都高。技…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

匹配口述回答：

#字节#检索生成流程#RAG 实现

面试题·Prompt· 脉脉

Prompt 怎么系统设计与优化?

匹配口述回答：…写进去。最后格式层，强制输出JSON或Markdown，方便下游解析。这四层下来，基础质量就稳了。但实际落地不能只靠静态模板，得动态调整。举个例子，做客服退款场景，用户问为什么退款没到账，模型需要理解政策、查订单状态、给出解释。这时候我会用[[Chain-of-Thought]]让模型逐步推理，先分析用户意图，再匹配政策规则，最后生成回复，这样逻辑更清晰。如果遇到低资源任务，比如新业务刚上线，历史数据少，我就用[[Few-shot]]给3到5个输入输出对，覆盖边界情况。更…

#脉脉#评估与监控#Agent

面试题·检索· AIlab

RAG 流程：检索、融合、生成

匹配口述回答：…回一致性。这块我目前是先把新旧版本分层存储，查询时做版本合并，但实时性还是不够理想。所以整体上，我会把RAG看成一套需要根据场景动态调整的管线。比如客服场景，召回率比延迟更重要，我会用重排加多路召回；但如果是实时问答机器人，延迟敏感，我会牺牲一点召回率，只用向量检索加轻量级过滤。没有银弹，只有取舍。 RAG本质是给LLM配外挂知识库离线建库：分块粒度与混合索引在线检索：从Query改写到底层召回策略生成阶段：Prompt约束与幻觉管控落地权衡：场景决定方案选择约4…

#AIlab#RAG工作流#RAG 技术流程

面试题·Prompt· 字节

Policy 模型错误决策怎么防?

匹配正文：…队测试多维度验证约束阶段：硬规则围栏+输出格式校验+工具调用沙箱监控阶段：实时指标告警+人工审核闭环+快速回滚机制核心思路动态Prompt生成系统的Policy模型本质是Agent的"大脑"，需从训练-验证-约束-监控四层构建安全防线。一、训练阶段：行为对齐 RLHF/Constitutional AI：用人类反馈或宪法原则约束策略，避免有害输出对抗训练：注入噪声输入、边缘案例，提升Policy对异常请求的鲁棒性课程学习：从简单场景逐步过渡到复杂动态生成，稳定收…

#字节#Agent#Policy 模型

面试题·RAG

RAG 引用怎么做到可核验？为什么让模型自己标来源不够？

匹配正文：…的问题： RAG 的引用怎样做到可以核验？为什么答案后面有一个来源编号还不够？面试官继续追问时，通常会问到四件事：引用编号由谁生成，模型能不能自己编？编号指向真实原文，为什么仍可能是错引？一句话需要两段证据时，引用怎样表示？文档更新和重新切分后，旧引用还能不能打开？引用为什么不是生成阶段临时加一下？引用链的起点在文档解析，而不是 Prompt。 PDF 在解析时不能只抽出一串纯文本。文字框、页面布局、表格和图片等内容经过处理后，还要保留页面与位置信息。Chunk…

#RAG#生成与对话#RAG 引用溯源

面试题·Prompt· 字节

Coding Agent 表现差怎么排查?

匹配正文：…项目远超上下文窗口，关键信息被截断历史对话淹没：多轮迭代后原始需求被稀释，出现需求漂移无关信息干扰：检索返回的噪声代码片段误导生成改进策略分层上下文：需求描述 + 相关文件摘要（由代码图谱生成）+ 具体修改点代码关键信息锚定：将原始需求、约束条件固定在prompt首尾，每轮重申动态检索：根据当前修改目标实时检索相关代码，而非一次性加载系统性改进思路建议构建诊断-归因-干预的闭环：先通过日志分析bad case分布，识别主导因素，再针对性优化。避免同时改动多个变…

#字节#百度#Agent

面试题·RAG· 字节

RAG 查不到文档怎么降级?

匹配口述回答：…值，正常回答；低于低阈值，直接转人工或追问；介于中间，就用大模型兜底并带上置信度警告。而且阈值不是死的，我会根据问题类型和用户身份动态调。比如技术类问题阈值设高一点，闲聊类可以低一点；VIP用户优先转人工，普通用户先走追问。举个例子，电商客服场景。用户问「我买的手机降价了能退差价吗」，系统去知识库里找「退差价政策」，如果找到了但分数不高，比如0.6，那我会让大模型结合政策原文和自己的理解回答，同时标注「以下内容基于知识库生成，如有疑问请咨询人工」。如果完全没找到，就追问「请…

#抖音#RAG降级策略#RAG fallback

面试题·Agent

Deep Research 拿到一个大问题后，怎么拆成能查证的子问题？

匹配正文：…带引用报告，还是只整理事实不做决策。任务契约给后续计划划出边界。缺少这层约束，Agent 就无法判断查到什么时候算够，再工整的 Prompt 也解决不了这个问题。哪些缺失信息必须先追问？并不是每个模糊点都值得打断用户。判断标准是：不同答案是否会改变研究路线或最终建议。部署方式、数据权限、时间范围和硬预算通常会改变候选与证据，应优先澄清；报告颜色、章节顺序之类偏好，可以先采用默认值，后续再调整。追问也要具体。不要问“请补充更多信息”，而应问“你要求私有部署，还是可以使…

#Deep Research#问题边界与研究闭环#Deep Research 问题拆解

面试题·Agent

简单问答怎样升级成真正需要多步研究的问题，又不把题目编坏？

匹配正文：…成本和失败类型，不是哪种方法名字更新。任何方法都必须进入相同质量门，不能因为结构复杂就降低可回答性标准。一条完整的复杂 QA 生成流水线第一步，选择已经通过合规、去重和可回答性审核的种子。第二步，建立原问题的实体、关系、时间、答案和证据映射。第三步，选择目标能力，例如多对象比较、多源冲突、时效更新或动态规划。第四步，用图路径、迭代操作、形式化组合或实体替换生成候选结构。第五步，把结构写成自然问题，明确范围、交付和证据要求。第六步，由独立求解流程重新完成，不读取…

#Deep Research#数据构造与训练#Deep Research 复杂问答

面试题·Agent

GRPO 为什么同一道题要采样一组答案，组内相对优势到底怎么算？

匹配正文：…势都接近零。全对可能说明题目太简单，当前策略已经稳定解决。全错可能说明题目太难、环境故障、reward 过严，或者模型根本不会生成合法轨迹。两者处理方向不同。全对题可以降低采样频率，把算力留给边界题；也可以提高任务难度，但不能为了制造差异故意引入错误标准。全错组先做归因。若是格式全错，应回到 SFT 冷启动；若环境全挂，应修基础设施；若任务合理但能力不足，可以分解难度或补监督数据。动态采样不是看到全同分就简单丢弃。失败分布本身是诊断资产，要保留原因和版本。组大小…

#Deep Research#数据构造与训练#Deep Research GRPO

面试题·Agent

多 Agent 怎么编排？固定流水线和 Supervisor 监督模式怎么选

匹配正文：…位置才使用 Supervisor。 Pipeline 与 Supervisor 的编排边界固定依赖用图控制，运行时未知分支才需要动态监督。 Pipeline 模式到底是什么 Pipeline 不只是把多个 Agent 写成一个数组顺序调用。它描述任务依赖、节点输入输出、成功条件和失败边。例如研究报告流程可以是：解析问题，生成子问题，并行检索，合并证据，检查冲突，生成报告，评审核验。每个节点只读取必要 State，输出结构化工件。依赖明确的节点按顺序，互不依赖的子问题并行，…

#Agent#多智能体与评估#多 Agent 编排模式

面试题·Agent· 蚂蚁

多轮对话上下文状态管理机制

匹配口述回答：… 每条事件带 session_id、递增序号、幂等事件 ID 和服务端时间。摘要、关键实体和用户确认事实还要保留来源消息 ID 与生成版本，方便失效和回查。保留期、TTL、归档、删除与加密由业务和合规决定，不能固定成三十分钟、两小时，也不默认把所有摘要永久向量化。组装 prompt 时先为系统指令、工具 Schema 和输出预留预算，再依次放入安全约束、当前任务状态、未完成工具结果、用户确认事实、最近对话和历史摘要。超预算时先移除低相关原文，再压缩较早内容；金额、权限、订单…

#蚂蚁#Agent#多轮对话上下文管理

面试题·Agent· 高德

旅行Agent怎么拆解任务?

匹配正文：…策（如预约要求）、用户UGC避坑提示关键实现：将RAG检索结果以结构化工具输出形式注入Agent的ReAct推理链，而非简单拼接Prompt，确保Agent能主动判断信息可信度。三、信息流转与状态管理用户输入 → 需求解析Agent → 更新[用户画像槽位] ↓ 触发行程编排Agent ← 实时RAG检索(动态知识) ↓ 生成候选路线 → 验证优化Agent ← RAG检索(实时约束) ↓ 确认/反馈 ←→ 用户交互（支持局部修改，仅重算受影响子树）状态一致性：采用版…

#高德#Agent#旅行Agent

面试题·评估· 字节

RAG 评测优化闭环

匹配正文：…询改写（HyDE）、多向量表示（ColBERT）、重排序模型结构优化分块策略迭代（按语义/按结构）、元数据过滤、知识图谱索引动态检索自适应检索步数、迭代检索（IRCOT）、检索-生成交替进行生成侧提示工程：引用格式约束（要求标注来源）、少样本示例模型微调：基于检索上下文的SFT，强化忠实度训练后处理验证：事实核查模块、置信度过滤协同优化检索-生成联合训练：如REPLUG、RA-DIT，让生成反馈指导检索学习端到端优化：用生成损失反向优化检索器（可微分搜索…

#字节#评估与监控#RAG 评测优化闭环

面试题·评估· 美团

RAG 解决了哪些问题?

匹配正文：…指标更佳）体现对RAG局限性的认知（如检索质量依赖、上下文长度限制） RAG核心原理 RAG = 检索（Retrieval）+ 生成（Generation），本质是给大模型外挂一个可动态更新的知识库：离线阶段：文档切分 → Embedding模型编码 → 存入向量数据库在线阶段：用户Query向量化 → Top-K相似度检索 → 拼接Prompt上下文 → LLM生成答案关键优势：知识可实时更新，无需重新训练模型。我项目中解决的3个核心问题问题具体场景 RAG解…

#美团#混合检索#RAG 技术

面试题·模型微调· 滴滴

大模型落地技术范式怎么选?

匹配正文：…SFT/PEFT) 领域数据适配模型参数垂直领域、稳定需求效果深度定制；数据/算力成本高滴滴司机调度策略模型 RAG 检索+生成，外挂知识库知识密集型、需可解释解决幻觉、实时更新；检索质量决定上限智能客服、合规审查 Agent 工具调用+规划+记忆，自主决策复杂任务、多步推理能力边界扩展；稳定性、安全难控自动派单、行程规划选型决策框架第一步：需求拆解任务复杂度：单步问答 → ICL/提示工程；多步推理 → Agent 知识时效性：静态知识 → 微调；动…

#滴滴#模型微调#Agent

面试题·模型微调· 百度

Tool Calling 技术路径怎么选?

匹配正文：…三大技术路径对比方法核心机制适用场景优劣势提示工程在prompt中嵌入工具描述（JSON Schema），靠ICL能力生成调用工具少、调用简单、快速上线零成本，但复杂场景易幻觉、格式不稳定微调增强用<tool_call>标注数据SFT，训练模型输出结构化调用工具多、领域专用、高稳定性要求准确率高，但需标注数据、灵活性差代理框架 ReAct/Plan-and-Execute循环，LLM作为推理引擎决策多步推理、动态规划、复杂Agent 可解释性强，但…

#百度#模型微调#Tool Calling 实现

面试题·模型微调· 字节

领域RAG应用链路怎么搭?

匹配正文：…arge、BGE-M3通用能力强；领域数据充足时微调（如PubMedBERT医疗版）微调方法：对比学习+难负例挖掘，batch内动态难负例提升显著多路召回架构用户Query → 查询改写（HyDE/扩展）→ 向量检索（Dense）+ 关键词检索（BM25）→ 融合排序 → 精排模型（Cross-Encoder）→ Top-K上下文金融领域加粗体匹配规则（如"第X条"精确命中）重排序用bge-reranker或轻量LLM打分三、生成模块：可控输出 Prompt工程 …

#字节#领域 RAG#RAG应用搭建

面试题·模型微调· 美团

RAG 深度与局限怎么破?

匹配正文：…询改写）结合实际场景说明优化方案的可行性体现对RAG与微调、Agent等技术边界的理解 RAG的核心价值与深度优势层面知识动态化：无需重训模型即可更新知识，解决大模型"幻觉"和时效性问题可溯源性：检索片段作为引用，提升生成可信度，满足合规审计需求成本可控：相比全量SFT，RAG的边际成本极低，适合频繁变更的业务知识技术深度体现不仅是"向量检索+Prompt拼接"，而是涉及查询理解→多路召回→精排融合→上下文压缩→生成约束的全链路优化关键局限性局限类型具体…

#美团#RAG 局限性#RAG 优化方向

面试题·模型微调

LLM 封闭标签如何强约束?

匹配正文：答案要点提示工程（Few-shot + 格式约束）是基础手段约束解码（Constrained Decoding）是核心保障微调/SFT提升指令遵循能力 Function Calling/JSON Schema是工程实践标准方案后处理校验作为兜底机制核心思路封闭标签输出本质是可控生成问题，需多层防护：提示工程 → 模型能力 → 解码约束 → 后处理校验。技术手段（按优先级） 1. 提示工程（基线） Zero-shot：明确指令 + 标签列表 + "只能从以下选择"…

#Agent#LLM 输出限定#封闭标签集

面试题·知识图谱· 字节

RAG 技术原理和实现流程

匹配正文：答案要点能清晰区分RAG与微调的技术边界，说明何时选RAG 讲清楚"离线建库-在线检索-增强生成"的三阶段流程理解Embedding模型和向量数据库的核心作用知道RAG的典型痛点（检索不准、上下文过长）及优化方向能提及高级变体如GraphRAG、Self-RAG等 RAG核心定位 RAG = 检索(Retrieval) + 生成(Generation)，用外部知识库动态增强LLM，解决知识时效性和幻觉问题，无需重新训练模型。三阶段实现流程 1. 离线知识库构建文档…

#字节#检索生成流程#RAG 技术原理

面试题·Prompt· 百度

Agent系统架构怎么选？

匹配正文：…on循环结构化任务直接用Function Calling，降低token消耗通过意图分类器自动路由，阈值可调 2. 工具系统：动态注册 + 契约化描述 # 核心思路：工具自描述，LLM零代码接入 @tool_registry.register( name="search", description="搜索引擎，用于获取实时信息", params_schema={"query": "string", "top_k": "int"} ) async def search_to…

#百度#评估与监控#Agent