匹配正文：…序字段，并观察重排结果。这类问题也说明，相关度高不等于资料可用。新旧流程往往共享大量文字，BM25 和向量都可能认为旧版很相似。评测时要把正确版本的证据 Chunk 标出来，不能只标“来自车险流程文档”。四个案例对应四种检查顺序：原词题先看关键词路线，同义题先看语义候选，专业术语对比两路偏差，版本题先核对搜索范围与文档状态。沿着“搜索范围 → 两路各自找到什么 → 合并后怎样排序 → 最后留下哪些原文”逐层看，才能知道问题具体出在哪一步。追问五：怎样证明混合检索有效我…

#RAG#检索与重排#RAG 混合检索

面试题·RLHF与对齐· 美团

长视野任务的信用分配与 Option

匹配正文：…能自动保证整条轨迹正确。对于部分可观测任务，还要用历史、循环状态或 belief state，避免把观测误当完整状态。工程验证评测时应按任务长度分桶，对比平坦策略、分层策略、带 option 的策略以及过程奖励版本。除终局成功率，还要记录样本效率、子目标可达率、option 使用时长、切换频率、离策略修正前后误差和步骤评分的校准度。过程监督需要保留人工或可执行验证器的盲测集，检查它是否偏爱冗长推理或表面格式。若加入层级后只让训练更快，却降低最终成功率，说明子目标或接口可能…

#分层强化学习#选项机制#过程奖励建模

面试题·RAG

RRF 和加权求和怎么选？两路检索分数为何不能直接相加？

匹配正文：…理。Z-score 相对关注分布，但候选少、分布偏斜或模型升级后统计特征改变时，校准也可能失稳。更稳妥的工程做法，是在固定版本的评测集上观察每路分数分布，保存校准方法和版本，并在索引或模型更新后重新检查，而不是每次查询临时归一化完就认为分数已经“公平”。前提二：权重必须有依据如果验证集显示精确查询更依赖 BM25，口语化和同义表达更依赖向量检索，可以按查询类型采用不同权重。工程上可以先做意图分类和动态权重，并通过验证集实验选择权重。但动态权重会新增一层风险：查询分类错…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

按学习路线查看教程、项目和面试题。

站内 RAG 在线实战

#RAG#检索与重排#RRF

面试题·Agent

Deep Research 训练的种子问题从哪里来，怎样避免一开始就把数据做偏？

匹配正文：…种子里预写一个虚构的完美过程。种子是任务入口，不是让模型照抄的故事。也不要把最终答案硬塞进问题文本。参考答案与证据只供轨迹验证和评测使用，模型可见字段与评分字段必须分开。种子问题与训练轨迹的职责差别种子控制任务分布，轨迹才记录行动、工具结果和最终答案。来源一：真实查询日志真实日志最接近实际用户表达。它能暴露错别字、指代、模糊范围、真实约束和用户经常追问的内容，这些往往不是专家会主动写出的标准题。但日志不是天然高质量数据。一些问题本来就不适合 Deep Rese…

#Deep Research#数据构造与训练#Deep Research 种子数据

面试题·RAG

Rerank 为什么更准，却不能对整个知识库运行？

匹配正文：…所有元数据都拼进输入。无关字段会占用输入长度，重复标题还可能让很多候选变得更相似。应该选择真正帮助判断问题与候选关系的字段，并在评测中固定输入模板。输入长度尤其需要检查。 Query 与候选拼接后超过模型上限时，部分内容会被截断。如果正确答案恰好位于候选尾部，表面上看是 Rerank 排错，实际是模型从未看到关键句。调试时要保存截断前长度、最终输入和截断策略。可以调整 Chunk 边界、保留标题和关键区域，或选择支持合适输入长度的模型，但每种改动都要重新评测排序与成本。…

#RAG#检索与重排#RAG Rerank

面试题·Agent

简单问答怎样升级成真正需要多步研究的问题，又不把题目编坏？

匹配正文：…适合训练动态研究，却也最容易让参考答案失效。第一种做法是把时间截点写清楚，并将题目视为历史快照。答案只能使用截点之前可见的证据，评测时也按当时范围核验。第二种做法是保留动态问题，但不把某个固定结论当永久标签。评测重点转为研究过程是否覆盖指定来源、时间范围和比较条件，最终答案则在运行时重新核验。第三种做法是给来源设置复核条件。官方文档版本更新、页面内容变化、引用失效或超出复核周期时，题目进入待审，而不是继续静默使用旧答案。动态题还要防止未来信息泄漏。切分时除了问题族和来…

#Deep Research#数据构造与训练#Deep Research 复杂问答

面试题·RAG

Query 重写、扩写和 HyDE，应该在哪些查询上启用？

匹配正文：… HyDE。精确词与高歧义问题有独立出口。规则不可能覆盖所有问题，但它有两个价值。一是让系统知道为什么触发某种方法，二是给后续评测提供清晰分组。等积累了真实 Query 与失败标签，再考虑训练分类器或用模型路由。路由输出应包含“为什么走这条路”和“失败后回哪里”。例如检测到指代才调用重写，重写未保留实体就退回原 Query；只有短抽象问题且没有精确标识时才增加 HyDE；多路候选没有合格证据时进入无答案，而不是继续串更多生成步骤。每个分支都有终止条件，才能避免 Quer…

#RAG#检索与重排#RAG Query 重写

面试题·Agent

Teacher 生成的 Agent 轨迹为什么不能直接拿去训练，怎样筛出高质量样本？

匹配正文：…可能不愿承认证据不足。需要按任务类型、工具类型、行动步数、错误分支、答案状态、领域、时效和难度统计覆盖。数据分布要与目标场景和评测能力对齐，无需追求每个格子完全相等。低频但高风险的权限、冲突、无答案和降级场景，可以有意识补齐。同样要观察行动模式熵。工具名称比例看似均衡，若每条轨迹都执行同一种固定顺序，模型学到的仍是脚本，而不是基于观察调整计划。 Teacher 轨迹质量与分布矩阵单条正确只是起点，整批数据还要覆盖不同工具、失败、答案状态和行动模式。首次小规模训练记录…

#Deep Research#数据构造与训练#Deep Research 轨迹生成

面试题·RAG

Embedding 和 Rerank 模型怎么选？什么时候值得领域微调？

匹配正文：…还应记录语言、输入长度、向量维度、许可证、运行方式、单条与批量延迟、资源峰值、版本和迁移成本。只有这些条件满足，候选才值得进入项目评测。模型选型不是从排行榜开始公平评测的关键，是一次只改变一个变量很多所谓“模型对比”其实没有可比性：换 Embedding 的同时改了 Chunk 大小、Top-K 和相似度阈值；换 Rerank 的同时又换了召回模型和提示词。最后指标变化了，却无法判断究竟是哪一步造成的。一套可复现的对比应先冻结其余链路。对 Embedding 候选，使…

#RAG#检索与重排#Embedding 模型选型

面试题·Agent

轨迹中哪些 Token 应参与 Loss，Observation Mask 怎样按目标实现？

匹配正文：…具 observation 由环境提供，通常应 mask；若训练目标明确包含环境文本建模，则必须按该目标重新定义 labels 和评测，不能只改一个开关。模型生成的结构化 tool call 是目标，因为线上需要模型决定工具与参数。模型最终回答是目标，因为它需要综合证据完成任务。对于状态摘要、计划或中间说明，要根据线上架构判断。如果它由模型生成并会在推理时复现，可以纳入目标；如果由控制器或外部压缩器写入，就应当作为条件而不是目标。不要依赖字段名字猜。某些数据把工具返回…

#Deep Research#数据构造与训练#Observation Loss Mask

面试题·RAG

RAG 检索效果差怎么排查？从 Query 到 Rerank 逐层定位

匹配正文：…量也要记录。 Top-N 太小可能把正确证据挡在精排外，太大则增加成本与噪声。调试时扩大候选能帮助判断覆盖边界，但最终参数仍要回到评测集和延迟预算上决定。有些系统只对部分页面执行 Rerank。翻页后结果重复或跳动时，要确认不同页面是否使用相同排序口径。第七层，最终上下文真的包含完整证据吗？候选排对以后，还可能在截断与组装时出错。最终只保留前几条，正确证据可能被最后一次阈值过滤丢掉。多跳问题需要两段证据，系统却只保留其中一段。相邻重复 Chunk 占满上下文，互补…

#RAG#生成与对话#RAG 检索优化

面试题·Agent

首次 SFT 后格式稳定了，为什么工具选择和答案仍然不行？

匹配正文：…例。所以面试官真正想问的是：首次 SFT 应该如何限定实验结论，为什么格式比策略更容易学，怎样把工具选择、答案准确与完整度拆开评测，以及下一批数据应该按什么缺口补，而不是盲目加量？先把这次实验的边界说清楚可以确认的首次训练使用 data/train_v3_200_clean.jsonl，清洗后实际是 187 条样本，训练 1 个 epoch。评测使用 10 个通用测试用例，对比基线与训练后模型的格式、工具调用、工具准确性、答案准确性和完整度。模型是 qwen3_0…

#Deep Research#数据构造与训练#Deep Research SFT

面试题·Agent

Agent 从海量记忆里怎么找对内容？相关性、时间性和重要性怎样组合

匹配正文：…有没有权限、信息是否还有效、来源是否可信、是不是被新版本替代，以及它对当前任务到底有多重要。用户今天问“帮我继续上次的 RAG 评测”，向量库可能召回一个月前的项目目标，也可能召回另一个项目里措辞相似的评测记录。旧目标语义很像，但当前阶段已经变化；另一个项目更像，却属于错误作用域。若系统只取相似度最高的几条，记忆越多，污染当前决策的机会反而越大。这道题要回答的是一条检索与排序链路：先识别查询意图和主体，做权限、租户、类型、状态、时间与项目范围过滤，再生成语义候选，结合相关…

#Agent#记忆与存储#Agent 记忆检索排序

面试题·RAG

资料里没有答案时，RAG 怎么避免强行生成？

匹配正文：…反样本验证。用可回答与不可回答问题共同校准门槛门槛选择不是追求某一边全对，而是看两类错误在具体业务中的代价，并保留逐题证据。评测时不要只留下一个平均分。最好按问题类型分组查看。原词明确的问题、口语改写的问题、领域术语、版本条件和多段证据问题，它们的分数分布可能不同。一个统一门槛挡住了大部分无关问题，仍可能在“相关但不充分”的问题上失效。模型、Chunk 切分、距离度量或知识库更新后，也要重新跑回归。分数是当前流水线的产物，不是一条永远有效的业务规则。四类“看似相关…

#RAG#生成与对话#RAG 无答案检测

面试题·Agent

训练数据里 Search 太多，为什么 Agent 遇到什么都想先搜？

匹配正文：…是已经执行并验证的实验结果。因此正文不会给出“把 Search 调到某个比例就提升多少”的结论。正确做法是根据自己的任务、轨迹和评测验证。工具选择数据至少要标哪些状态？第一类是知识稳定性。稳定常识可能直接回答，最新事件、价格、版本和政策通常需要外部检索。第二类是证据深度。发现候选页面可以 Search，核对条款、参数和上下文往往要 Visit 原文。第三类是计算需求。需要精确运算、统计或代码验证时，calculator 或 Python 比自然语言估算更可靠。…

#Deep Research#数据构造与训练#Deep Research 工具选择

面试题·Agent

Agent 记忆数据怎么存？关系库、向量库、对象存储与 Schema 怎样设计

匹配正文：…密复制到更多索引副本。 Embedding 模型升级要保存版本。新旧向量空间不可直接假定兼容。迁移可以新建索引或双版本构建，用固定评测集比较，再逐步切换。没有实际测试时不能声称“无损迁移”。对象存储解决什么问题一次研究任务可能生成搜索结果快照、网页正文、报告草稿、数据文件和 Trace。把这些大内容直接放进每个 Checkpoint，会导致状态膨胀和重复复制。对象层保存原始或派生工件，关系表只保存对象 ID、URI、内容哈希、版本、媒体类型、大小、创建者、权限和保留状态…

#Agent#记忆与存储#Agent 记忆存储设计

面试题·RAG

RAG 引用怎么做到可核验？为什么让模型自己标来源不够？

匹配正文：…系，答案改写后错引查回答版本。否则所有问题都会混成一句“模型引用不准”，最终只能反复调整 Prompt。怎么证明引用真的可靠？评测集不能只标参考答案，还要标每个事实要点对应的正确证据。至少准备五类样本。第一类，单句由单段原文直接支持。第二类，一句话需要两段或两份文档共同支持。第三类，候选主题相关但不支持结论，用来测试错引。第四类，答案包含数字、否定、时间和适用范围，用来测试细粒度一致性。第五类，文档版本更新和重新切分，用来测试引用稳定性。评测时分别统计引用覆…

#RAG#生成与对话#RAG 引用溯源

面试题·Agent

Deep Research 训练路线怎样选：何时用 CPT、SFT 或 GRPO？

匹配正文：…调用能执行、Observation 角色正确、基本任务能闭环、没有大面积重复输出或缺失 final answer。还要有动作边界评测。若格式稳定但所有问题默认 Search，模型仍不是合格的 RL 起点，因为奖励可能把格式偏置继续放大。阶段二：GRPO 在优化什么？ GRPO 让模型针对同一个问题采样一组候选轨迹。每条轨迹在环境中真实执行，再根据答案正确、格式合法、过程合理、证据支持等信号获得 reward。组内相对优势用于判断哪些候选比同组平均更好，哪些更差。相比需…

#Deep Research#数据构造与训练#Deep Research 多阶段训练

面试题·RLHF与对齐· 美团

Agent 奖励如何对齐目标并防作弊?

匹配正文：…自偏好数据，也会有长度、措辞和人群偏差。策略过度优化奖励模型时，离线reward上涨不等于真实人类偏好改善，需要独立留出人评与安全评测。DPO直接在偏好对上优化相对概率，是一种偏好优化选项，不是所有RLHF问题的通用替代。我会从可验证终局奖励的最小版本开始，记录每个奖励分量、策略行为和失败类型，再逐步增加shaping。每次变更都在原始环境、隐藏测试和未见初始状态上评测。若奖励变高但真实成功率不升，就停止并回查捷径。好的奖励不是项越多越好，而是目标、证据和约束一致。

#奖励工程#RLHF#稀疏奖励

面试题·RAG

多轮 RAG 如何理解“这个怎么申请”？

匹配正文：…该澄清，不能靠综合分替用户决定。如果两路语义一致，可以保留候选来源标签再融合。这样能看到正确证据由原问题还是改写问题找回，也能在评测中判断改写真正贡献了什么。若原 Query 已经稳定找到证据，改写没有增加覆盖却带来更多噪声，就不应只因为流程完整而强制启用改写。重试还要有次数和策略上限。一次回退解决不了的问题，不应继续自动扩写、分解和放宽门槛，直到出现一段勉强相关的文本。对象或条件不清时，澄清是正常结果；资料里没有答案时，则进入无答案控制，而不是把“改写失败”伪装成“检索…

#RAG#生成与对话#多轮 RAG

面试题·Agent

GRPO 为什么同一道题要采样一组答案，组内相对优势到底怎么算？

匹配正文：…的设计：控制题目条件后学习同题候选的相对策略。它也带来一个边界。训练日志中的平均优势不等于跨任务准确率，正优势数量也不能代替独立评测。难度分布仍需单独治理。若训练长期只采样简单题，组内比较再准确也学不到复杂研究；若全是超难题，候选可能全错而缺乏信号。评估模型能力要回到固定测试集的任务完成、证据和行为指标，不用组内标准化后的优势做生产 KPI。 Reward 发生平移或缩放会怎样？在理想的均值与标准差归一化中，给同组所有 reward 加同一个常数，不会改变相对优势。 …

#Deep Research#数据构造与训练#Deep Research GRPO

面试题·Agent

多 Agent 怎么编排？固定流水线和 Supervisor 监督模式怎么选

匹配正文：…它没有必要；若 Pipeline 为开放任务增加大量脆弱分支，可以把局部控制交给 Supervisor。没有真实运行证据时，只给评测设计和判定规则，不虚构路由准确率、完成率、成本或时延。 Pipeline 与 Supervisor 的失败诊断矩阵路径错误、角色执行错误、状态错误和完成误判需要分层定位。上线前要做哪些故障演练让 Worker 返回缺字段、空结果、重复工件和互相冲突的结论，检查验证器是否挡住。让 Supervisor 选择不存在或无权限的角色，代码层必须…

#Agent#多智能体与评估#多 Agent 编排模式

面试题·RLHF与对齐· 美团

长视界任务怎么结合环境训练?

匹配正文：…a,s')=γΦ(s')-Φ(s)，在相应条件下保持最优策略不变。一般密集奖励可能改变目标并诱发刷分，必须与终局成功和安全约束一起评测。记忆与信用分配：RNN/Transformer memory、belief state 主要缓解部分可观测性；GAE、n-step return、return decomposition 等处理信用分配，两者不要混为一谈。若用配送作为假设例子，应明确只是抽象 MDP：高层选择区域/订单簇，低层规划局部路线；所有规模和收益都由模拟器与真实实…

#分层强化学习#课程学习#奖励塑形

面试题·RAG

对话历史太长怎么办？滑动窗口、摘要和长期记忆怎么分工？

匹配正文：…有权使用、是否仍然有效。前者答的是“怎样把问题改完整”，后者答的是“哪些历史可以提供给改写器”。两篇文章不应混成同一个问题。怎么评测记忆系统，而不是只演示一次“它记住了” 一段看似连贯的演示不能证明系统可靠。评测集要构造连续对话和跨会话任务，并为每一步标注“应该使用哪些记忆、哪些记忆必须忽略”。至少覆盖下面几组场景。近期指代用户刚刚确认一个对象，下一轮用“它、这个、那项”追问。检查短期窗口是否保留正确对象，同时避免把更早的同名对象带入。回到旧话题用户切换话题后又回到…

#RAG#生成与对话#RAG 记忆模块