搜索大模型内容

资料里没有答案时，RAG 怎么避免强行生成？

匹配正文：…在检索前确定。这些条件应该直接约束搜索范围，而不是搜完全库后再由前端隐藏。范围错了，后面的高分没有意义。下面用一个纯教学场景说明权限边界。假设用户只能查看公开制度，检索却把内部草稿带了回来。即使草稿能回答问题，系统也不能使用它。无答案控制首先是一条权限和版本边界，而不只是相似度边界。第二道门是候选相关性。相似度门槛可以先筛掉明显不相关的片段，但分数的含义与 Embedding 模型、距离定义、向量库和语料分布都有关。例如，余弦相似度和 L2 距离的方向与数值含义并不相同…

#RAG#生成与对话#RAG 无答案检测

训练数据里 Search 太多，为什么 Agent 遇到什么都想先搜？

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

按学习路线查看教程、项目和面试题。

站内 RAG 在线实战

匹配正文：…一道题在开始阶段需要搜索，证据已覆盖后应该停止。动作标签必须结合当前状态，而不是只结合原问题。第六类是环境状态。超时、空结果、权限受限和解析失败后，合理动作可能是重试、改参数、换源或降级。第七类是答案状态。有明确答案、需要计算、存在冲突、开放建议和证据不足，需要不同的完成策略。这些标签可以先粗后细，但必须能回答“为什么此时应该用这个工具”。为什么各工具样本一样多，仍可能严重偏科？假设训练集中 Search、Visit、calculator 和直接回答数量相等。 …

#Deep Research#数据构造与训练#Deep Research 工具选择

项目深挖:面试官会怎么一层层追问你的项目

匹配正文：… 的链更长、更容易断在工程环节结论先行:包含工具、状态和高影响动作的 Agent 可能有更长的工程追问链,因为它多了 loop、权限、失败恢复这些工程环节,而这些正是最容易只讲功能、答不出细节的地方。追问点面试官想验证什么你该怎么答(带证据) 站内哪里补任务定义你解决的任务边界清不清说清 Agent 要完成什么、输入输出、成功标准为什么需要 Deep Research tool schema 你的工具设计是否规范每个 tool 的入参出参怎么定义、描述怎么写…

RAG 引用怎么做到可核验？为什么让模型自己标来源不够？

匹配正文：…同的视觉状态。可以区分“已找到直接证据”“需要结合多段证据”“未找到直接支持”，但这些标签必须来自后端核验结果，不能由前端猜测。权限同样是引用链的一部分。用户有权看到答案，不一定有权打开原文全文。系统需要在生成和展示前确认引用目标的访问范围。如果答案引用了用户无权查看的文档，既可能泄露标题和原文，也会出现一个永远打不开的“可信来源”。更稳的做法是在检索时就应用权限过滤，只允许可访问证据进入模型。引用跳转再次校验权限，防止链接被转发后绕过访问控制。引用导出和分享还要带版…

#RAG#生成与对话#RAG 引用溯源

#Deep Research#数据构造与训练#Deep Research 多阶段训练

Deep Research 训练路线怎样选：何时用 CPT、SFT 或 GRPO？

匹配正文：…新增训练阶段的依据应来自可复现缺口。例如模型在合法格式下仍无法处理未见工具错误、来源冲突或长程停止，且这些问题不能由工作流、检索、权限或提示设计更可靠地解决，才值得比较 RL。若基础模型缺少相关领域或行动分布，同时拥有合规、高质量数据，才把 CPT 纳入消融。 Teacher 轨迹可能包含无必要搜索和固定套路，但这只说明要审核示范、设计留出集并比较基线，不证明 SFT 必然存在统一“上限”。RL 也不会自动突破它：候选不可执行、reward 可被利用或环境噪声大时，训练可能退…

面试题·RLHF与对齐· 美团

Agent 奖励如何对齐目标并防作弊?

匹配正文：…ent停在容易拿分的局部位置，甚至绕路刷奖励。多目标不要急着压成一个总分。任务正确、安全、成本、延迟和风格应分别记录；不可违反的权限与安全条件用硬约束、沙箱或审批处理。需要加权时，权重和量纲要通过敏感性实验选择，并监控某个分量上升是否牺牲其他分量。防奖励黑客不能只靠长度、可读性和覆盖率。这些仍是可被优化的代理，也不能证明程序通用正确。代码任务要使用隐藏测试、随机测试和静态检查，工具任务要核验真实副作用与权限，推荐任务要看长期指标和分布外用户。人工审计用于发现验证器没覆盖的…

#奖励工程#RLHF#稀疏奖励

领域八股速通:RAG / Agent / 评估 / 微调高频考点地图

匹配正文：… 怎么规划任务""工具调用失败怎么重试""上下文爆了怎么办""怎么防止 Agent 陷入死循环" 项目里怎么体现讲你的工具注册与权限确认、trace/replay 怎么做、失败恢复和成本控制的具体机制刷题去 Agent 题库。 Prompt 工程(当前站内 77 条内容):练习任务表达与服务端校验 Prompt 看着门槛低,考点其实在"结构化把任务、约束、上下文、few-shot 组织好",以及怎么在工程里稳定复用 prompt。面试官想看你有没有把它当工程做,而不是碰运…

#Deep Research#数据构造与训练#Deep Research GRPO

GRPO 为什么同一道题要采样一组答案，组内相对优势到底怎么算？

匹配正文：…原文。第四类是过程。工具选择和参数是否合理，是否无效循环，错误后是否恢复，证据足够后是否停止。第五类是安全与边界。是否遵守权限、来源限制，证据不足时是否承认不确定。这些分项最好分别记录，再决定怎样组合。若只保留一个总 reward，无法判断模型到底因为答案、格式还是更短轨迹得到高分。任何高分都不能抵消事实虚构、越权或严重协议错误等硬失败。 GRPO 从采样到更新的完整流程先在同一条件下执行候选，再拆分 reward、计算优势并受约束更新。为什么“最终答案对了”…

#Agent#多智能体与评估#多 Agent 编排模式

多 Agent 怎么编排？固定流水线和 Supervisor 监督模式怎么选

匹配正文：…。固定流程的优势是可预测。测试可以覆盖每条边，Trace 能看见任务停在哪个节点，重跑可以从 Checkpoint 继续，成本与权限也容易估算。对有明确合规步骤的任务，代码图能保证“审核未通过不能发布”。它的局限是面对开放任务不够灵活。研究过程中可能发现原问题假设错误，需要新增子问题；某类资料缺失，需要换专家角色；证据冲突，可能回到检索而不是继续写作。如果把所有可能路径提前硬编码，图会变得庞大。因此 Pipeline 适合“依赖已知、阶段稳定、错误出口清楚”的任务，不等…

大模型系统设计和编码环节怎么准备

匹配正文：…知识库问答为例) 步骤要说清什么常见失分点澄清需求与规模文档量级(几千还是几百万)、用户并发、更新频率、准确性要求、有没有权限隔离不问就动手,默认一个自己想当然的规模数据与索引文档怎么解析、按什么粒度切块、元数据怎么带、索引多久重建、增量更新怎么做只说"存进向量库",说不清切块策略和更新机制检索/召回方案根据文档与查询比较关键词、向量、混合及可选重排,说明候选数与融合依据只上单路向量检索,答不上召回不全怎么办模型与 Prompt 选什么模型、上下文怎么…

对话历史太长怎么办？滑动窗口、摘要和长期记忆怎么分工？

匹配正文：…据库擅长按用户、类型、状态和时间做精确过滤；向量索引擅长从大量历史里找出语义相关条目。实际设计可以组合两者，但不能把向量相似度当作权限。长期记忆不等于永久记忆。偏好会变化，任务会结束，旧事实会过期，用户也可能撤回授权。每条长期记忆都应有作用域和生命周期，而不是只存一段文本和一个向量。一条记忆从产生到消失，应走完七个步骤记忆系统每轮都要经历读和写第一步：判断是否值得写并非每条消息都应该进入长期记忆。“谢谢”“换个话题”通常没有长期价值；用户临时讨论一个方案，也不等于允…

#RAG#生成与对话#RAG 记忆模块

#Deep Research#数据构造与训练#Deep Research 截断轨迹

长轨迹被截断就算失败吗，为什么这样做会把 Agent 训成提前乱答？

匹配正文：…不受证据支持。第二类是行动错误。模型持续选错工具、参数不合法、重复调用或在证据不足时停止。第三类是环境失败。搜索超时、网页权限受限、服务异常或工具返回损坏，策略未必有错。第四类是预算耗尽。任务设计合理，但最大步骤、时间、token 或成本限制先到了。第五类是技术截断。序列在 tool call、observation 或 final answer 中间被截断，结构本身不完整。这五类可能同时出现。例如模型先做了无效搜索，随后又因 token 上限截断。数据需要…

#Agent#工具调用与安全#Text2SQL Schema 选择

Text2SQL 面对上百张表，怎样选对 Schema 并处理业务歧义

匹配正文：…塞给模型。先把用户问题解析成业务指标、维度、时间范围、统计粒度、过滤条件和实体，再通过业务术语词典、表列描述、主外键关系、示例值和权限生成候选表列。候选召回后要补齐 Join 路径，形成最小可执行 Schema，再让模型做字段映射。若“活跃客户”“收入”“上个月”存在多个合法定义，系统应比较候选解释和置信证据，提出一个能最大化消除歧义的澄清问题。评估要分别看表召回、列映射、Join 路径、澄清决策和最终 SQL，不能只看执行成功。核心原则是：先缩小问题空间并确认业务语义，再…

#Deep Research#上线成本与评估#Deep Research 长任务

Deep Research 一跑几分钟，为什么不能用普通同步接口硬等？

匹配正文：…工具凭证都进行授权检查。队列消息不能只带 task ID 后信任 Worker，要在服务端重新加载租户上下文。缓存键包含租户和权限范围，不能让一个用户命中另一个用户的私有工具结果。日志与 Trace 做脱敏，敏感 observation 不进入普通监控标签。取消、重试和结果下载都要验证所有权，不能因为知道 task ID 就可操作。多用户并发最危险的不只是性能下降，而是中间报告、记忆和证据串到其他任务。优先级调度怎样避免大任务饿死小任务？只用先进先出，前面一个超…

Recall@K、MRR、Faithfulness，分别在评估 RAG 哪一层？

匹配正文：…g 和召回策略。情况二：Recall 高，MRR 低正确证据找到了，但排得太靠后。优先检查混合检索融合、Rerank、时效性或权限过滤后的排序，以及最终上下文截断。这时继续扩大候选 K 可能不会解决问题，反而增加成本。更关键的是让最有用的证据进入模型实际可见的位置。情况三：Recall 和 MRR 都正常，Faithfulness 低检索结果大概率已经可用，问题更可能出在上下文组织、Prompt 约束、答案生成或事实归因。要查看模型实际收到的 Prompt，而不是…

#RAG#评测与上线#RAG 评估指标

#Deep Research#上线成本与评估#Deep Research 成本

一次 Deep Research 到底花了多少钱，为什么只看总 Token 找不到成本黑洞？

匹配正文：…播。更合理的做法是：指标保留受控维度，Trace 保留 task 级关联，日志保存经过脱敏的必要诊断字段。用户输入与工具原文进入权限更严格的存储，并按保留策略管理。看板发现某个问题族成本异常后，再通过 trace ID 下钻具体任务，而不是把所有明细复制到指标。标签字典需要版本化。问题分类规则变化时，历史与新数据不能静默使用同名不同义的标签。可观测系统自身也有成本。无限增加标签和全量日志，可能为了监控成本又制造新的成本黑洞。 Trace 是否必须百分之百全量保存？计…

#Agent#工具调用与安全#Agent 代码解释器沙箱

Agent 能执行 Python 代码，怎样设计 Code Interpreter 沙箱才不会伤到宿主机

匹配正文：…碰到宿主资源。因此本题只能按可验证的工程设计回答：把不可信代码放进独立、短生命周期的执行环境，默认无网络、无宿主文件、无密钥、低权限，并限制 CPU、内存、进程、磁盘、输出和时间。是否使用子进程、容器或 microVM，要根据威胁模型和隔离强度选择，不能把教学 Demo 冒充已上线生产沙箱。先给出 30 秒回答 Agent Code Interpreter 的模型代码永远按不可信输入处理。字符串扫描和 safe_globals 只能做前置提示，真正边界放在操作系统或虚拟化…

RAG 首字响应为什么慢？Embedding、检索和生成怎么逐段优化？

匹配正文：…上流式”通常不够。面试官会继续问：首字响应和完整答案耗时有什么区别？两路检索能不能并行，哪些步骤存在前后依赖？缓存命中以后，权限和知识更新怎样保证？把 ANN 参数调快了，召回质量下降怎么办？首字响应和总耗时不是一回事首字响应常用 TTFT 表示，关注从用户发出请求到看到第一个 Token 的时间。总耗时关注从请求开始到完整答案生成结束。两者会受到不同因素影响。如果前置检索很慢、模型生成很快，TTFT 很差，总答案出来后却可能迅速结束。如果前置检索很快、答案…

#RAG#评测与上线#RAG 首字响应

#Deep Research#上线成本与评估#Deep Research 评估

Deep Research 评估为什么不能只看最终答案，过程合理又该怎么量？

匹配正文：…否新增有效信息、排除候选或解决冲突。来源策略检查是否进入原文、是否识别同源转载、是否处理版本与时效。恢复能力检查超时、空结果和权限失败后是否重试、换源或降级，而不是伪造 observation。停止质量检查证据足够后是否结束，证据不足时是否继续或明确部分完成。效率检查动作、token、延迟和成本，但只有在结果质量过门后才比较。过程指标要来自真实 Trace，不从最终报告反推模型“应该做过什么”。先有任务 Contract，评估才有意义同一份报告，在不同用户要求下…

#Agent#多智能体与评估#Agent Trace 回放

Agent 线上答错一次，怎样用 Trace 和 Replay 定位到底哪一步坏了

匹配正文：…确但状态合并错误时无法定位。工件使用稳定 ID、版本与哈希。Trace 不必复制整篇网页、代码和报告，只记录受控引用。必要时根据权限访问原始工件。人工确认也进入轨迹：请求了什么批准，用户看到什么摘要，批准令牌对应哪个动作，最终是否执行。模型调用应该记录什么记录模型供应或路由标识、模型版本、Prompt 模板版本、工具集合版本、结构化输入摘要、上下文长度、输出状态、解析结果、Token 使用和耗时分解。不要只保存最终文本。若模型输出 tool call，需要记录工具名…

转行大模型应用开发常见问题(FAQ)

匹配正文：…接口的方向可先做 Agent。Agent 的记忆可能用检索,但 Agent 并不以 RAG 为必然地基。无论先学哪条,都要补评估、权限、失败恢复和成本边界。入口见RAG 项目与Agent 教程。要不要学微调?应用岗用得上吗? 是否亲手微调取决于岗位职责。只做模型接入的团队可能更关注方案选择,训练/应用算法岗位则会追问数据、训练、评估与失败实验。先按目标 JD 判断深度,再到题库检查概念与实验缺口；题量会随内容更新,不写死数量。研一、研二转大模型应用开发,来得及吗? 来得及…

一个可上线的 RAG 系统怎么拆？离线入库、在线问答和监控如何闭环？

匹配正文：…的目标也不同。这就是 RAG 系统设计面试最常问的一类题：一个可上线的 RAG 系统应该怎样拆？离线入库、在线问答、数据存储、权限、降级和监控怎样形成闭环？只画“文档、向量库、大模型”三格图，通常接不住后续追问：一份文档只解析了一半，怎样恢复？用户权限应该在哪一层生效？向量服务或 Rerank 超时，系统怎样降级？线上答案错了，怎样定位证据在哪一步丢失？为什么离线入库和在线问答不能混在一起？离线入库追求的是完整、可恢复和可追踪。它要面对文件格式差异、OCR…

#RAG#评测与上线#RAG 系统设计