匹配正文：…录。 Top-N 太小可能把正确证据挡在精排外，太大则增加成本与噪声。调试时扩大候选能帮助判断覆盖边界，但最终参数仍要回到评测集和延迟预算上决定。有些系统只对部分页面执行 Rerank。翻页后结果重复或跳动时，要确认不同页面是否使用相同排序口径。第七层，最终上下文真的包含完整证据吗？候选排对以后，还可能在截断与组装时出错。最终只保留前几条，正确证据可能被最后一次阈值过滤丢掉。多跳问题需要两段证据，系统却只保留其中一段。相邻重复 Chunk 占满上下文，互补证据没有…

#RAG#生成与对话#RAG 检索优化

面试题·Agent

Agent 从海量记忆里怎么找对内容？相关性、时间性和重要性怎样组合

匹配正文：…原则是越权与失效数据在候选生成前就排除。有些向量数据库支持元数据过滤，也仍需在结果回到主存储后复查权限、版本和状态。索引可能同步延迟，旧向量仍在。主记录是当前有效性的依据，不能把索引副本当最终事实源。这也解释了为什么记忆写入必须保存来源、主体、权限、时间和版本。写入时只存一段文本，检索时就没有可靠字段做硬过滤。相关性不是只有一个向量分数语义向量擅长找表达不同但含义接近的内容。例如用户问“回答别太啰嗦”，可以找到“偏好简洁表达”。但相关性至少还包含实体、任务阶段和条件是…

#Agent#记忆与存储#Agent 记忆检索排序

面试题·Agent

训练数据里 Search 太多，为什么 Agent 遇到什么都想先搜？

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

按学习路线查看教程、项目和面试题。

站内 RAG 在线实战

匹配正文：…isit，却用摘要下了越界结论，不算更优策略。检查最终答案完成度与停止。减少工具调用不能以漏答或编造为代价。可以记录调用次数、延迟与成本，但它们是约束，不应单独成为优化目标。更少调用只有在任务质量不退化时才有意义。工具选择偏置诊断矩阵工具标签、参数、证据、答案与成本要共同评估。重采样、重加权和重新生成有什么区别？重采样是在已有合格样本中改变被选中的频率。它适合某些能力已经存在，只是批次中被高频问题族淹没的情况。重加权是在计算训练目标时改变样本或 token 的影…

#Deep Research#数据构造与训练#Deep Research 工具选择

面试题·Agent

Agent 记忆数据怎么存？关系库、向量库、对象存储与 Schema 怎样设计

匹配正文：…回到关系库读取当前版本并复查 tenant_id、subject_id、visibility、status 和有效期。即使向量索引延迟，这个复查也能挡住已经撤回、删除或越权的旧候选。一张记忆主表至少要表达什么下面是用于面试讨论的最小字段示意： memory_entry ( memory_id, tenant_id, subject_id, memory_type, canonical_key, content, source_type, source_ref, statu…

#Agent#记忆与存储#Agent 记忆存储设计

求职指南·求职

项目深挖:面试官会怎么一层层追问你的项目

匹配正文：…位并修问题举一个答错的例子,怎么发现、归因到哪一环、怎么修评估体系上线成本你有没有工程和成本意识每次问答的 token/延迟/钱,怎么压成本、并发扛得住吗整体架构关键在于:这些环节存在上下游关系,但项目未必包含重排、多轮或线上部署等所有模块。业务问题立不住,后面全是空中楼阁;没有评估集,你说的"效果好"就是一句话;没有 badcase 和量化对比,你的 rerank、chunk 全成了"跟着教程"。面试官往下戳,戳到第一个"我没深究过"就停,前面讲得再顺也白搭。…

#求职#职业转型

面试题·Agent

Deep Research 训练路线怎样选：何时用 CPT、SFT 或 GRPO？

匹配正文：…模拟 observation 必须来自固定语料或明确规则，不能仍由策略模型自由编写。从模拟迁移到真实时，要重点检查工具错误分布、延迟、动态证据和安全边界。环境差异本身应成为评测维度。本文只解释环境分工，不声称相关材料已经提供生产效果数据。多阶段最常见的四种失败第一种是阶段目标重叠。团队在 CPT、SFT 和 RL 都塞入相似完整轨迹，成本增加却没有新的训练信号。第二种是前一阶段问题被后一阶段掩盖。 SFT 数据格式错误，RL 用奖励勉强压住输出，换个场景又复发。 …

#Deep Research#数据构造与训练#Deep Research 多阶段训练

面试题·Agent

复杂任务一定要拆成多 Agent 吗？单 Agent 与多 Agent 怎么选

匹配正文：…保持顺序；对共享资源设置并发与背压；合并节点定义去重、冲突和缺失分支处理。没有真实运行数据时，只能说设计上允许并行，不能承诺具体延迟降低比例。是否拆成多 Agent 的决策流程先确认失败证据，再判断职责、上下文、权限、评估和并行边界。哪些场景更适合单 Agent 任务步骤少且目标清楚。用户问一个限定范围的问题，Agent 调一两个只读工具即可完成，没有必要引入角色交接。子步骤高度耦合。每一步都需要完整理解上一轮细节，输出难以形成稳定契约，拆分会反复复制上下文。工具…

#Agent#多智能体与评估#单 Agent 和多 Agent 区别

面试题·RLHF与对齐· 美团

Agent 奖励如何对齐目标并防作弊?

匹配正文：…的距离奖励若设计不当，可能让Agent停在容易拿分的局部位置，甚至绕路刷奖励。多目标不要急着压成一个总分。任务正确、安全、成本、延迟和风格应分别记录；不可违反的权限与安全条件用硬约束、沙箱或审批处理。需要加权时，权重和量纲要通过敏感性实验选择，并监控某个分量上升是否牺牲其他分量。防奖励黑客不能只靠长度、可读性和覆盖率。这些仍是可被优化的代理，也不能证明程序通用正确。代码任务要使用隐藏测试、随机测试和静态检查，工具任务要核验真实副作用与权限，推荐任务要看长期指标和分布外用户…

#奖励工程#RLHF#稀疏奖励

面试题·Agent

GRPO 为什么同一道题要采样一组答案，组内相对优势到底怎么算？

匹配正文：…组大小应该越大越好吗？更大的组可能覆盖更多策略，使组内统计更稳定。但长程 Agent 每条候选都要运行工具，组越大，采样成本、延迟和环境波动越高。如果 reward 本身噪声大，增加候选不一定解决判定错误。组太小则均值和标准差更容易受单条异常影响，也可能很难采到明显不同的路径。合理组大小要结合任务难度、轨迹长度、采样多样性、环境成本和 reward 稳定性实验确定。不能从教学示例的四条轨迹推导生产组大小，也不能把教程里举例的某个 N 当统一最佳值。评估时应同时观…

#Deep Research#数据构造与训练#Deep Research GRPO

面试题·Agent

多 Agent 怎么编排？固定流水线和 Supervisor 监督模式怎么选

匹配正文：…非模型自评。是否用相同任务集比较 Pipeline、Supervisor 和混合模式。没有真实数据时，是否避免虚构路由准确率、延迟与成本改善。多 Agent 编排的专业感不在于画出多少角色，而在于控制权清楚：确定性路径由图保证，开放决策由受限 Supervisor 完成，所有事实通过 State 和工件传递，任何失败都能定位、恢复或安全退出。

#Agent#多智能体与评估#多 Agent 编排模式

求职指南·求职

大模型系统设计和编码环节怎么准备

匹配正文：…比如"做一个企业知识库问答")拆成可落地、可评估、可控成本的系统。常见考察重点是权衡:数据怎么切、检索怎么召回、效果怎么评、成本和延迟能不能扛、模型挂了怎么降级。编码形式和难度由公司与岗位决定,应以目标招聘流程和近期同岗信息校准。这一页给你系统设计的答题框架和编码环节的准备重点。作者:吴师兄 | 适合:准备大模型岗系统设计与编码环节的转行者 | 前置:知道 RAG/Agent 是什么,最好做过一个项目大模型系统设计到底考什么先给结论:考的是"把模糊需求拆成能落地、能评估…

#求职#职业转型

面试题·RAG

对话历史太长怎么办？滑动窗口、摘要和长期记忆怎么分工？

匹配正文：…断项。指标可以分成四组：正确记忆的召回率、返回记忆的精确率、过期或被替代记忆的误用率、删除后的残留召回率。再加上跨用户泄漏、检索延迟、上下文 Token 和写入成本。平均值之外，要单独看高风险样本。记忆模块最容易漏掉的验收一条可复现的记忆 Trace 应该记录什么记忆答错时，如果日志只有最终 Prompt，很难知道错误在哪一步。最小 Trace 可以记录：请求所属作用域、短期窗口选中了哪些消息、长期检索返回了哪些 memory_id、过滤掉哪些候选及原因、最终注入哪些…

#RAG#生成与对话#RAG 记忆模块

面试题·Agent

Deep Research 一跑几分钟，为什么不能用普通同步接口硬等？

匹配正文：…许多模型与工具调用。可以设置租户级运行任务数、全局模型并发、工具并发、每任务最大并行分支和队列长度。队列接近上限时，优先拒绝或延迟低优先级新任务，而不是让所有运行任务一起超时。调度还要防止大任务长期占用资源。可按步骤让出执行权，或者使用公平队列与预算配额。高优先级不能无限饿死普通任务，租户之间也不能共享状态和配额。这些都是服务设计原则，本文不虚构已经达到的并发数、QPS 或排队时长。 Continuous Batching 能解决整个长任务调度吗？不能。 Cont…

#Deep Research#上线成本与评估#Deep Research 长任务

面试题·Agent

Text2SQL 生成的 SQL 敢直接执行吗？安全校验与执行边界怎么设计

匹配正文：…run、审批和幂等的独立工具。 Trace 与评测是否能区分语法、权限、成本、执行和结果失败。没有真实数据时，是否避免虚构阈值、延迟和安全效果。 Text2SQL 需要一条从自然语言到数据库结果的纵深防御，单个正则表达式承担不了这项工作。模型负责提出查询，系统负责决定它是否可理解、可授权、可承受、可执行和可展示；每次放行或拒绝还要留下可回查的规则版本与首个失败原因。上线后还应把被拒绝的合法查询与被放行的高风险查询分开复盘：前者用于降低误拒绝，后者用于补规则和测试集。只有两…

#Agent#工具调用与安全#Text2SQL SQL 安全

面试题·RAG

Recall@K、MRR、Faithfulness，分别在评估 RAG 哪一层？

匹配正文：…无答案题切片，避免平均值掩盖关键退化。离线指标还要和运行指标分开。Recall、MRR、Faithfulness 主要评价质量；延迟、吞吐、模型调用次数和上下文长度评价成本与体验。一个排序模型提高 MRR，却让链路慢到不可接受，仍然不能直接上线。更稳的结论形式是：“这次改动主要改善哪一层，哪些题型收益明显，哪些维度退化，额外成本是什么，是否通过既定门槛。”它比“总分提升”更能支撑工程决策。 LLM-as-a-judge 为什么也要被评测开放答案很难完全靠字符串匹配，可以…

#RAG#评测与上线#RAG 评估指标

面试题·Agent

一次 Deep Research 到底花了多少钱，为什么只看总 Token 找不到成本黑洞？

匹配正文：…示计划、检索、访问、计算、摘要和综合等阶段。模型 span 记录模型、Prompt 版本、输入输出 token、缓存使用、采样、延迟与结果状态。工具 span 记录工具名、参数摘要、供应商 request ID、计费单位、缓存命中、重试与错误类型。状态 span 或事件记录 checkpoint、上下文长度、证据数量、剩余预算和停止原因。父子关系让团队看到一次昂贵任务究竟在哪一步扩张。异步任务跨进程、队列和服务时，需要传递 trace ID 与 task ID。不能…

#Deep Research#上线成本与评估#Deep Research 成本

面试题·Agent

Deep Research 评估为什么不能只看最终答案，过程合理又该怎么量？

匹配正文：…不是伪造 observation。停止质量检查证据足够后是否结束，证据不足时是否继续或明确部分完成。效率检查动作、token、延迟和成本，但只有在结果质量过门后才比较。过程指标要来自真实 Trace，不从最终报告反推模型“应该做过什么”。先有任务 Contract，评估才有意义同一份报告，在不同用户要求下可能有不同判定。用户只问稳定概念，直接回答合理；用户要求最新官方出处，就必须外部检索。任务 contract 至少包含对象、时间范围、交付、来源要求、允许工具、…

#Deep Research#上线成本与评估#Deep Research 评估

面试题·Agent

Agent 线上答错一次，怎样用 Trace 和 Replay 定位到底哪一步坏了

匹配正文：…通过父子关系串成一条任务轨迹。指标、日志、Trace 和回放有什么区别指标回答整体是否异常，例如任务失败、工具错误、循环次数、延迟和资源消耗的趋势。它适合告警和看分布，但看不到某个请求的完整因果链。结构化日志记录离散事件，例如某工具超时、某状态版本写入失败。它可以搜索和聚合，但若缺少统一关联 ID，多个并发请求的日志很难拼起来。 Trace 把一个任务拆成有父子关系的 span。根 span 是整个任务，子 span 可以是规划、模型调用、工具调用、状态读写、检索、评审…

#Agent#多智能体与评估#Agent Trace 回放

求职指南·求职

转行大模型应用开发常见问题(FAQ)

匹配正文：…么区别。数学不好、没学过深度学习,是硬伤吗? 对应用开发岗不是。日常工作和面试考的是工程判断:什么时候用 RAG、怎么评估效果、延迟和成本怎么权衡,不是公式推导。你需要的原理是概念级的,知道模型为什么会幻觉、上下文窗口意味着什么、embedding 大致在做什么,这些不需要先修完一整门深度学习课。真要补到什么程度、哪些能力必须要、哪些可以跳过,转大模型应用开发数学要学到什么程度里按岗位分了层。一定要会 Python 吗?我只会 Java,能用吗? 是否必须使用 Pytho…

#求职#职业转型

面试题·RAG

一个可上线的 RAG 系统怎么拆？离线入库、在线问答和监控如何闭环？

匹配正文：…nk、Embedding 和批量写入。失败后需要知道停在哪一步，能不能从中间继续，已经写入的数据是否需要清理。在线问答追求的是低延迟、权限正确和证据可靠。它要在一次请求里完成 Query 理解、过滤、检索、排序和生成。用户已经在等待，任何排队和重试都会直接影响首字响应。如果两条链路运行在同一个同步接口里，上传一份复杂文档可能占用应用进程，在线问答跟着变慢。解析失败也只能返回一个模糊错误，无法继续处理。应用内部也要分层。以 FastAPI 为例，入口注册不同路由，rou…

#RAG#评测与上线#RAG 系统设计

面试题·Agent

Agent 怎么评估才不只看最终答案？任务、执行轨迹与成本要分层验收

匹配正文：…间。不同模型、工具和缓存有不同计价方式，必须保存版本与计费口径。一次任务失败后重试，成本也属于该任务，不能只统计最终成功路径。延迟与货币成本不是同一维度。并行可能降低等待时间却增加调用，缓存可能减少模型成本却增加存储与一致性复杂度。不要把它们随意折成一个分数。按任务难度和结果质量切片看成本。复杂任务合理使用更多资源，简单任务却反复调用就是浪费。平均值会掩盖极端长尾，至少看分布和异常样本。没有真实运行数据时，文章只定义记录字段和比较方法，不报告单次成本、节省比例或延迟改…

#Agent#多智能体与评估#Agent 评估体系

面试题·模型架构· 小红书

主流图像生成模型有哪些?

匹配正文：…官方披露描述能力，不能替其断言具体backbone、训练数据或内部损失。比较模型时应区分公开论文方法与商业产品，并按质量、可控性、延迟、训练稳定性、许可证和证据完整度选型。

#扩散模型#自回归模型#图像生成

面试题·多模态· 小红书

多模态大模型面临哪些挑战?

匹配正文：…ken增加会抬高prefill与显存，并不保证质量线性提升。我的验收会同时报告grounding、OCR、时序、事实支持率、拒答、延迟和成本。只有具体失败类型减少，才能说明数据、模型或工具方案真正有效。

#模态对齐#数据构建#推理一致性

面试题·模型训练· 海尔

LoRA 低秩分解 vs 全量微调怎么选?

匹配正文：…要的权重变化可能集中在较低维子空间。训练时只更新A和B，减少梯度与优化器状态；推理前可把BA合并回W，因此通常不增加该线性层的串行延迟。缩放常写成alpha除以r，但初始化、dropout和目标模块会影响结果。参数量必须按实际模块尺寸计算，不能只用隐藏维乘rank漏掉两个矩阵，也不能忽略Q、V两个投影和全部层。若同时训练K、O、MLP或embedding，数量会继续增加。 LoRA不保证任何任务都等价于全参微调。rank过小、目标模块选错、领域偏移很大或数据复杂时会有容量瓶颈…

#LoRA#参数高效微调#低秩分解