匹配正文：…号与风险矩阵组内优势依赖 reward 与环境，任何偏差都会被相对比较放大。组内优势能跨问题直接比较吗？通常不能把两个不同 prompt 的标准化优势简单当作绝对能力分。一条轨迹在简单题组中 reward 很高，但只略高于同组候选，优势可能不大；另一条轨迹在难题组中整体得分都低，只要相对最好也可能得到正优势。这正是组内比较的设计：控制题目条件后学习同题候选的相对策略。它也带来一个边界。训练日志中的平均优势不等于跨任务准确率，正优势数量也不能代替独立评测。难度分布…

#Deep Research#数据构造与训练#Deep Research GRPO

面试题·Agent

多 Agent 怎么编排？固定流水线和 Supervisor 监督模式怎么选

匹配正文：…口，关键事实无来源则阻止报告进入发布。合并节点比 Supervisor 更适合执行这些确定性条件。没有真实运行数据时，只描述并行设计和观测口径，不承诺具体时延收益。 Supervisor 怎样避免无限循环动态调度最常见的故障是 Worker 返回信息不足，Supervisor 再派同一任务，两个角色不断改写措辞却没有新增证据。系统需要硬预算：最大调度轮次、每个角色调用次数、工具预算、时间或 Token 上限。达到上限后进入降级、人工确认或带缺口结束，不能只在 Promp…

#Agent#多智能体与评估#多 Agent 编排模式

面试题·RAG

对话历史太长怎么办？滑动窗口、摘要和长期记忆怎么分工？

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

匹配正文：…或删除则按适用的数据规则处理实体记录、向量副本与缓存。这样既能解释系统为什么使用当前值，也能检查旧值是否仍在错误注入。记忆进入 Prompt 时也应保留来源类型与确认状态。用户明确确认的事实、模型从对话中推断的偏好和系统自动摘要不能拥有相同权重，否则一次错误推断就可能在后续会话里被反复强化。对话记忆的完整回答：存什么、何时取、怎样删我会把对话记忆设计成一个有生命周期的上下文系统，而不是聊天记录数组。静态制度和产品事实由知识库提供；短期窗口保存当前会话最近消息和任务状态；…

#RAG#生成与对话#RAG 记忆模块

面试题·Agent

长轨迹被截断就算失败吗，为什么这样做会把 Agent 训成提前乱答？

匹配正文：…度问题。所以面试官真正想问的是：怎样区分做错、没做完和环境失败，截断信号从哪里读取，哪些样本可以重采样、续跑、分段或拒绝，如何设计 reward 才不鼓励仓促回答，又怎样验证处理方式没有制造新捷径？ “失败”至少要拆成五类第一类是答案错误。轨迹完成了，但关键事实、计算或结论不受证据支持。第二类是行动错误。模型持续选错工具、参数不合法、重复调用或在证据不足时停止。第三类是环境失败。搜索超时、网页权限受限、服务异常或工具返回损坏，策略未必有错。第四类是预算耗尽。…

#Deep Research#数据构造与训练#Deep Research 截断轨迹

面试题·Agent

Text2SQL 面对上百张表，怎样选对 Schema 并处理业务歧义

匹配正文：…用户只说‘查上个月华东的活跃客户’，你怎么让模型知道该用哪些表和字段？” 很多 Text2SQL Demo 会把全部建表语句塞进 Prompt，让模型直接生成 SQL。表少时看起来能跑，表一多就会出现三类问题：上下文被无关字段占满；同名字段和相似表互相干扰；用户说的是业务词，数据库里却只有技术字段。更难的是“活跃客户”本身没有唯一含义。它可能指登录过、下过单、产生过付费或满足某个客户分层规则。“上个月”按自然月还是最近三十天，“华东”按客户注册地、收货地还是组织归属，也都需…

#Agent#工具调用与安全#Text2SQL Schema 选择

面试题·Agent

Deep Research 一跑几分钟，为什么不能用普通同步接口硬等？

匹配正文：…度查询，并要求重试、降级、断点和状态隔离。所以面试官真正想问的是：长时 Agent 如何拆成任务控制面和执行面，任务状态机怎样设计，怎样处理幂等、租约、断点、取消、重试和背压，GPU 推理与外部工具并发如何协调，又如何定义可验证的服务目标而不虚构现有 QPS 或 SLA？同步请求为什么容易出问题？第一，生命周期不匹配。网关、负载均衡和客户端都有超时，研究任务却可能更久。连接结束不代表任务应该被杀掉。第二，失败边界模糊。客户端没收到响应，无法知道服务还在跑、已经完…

#Deep Research#上线成本与评估#Deep Research 长任务

求职指南·求职

转行大模型最常见的 12 个坑

匹配正文：…怯按题量补齐地基,方向分布看大模型技术栈全景 8 把 RAG 当普通 CRUD 拼接觉得 RAG 就是"存向量、查向量、拼 prompt",套后端惯性搭一遍面试考的是分块、召回、重排、忠实度的取舍,不是接口拼装过一遍检索链路取舍,看怎么攒真项目经历里的 RAG 主线 9 demo 跑通就当项目写简历跟着教程复现一遍能跑,就直接写进简历当项目 demo 没有你自己的取舍和踩坑,一问设计原因和 badcase 就答不上把 demo 改造成有取舍有数据的项目,看 …

#求职#职业转型

面试题·RAG

Recall@K、MRR、Faithfulness，分别在评估 RAG 哪一层？

匹配正文：…把几个英文缩写逐个翻译出来，回答还停留在知识点层面。面试官真正想听的是，你能不能沿着证据流解释每个指标，看懂指标组合背后的故障，并设计一套不会被自动裁判误导的评测方法。先画清楚：一个 RAG 回答经过了哪些可评估节点堆更多指标不能直接让评测变专业。每一个分数都要先回答一个明确问题。用户提出问题以后，检索器给出一组候选 Chunk。这里要回答的是“应该找到的证据找到了多少”“返回内容里噪声有多少”“最有用的证据排在哪里”。候选经过融合、重排和截断，真正进入 Prompt…

#RAG#评测与上线#RAG 评估指标

面试题·Agent

一次 Deep Research 到底花了多少钱，为什么只看总 Token 找不到成本黑洞？

匹配正文：…、租户、问题族、预算、版本和最终状态。阶段 span 表示计划、检索、访问、计算、摘要和综合等阶段。模型 span 记录模型、Prompt 版本、输入输出 token、缓存使用、采样、延迟与结果状态。工具 span 记录工具名、参数摘要、供应商 request ID、计费单位、缓存命中、重试与错误类型。状态 span 或事件记录 checkpoint、上下文长度、证据数量、剩余预算和停止原因。父子关系让团队看到一次昂贵任务究竟在哪一步扩张。异步任务跨进程、队列和服…

#Deep Research#上线成本与评估#Deep Research 成本

面试题·RAG

RAG 首字响应为什么慢？Embedding、检索和生成怎么逐段优化？

匹配正文：…检索很快、答案很长，TTFT 不错，总耗时仍然很长。要看清首字响应，可以先把链路拆成 Query Embedding、向量检索、Prompt 构建和网络、队列、I/O 等系统开销。一条完整的线上时间线还要加上路由、关键词召回、融合、Rerank、模型排队、预填充和第一个 Token。首字响应与总耗时的区别 TTFT 只到第一个 Token，总耗时还包含后续生成。优化前要先确认用户抱怨的是哪一段等待。如果所有阶段只记一个 response_time，你只能知道“整条请求慢…

#RAG#评测与上线#RAG 首字响应

面试题·Agent

Deep Research 评估为什么不能只看最终答案，过程合理又该怎么量？

匹配正文：…设施异常单独报告，不能悄悄从分母移除。候选通过离线门后再做受控流量验证，继续观察任务、证据、失败和用户反馈。发布记录绑定模型、Prompt、工具、环境和 evaluator 版本。出现事故时能回到当时完整组合，而不只回滚模型权重。本文提供门禁设计，不声称现有系统已经达到某个通过率或自动发布效率。人工抽检应该抽哪些样本？随机样本用于估计日常整体情况，但仅随机可能漏掉高风险长尾。还应抽取分数提升最大、Judge 分歧、引用冲突、无答案、部分完成、工具异常、成本异常和新…

#Deep Research#上线成本与评估#Deep Research 评估

面试题·Agent

Agent 线上答错一次，怎样用 Trace 和 Replay 定位到底哪一步坏了

匹配正文：…n，只重跑 reducer 与报告节点，稳定复现字段问题。修复后同一轨迹通过，再加入状态版本和重试成功样本做回归。这个例子是教学设计，不代表真实线上事故。 Trace 到根因的排障流程从用户失败反查依赖，找到最早错误，再用受控回放验证。 Trace 与 Replay 怎样用于版本发布 Prompt、模型、工具 Schema、状态机和记忆策略更新都可能改变行为。发布前从代表性轨迹库选择任务做影子回放，覆盖成功、失败、长任务、工具异常和高风险路径。比较不能只看最终文本相似。…

#Agent#多智能体与评估#Agent Trace 回放

求职指南·求职

转行大模型应用开发常见问题(FAQ)

匹配正文：…应用开发路线图。要不要学微调?应用岗用得上吗? 多数应用岗不要求你亲手微调,但要求你讲得清什么时候该微调、什么时候 RAG 或 Prompt 就够。面试里微调更多以概念题出现:LoRA 和全参的区别、微调和 RAG 怎么选、数据要怎么准备。所以顺序是把微调放第二阶段,先用 RAG 和 Agent 拿到面试机会,微调作为加分项按目标岗位选修。想验证自己理解到位没有,直接去题库的模型微调模块刷 47 道题(经验值),答不上来的就是缺口。研一、研二转大模型应用开发,来得及吗? …

#求职#职业转型

面试题·Agent

LLM Judge 分数变高，为什么 Deep Research 可能反而更会刷分？

匹配正文：…它可以降低单个 Judge 的偶发波动，但不能自动消除系统性偏差。如果多个 Judge 都偏爱长答案，共识会更自信地重复错误。设计多 Judge 时可以选择不同模型家族、不同 Prompt 结构和不同评估视角。先让它们独立输出，避免互相锚定；再汇总一致与分歧。高风险维度可以采用任一 Judge 触发复核，而不是简单多数通过。还要定期用人工金标集校准每个 Judge 的混淆模式，不只看总体一致率。 Judge 更新版本后重新跑锚点集。旧版和新版分数不能直接拼成一条无断…

#Deep Research#上线成本与评估#Deep Research LLM Judge

面试题·Agent

Agent 怎么评估才不只看最终答案？任务、执行轨迹与成本要分层验收

匹配正文：…按场景切片也很重要。总分提高可能只来自简单题，复杂、权限和故障样本反而退化。评估系统与被评系统是持续博弈。不要把 Rubric 设计成固定 Prompt 后长期不变。一条轨迹怎样分层打分假设任务要求比较两个技术方案并给来源。轨迹先拆子问题，搜索候选，访问原文，识别冲突，生成带引用结论。结果层检查关键对比维度、事实与引用、限制说明和结构。轨迹层检查是否访问原文而非只用搜索摘要，冲突是否追加验证，工具参数与来源是否正确，完成前是否满足证据门禁。成本层记录模型与工具调用、…

#Agent#多智能体与评估#Agent 评估体系

面试题·项目与经历· 百度

大模型 vs 规则引擎怎么选?

匹配正文：…语义层。它可以从邮件、合同、客服对话或自然语言政策中抽取字段，识别意图，生成候选解释，并处理规则难以枚举的表达变化。但它的输出会受prompt和上下文影响，可能遗漏条件或生成不存在的依据，不适合直接承担不可逆的最终决策。因此我会按职责拆层：大模型负责把非结构化输入转换成带证据的结构化候选，确定性校验检查格式、权限和硬约束，规则或工作流执行可审计决策，高风险边界交给人工。模型建议与最终动作之间要有明确接口，而不是让一段自然语言推理直接调用核心系统。模型自报置信不能直接当概率…

#技术选型#规则引擎#大模型决策

面试题·RLHF与对齐· 美团

GSPO 序列级比率与裁剪

匹配口述回答：…tion。它不是把监督学习和纯离线强化学习拼起来，而是面向大语言模型 rollout 的组内相对策略优化方法。训练时，对同一个 prompt 从旧策略采样一组完整回答，用规则验证器或奖励模型给每条回答打分，再用组内统计构造相对 advantage。这个思路和 GRPO 有共同点：都可以不训练独立 value critic，用同组样本提供 baseline。奖励也不一定来自人类偏好，数学、代码等任务可以使用可验证规则。关键区别在重要性比率的粒度。GRPO 的常见实现对每个 …

#策略优化#离线强化学习#监督学习结合RL

面试题·项目与经历· 美团

技术项目怎么讲出亮点?

匹配口述回答：…标】，同时满足【成本、权限、时间或SLO约束】。接着要划清职责。我所在团队包括【真实角色】，我本人负责【真实完成的需求分析、架构设计、数据处理、模型实验、后端开发、上线或监控】。由他人负责的部分要明确说明，不能把团队成果全部写成个人贡献。面试官追问时，应该能说出自己提交的代码、设计文档、实验记录或值班事件。技术方案先讲输入、处理链路和输出，不要先堆名词。可以描述：输入是【真实数据与规模口径】，经过【真实预处理或检索】，由【真实模型或规则】完成【任务】，结果再经过【校验、权…

#项目经验#系统设计#技术选型

面试题·RLHF与对齐· 阶跃星辰

TRL Agent 组件交互机制

匹配题目：…ent为例，请说明其中涉及的主要组件类（如PPOTrainer、model、ref_model、reward_model等）是如何设计的，各自在训练流程中起到什么作用？

#TRL#PPO#Agent

面试题·模型训练· 美团

GLoRA 比传统 LoRA 强在哪?

匹配正文：…=BA，前向为 W_0x+BAx，训练参数集中在 A、B。GLoRA 的关键不是把矩阵机械分组，而是提出 generalized prompt module：在统一形式中同时提供对预训练权重和中间 activation 的多种轻量适配候选，包括低秩、缩放、偏置等可重参数化分支。不同层需要的适配形式可能不同，因此论文进一步做可扩展的 layer-wise structure search，为每层选择合适的 adapter 结构，而不是所有层共享同一个固定配方。训练完成后，能够…

#PEFT#LoRA#低秩适配

面试题·Agent· 得物

Agent 大模型优化三方向

匹配追问：…根据反馈调整。你觉得基础大模型在架构或训练上要怎么改，才能更好支持这种工具调用和任务规划？层层追问现在大模型做Agent主要靠提示词驱动，你觉得够用吗？……如果不够，模型本身需要做什么变化？……比如输出格式、训练数据，或者模型结构上有什么要优化的？直球架构要让大模型原生支持Agent能力，比如任务分解、工具调用、环境交互，你觉得在模型架构、训练目标和输出格式上分别需要做哪些针对性优化？请从这三个方向具体讲讲设计思路。

#得物#Agent#Agent 大模型优化

面试题·Agent· 蚂蚁

多轮对话上下文状态管理机制

匹配正文：…：持久状态与模型上下文分离持久状态保存完整、可审计的会话事件；模型上下文只是当前请求按 token 预算组装出的工作集。不能把 prompt 当作唯一状态，也不应默认永久保存所有对话。 1. 存储与数据模型以 session_id、递增序号和事件 ID 记录用户消息、模型输出、工具调用、结果、确认与错误。数据库或事件日志作为权威来源；Redis 可缓存最近轮次和版本，但不作为唯一真相。摘要、关键实体和用户确认的事实应带来源消息 ID、生成版本和时间，便于失效与回查。 …

#蚂蚁#Agent#多轮对话上下文管理

面试题·Agent· 小红书

冷启动新用户怎么推荐?

匹配正文：…从语义空间生成候选，突破候选池限制。我的方案分三层：信息补全 → 策略调度 → 生成优化。一、模型架构：双塔+生成式混合模块设计冷启塔轻量DNN，输入画像+上下文+社交特征，输出初始兴趣分布生成塔基于LLM的Seq2Seq，接收冷启塔输出作为prompt条件，生成个性化推荐理由+候选融合层冷启阶段生成塔权重高（>0.7），随交互增加逐渐切换至传统召回关键：生成塔不直接生成item ID（幻觉风险），而是生成兴趣标签组合或自然语言描述，再经语义索引召回真实i…

#小红书#Agent#冷启动推荐

面试题·Agent· 高德

旅行Agent怎么拆解任务?

匹配正文：…（如同时检索多个景点信息）、层间串行（理解→规划→验证）支持回环迭代：验证失败时触发重新规划，需求模糊时回调澄清二、RAG增强设计知识库分层：静态库：景点基础信息、历史文化、经典路线模板（定期全量更新）动态库：实时票价、天气、交通状况、近期用户评价（小时级增量索引） RAG与Agent的融合点：融合位置具体做法需求解析阶段检索相似用户画像的历史行程，辅助理解偏好规划决策阶段每步选址时RAG检索：景点实时开放状态、周边餐饮评分、当前拥堵指数验证阶段检索…

#高德#Agent#旅行Agent