搜索大模型内容

要不要做微调 / Post-Train 项目,轻量版怎么做

匹配正文：对多数转应用开发岗的人,微调不是必做项。面试更常考的是"你知不知道什么时候该微调、和 RAG/Prompt 怎么取舍",而不是你手搓过多复杂的训练。真要做,做一个目标清晰、有评估、能说清收益的轻量 LoRA/SFT 就够了,不必一上来啃工业级 Post-Train。这一页帮你判断该不该碰微调,以及如果要做,轻量版的最小证据链长什么样。作者:吴师兄 | 适合:纠结要不要做微调项目、把 LoRA/SFT 写进简历的转行者 | 前置:知道 RAG/Agent 是什么,看过技术栈全…

Embedding 和 Rerank 模型怎么选？什么时候值得领域微调？

匹配正文：…有可比性：换 Embedding 的同时改了 Chunk 大小、Top-K 和相似度阈值；换 Rerank 的同时又换了召回模型和提示词。最后指标变化了，却无法判断究竟是哪一步造成的。一套可复现的对比应先冻结其余链路。对 Embedding 候选，使用同一份原始文档、同一套解析和分块结果、同一批测试 Query、同一套正确证据标注，并保持索引类型和 Top-K 一致。对 Rerank 候选，则进一步冻结粗召回产生的候选集合，让每个模型对完全相同的 Query 与 Chunk…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#RAG#检索与重排#Embedding 模型选型

#Agent#记忆与存储#Agent 记忆写入机制

Agent 长期记忆什么时候写入？从候选提取到更新、冲突和遗忘的完整生命周期

匹配正文：…是秘密保险箱。即使用户主动粘贴，也应按安全策略拦截或脱敏，而不是为了“下次方便”长期保存。第六类是一次成功产生的全局方法。某个 Prompt 在一个样本上有效，不足以证明它是稳定程序记忆。可复用经验应经过多样任务验证或人工批准。面试时如果只回答“重要的信息才存”，面试官通常会追问谁来定义重要。更好的回答是给出类型、来源、用途、授权和验证五个判断维度。候选记忆需要一张暂存区候选与正式记忆分层，能让写入过程可回放。候选区可以保存提取内容、来源消息引用、候选类型、提取器版…

RAG 检索效果差怎么排查？从 Query 到 Rerank 逐层定位

匹配正文：RAG 回答错了，最常见的第一反应是什么？改 Prompt，换大模型，或者把 Top-K 调大。这三个动作都可能有用，但它们不应该成为排查起点。因为最终答案只是链路最后一层。错误可能早在文档解析时就发生，也可能是 Query 被改写带偏、过滤条件挡掉了正确文档、向量召回没找到、融合时被压下去，或者 Rerank 把正确证据排到了后面。如果连正确证据在哪一层消失都不知道，改参数更像碰运气。排查前，为什么先要有“正确证据”？如果只知道“答案错了”，排查没有参照物。系…

#RAG#生成与对话#RAG 检索优化

#Deep Research#数据构造与训练#Deep Research SFT

首次 SFT 后格式稳定了，为什么工具选择和答案仍然不行？

匹配正文：…，因为正确动作也可能带着错误参数。基线和训练后模型怎样公平比较？两边必须使用同一批问题、同一工具版本、同一最大运行预算、同一 Prompt 和同一停止策略。如果训练后模型使用了更宽松解析器，格式成功率会被基础设施差异抬高。若网页内容在两次运行之间变化，事实题的结果也不能直接比较。动态来源可以保存时间快照或在同一时间窗交错运行。工具失败要单独记录，不能把环境超时算成某个模型的策略错误。采样参数也要一致，并保留随机种子或多次运行。单次输出容易被随机性影响，尤其是同一问题…

#Agent#记忆与存储#Agent 记忆检索排序

Agent 从海量记忆里怎么找对内容？相关性、时间性和重要性怎样组合

匹配正文：…度。简单偏好用一行结构化信息，历史任务可能只注入摘要与工件引用，必要时再读取详情。不要把完整对话、工具轨迹和向量库原文一次性拼进 Prompt。每条注入内容应标明这是历史记忆、来源、确认状态和时间。历史信息不能伪装成系统指令。模型需要知道它可能过期，并优先服从本轮用户与实时事实。检索与遗忘怎样联动长期未命中不自动代表可以删除，但检索日志能为复核和遗忘提供信号。如果一条候选频繁被召回却总被用户纠正，可能内容错误或条件过宽，应进入更新或撤回。如果条目长期无使用价值且类型允…

大模型岗位 JD 怎么读:招聘要求逐条拆解

匹配正文：…中间是它实际在考察什么,右边是对应怎么准备。 JD 原文实际在考察怎么准备「熟悉 LLM 应用开发链路」调过 API、懂 prompt、做过一个完整应用 AI 编程最小实现系列「熟悉大模型训练原理」应用岗只需懂大方向:预训练/SFT/RLHF 各解决什么,不用会训基础概念扫盲,会讲即可「有 RAG 系统实践经验」能讲清检索链路每个环节的选型与权衡 RAG 完整教程 + 题库 RAG 模块「有 Agent 落地经验」做过多步工具调用的东西,能说清编排与失败…

资料里没有答案时，RAG 怎么避免强行生成？

匹配正文：…入降级流程。无答案控制的四道门范围过滤、相关性筛选、充分性判断和生成后核验，分别拦截不同来源的错误。这四道门不能互相替代。 Prompt 里写一句“资料不足就说不知道”，不能修复错误的搜索范围。相似度很高，也不能证明一组片段覆盖了答案所需的全部条件。生成后增加引用编号，同样不能让一条没有依据的结论自动变真。阈值应该怎么定？阈值不是从网上抄一个小数，也不是看几个演示问题拍出来的。先准备两组问题。第一组是可回答问题。每个问题都要标出参考答案，以及能直接支持答案的原文…

#RAG#生成与对话#RAG 无答案检测

#Deep Research#数据构造与训练#Deep Research 工具选择

训练数据里 Search 太多，为什么 Agent 遇到什么都想先搜？

匹配正文：…面对“水的化学式是什么”，先调用 Search；面对简单乘法，也想搜网页；真正需要访问原文时，却停在搜索摘要。很多团队会先怀疑 Prompt 没写好，或者模型太小。但如果训练轨迹里大量任务都以 Search、Visit 开头，模型可能只是忠实模仿了高频动作。它没有学会判断“当前缺什么信息”，而是把“收到问题”与“先搜索”绑定在一起。相关首次训练记录里，就出现了简单问题仍偏 Search 的现象，材料同时指出 Search、Visit 轨迹偏多可能是原因之一。所以面试官…

#Agent#记忆与存储#Agent 记忆存储设计

Agent 记忆数据怎么存？关系库、向量库、对象存储与 Schema 怎样设计

匹配正文：…URI、内容哈希、版本、媒体类型、大小、创建者、权限和保留状态。Agent 需要时通过受控工具读取相关片段，而不是把整个对象塞进 Prompt。对象引用必须可验证。链接指向的版本发生变化，旧任务恢复会读到不同内容。内容哈希、不可变版本或版本化 URI 能帮助复现。权限检查不能只在生成链接时做，读取时仍要根据当前主体验证。删除长期记忆时，如果正文或来源工件也属于删除范围，要沿引用清理。若对象被多个合法记录共享，不能因为一条记忆删除就误删公共工件，需要引用关系与保留策略裁决。…

#Deep Research#数据构造与训练#Deep Research 多阶段训练

Deep Research Agent 训练中，CPT、SFT 和 GRPO 应该怎样取舍？

匹配正文：…质量门。平均 reward 上升，但引用、工具成本或安全退化，只因总分权重把它们抵消。第四种是无法归因。同时更换数据、模型、Prompt、环境与 reward，最终不知道哪个改动有效。应采用小步版本、固定回归集和阶段报告。每次训练都能回答“改变了什么、为什么改变、是否可复现”。多阶段训练风险与验收矩阵阶段越多，越需要独立目标、版本血缘和跨阶段回归。同一条轨迹能不能在三个阶段重复使用？原始任务和证据可以复用，但训练表示与目标不能简单复制。 CPT 更关注大规模行…

#Agent#多智能体与评估#单 Agent 和多 Agent 区别

复杂任务一定要拆成多 Agent 吗？单 Agent 与多 Agent 怎么选

匹配正文：…ch 任务里有检索、分析和写报告，是不是应该分别做三个 Agent？” 很多人会直接回答“多 Agent 分工更专业”。但把三个 Prompt、三个名字和三段对话连起来，不代表系统真的获得了新的能力。任务边界不清时，多 Agent 只会增加消息传递、上下文复制、状态一致性和失败归因成本。反过来，一个 Agent 同时面对大量工具、相互冲突的指令、很长的中间轨迹和多个独立目标，也可能出现工具选择混乱、注意力被稀释、一步失败拖垮整条链路的问题。此时合理拆分可以隔离上下文、权限和…

领域八股速通:RAG / Agent / 评估 / 微调高频考点地图

匹配正文：…):验证你懂不懂检索链路的取舍 RAG 是应用岗第一主战场,面试官不是要你背定义,而是看你对"分块、embedding、检索、拼 prompt"这条链路的每一环有没有做过取舍。维度内容面试官在验证什么你是否理解 RAG 每一环为什么这么设计、召回和忠实度怎么保证,而不是只会调库先看哪个 RAG 教程:为什么需要 → 架构 → 分块 → 检索一路做完代表题型 "为什么用 RAG 不直接微调""分块粒度怎么定""检索到无关内容怎么办""怎么防止模型胡说" 项目里怎么体…

多轮 RAG 如何理解“这个怎么申请”？

匹配正文：… 当前问题依赖历史时，怎样把它恢复成可以独立检索的问题？对话历史太长以后，窗口、摘要和长期记忆又该怎样分工？只回答“把历史放进 Prompt”远远不够。面试官还会继续问：怎么判断当前是追问，还是已经换了话题？ Query 改写错了，系统怎样回退？历史窗口放多少轮，为什么不是越多越好？用户记忆和知识库事实冲突时，应该听谁的？为什么直接拼历史会出问题？多轮问答里至少有三类信息。第一类是当前问题。它决定用户此刻真正想问什么。第二类是最近对话中的必要上下文，比如产品名…

#RAG#生成与对话#多轮 RAG

#Deep Research#数据构造与训练#Deep Research GRPO

GRPO 为什么同一道题要采样一组答案，组内相对优势到底怎么算？

匹配正文：…同下可比。如果把不同难度、不同时间范围和不同工具预算的问题混在一组，reward 高低可能来自题目差异，不是策略差异。同一个 prompt 也不够。工具环境、来源时间、最大步骤、超时、可用工具和 reward 版本都要一致。某条轨迹因为网页暂时不可访问而低分，不能简单解释成策略更差。同组候选还应尽量独立采样。如果复制同一轨迹或随机性过低，reward 几乎一样，组内没有可用差异。因此组是一个实验单元：任务、环境和判定条件相同，只让策略采样路径发生变化。组内标准化到…

#Agent#多智能体与评估#多 Agent 编排模式

多 Agent 怎么编排？固定流水线和 Supervisor 监督模式怎么选

匹配正文：…要硬预算：最大调度轮次、每个角色调用次数、工具预算、时间或 Token 上限。达到上限后进入降级、人工确认或带缺口结束，不能只在 Prompt 中写“不要循环”。还需要进展判定。每轮是否新增工件、解决开放问题、减少冲突、通过新的验证器。若状态没有变化，即使文本不同也算无进展。可以用工件哈希、开放项集合和节点状态做代码检查。 Supervisor 决策记录理由和输入版本。如果连续选择同一角色处理同一目标，调度器可以阻止并要求换策略或退出。 Worker 也不能自行无限转交。所…

大模型系统设计和编码环节怎么准备

匹配正文：…案向量检索 + 关键词(BM25)混合、召回多少、要不要重排、多路召回怎么融合只上单路向量检索,答不上召回不全怎么办模型与 Prompt 选什么模型、上下文怎么拼、引用怎么带、幻觉怎么约束、要不要 function calling 把 Prompt 当细节略过,不提引用和防幻觉评估怎么做检索命中率、答案准确性、幻觉率怎么测,离线评估集 + 线上抽样,用不用 LLM 打分完全不提评估,或只说"人工看一眼" 成本与延迟一次问答的 token 成本、检索+生成的延迟拆…

对话历史太长怎么办？滑动窗口、摘要和长期记忆怎么分工？

匹配正文：…近邻，再在结果末端补权限过滤，不仅可能浪费候选名额，也会增加数据越界风险。第五步：融合时处理冲突检索到记忆后不能直接全部拼入 Prompt。系统需要检查时间、状态、主题和来源。当前用户明确修改了偏好，新值应使旧值失效；长期记忆与当前会话冲突时，应优先使用用户刚刚确认的信息；个人记忆与权威知识库事实冲突时，回答事实应以最新权威来源为准，并在必要时请用户澄清。模型输入中最好区分“当前问题”“知识库证据”“会话状态”“长期记忆”，让各类信息的身份清楚。否则模型无法知道某句话是…

#RAG#生成与对话#RAG 记忆模块

#Deep Research#数据构造与训练#Deep Research 截断轨迹

长轨迹被截断就算失败吗，为什么这样做会把 Agent 训成提前乱答？

匹配正文：…少保存什么？任务层要保存 task ID、问题族、任务合同、复杂度与允许工具。运行层要保存 run ID、父运行 ID、模型、Prompt、模板、环境和预算版本。步骤层要保存 action、参数、observation、证据 ID、开始与结束状态，以及该步骤是否完整提交。终止层要保存 stop reason、触发位置、剩余预算、是否存在 final answer、是否可恢复和用户是否主动取消。质量层要分别记录格式、行动、证据、答案与环境结果。一个总分无法表达“过程合…

#Agent#工具调用与安全#Text2SQL Schema 选择

Text2SQL 面对上百张表，怎样选对 Schema 并处理业务歧义

匹配正文：…用户只说‘查上个月华东的活跃客户’，你怎么让模型知道该用哪些表和字段？” 很多 Text2SQL Demo 会把全部建表语句塞进 Prompt，让模型直接生成 SQL。表少时看起来能跑，表一多就会出现三类问题：上下文被无关字段占满；同名字段和相似表互相干扰；用户说的是业务词，数据库里却只有技术字段。更难的是“活跃客户”本身没有唯一含义。它可能指登录过、下过单、产生过付费或满足某个客户分层规则。“上个月”按自然月还是最近三十天，“华东”按客户注册地、收货地还是组织归属，也都需…

面试题·推理优化· 京东

vLLM vs TensorRT-LLM 怎么选?

匹配正文：…PU 混合支持远不止 Llama，但具体算子、模态与量化需查模型列表框架不能脱离模型和硬件排名。应固定 checkpoint、prompt/output 长度、dtype/量化、并发和质量门槛，分别测冷启动、TTFT、TPOT、吞吐、P95/P99、峰值内存与能耗。任何“固定 50ms”都缺少模型、batch、上下文与硬件前提。

#vLLM#TensorRT-LLM#推理引擎

RAG 评测集怎么构建？问题、答案和证据必须怎么标？

匹配正文：…回。Recall 正常而 MRR 下降，融合与重排更值得优先检查。正确证据已经排在前面，Faithfulness 却下降时，再看 Prompt、上下文组织和模型生成。一个总分无法给出这种定位能力。开发集、回归集和保留集为什么要分开？开发集用于日常调试。调整 Chunk 大小、检索权重、阈值和 Prompt 时，可以反复运行开发集，快速观察变化。回归集保存已经发生过的 bad case。每修复一个真实问题，就把原问题、正确证据和预期行为加入回归集。以后换模型或重构链…

#RAG#评测与上线#RAG 评测集