匹配口述回答：…一个token的隐藏维计算均值和方差，先减均值，再除以标准差，最后乘可学习的gamma并加beta。RMSNorm不减均值，而是用向量均方根做缩放，再乘逐维gamma。最重要的边界是，RMSNorm没有把输入均值隐式变成零，它只是放弃了中心化这一步。从不变性看，LayerNorm既能消除所有维度共同平移带来的影响，也能处理整体尺度变化；RMSNorm主要保留重新缩放不变性。这个取舍减少了统计量，但不能推导出输入必须近似零均值，也不能说RMSNorm天然更抗异常值。均方根同样…

#Layer Normalization#RMS Normalization#归一化技术

面试题·RAG

Rerank 为什么更准，却不能对整个知识库运行？

匹配正文：…例外条款，另一段是字面上很像、却只介绍正常适用范围的正文。正确证据已经进了候选集，只是排在后面。如果系统直接截取最前面的内容交给模型，最后答案仍可能跑偏。这时适合处理问题的是 Rerank，也就是重排。可另一个问题马上来了：既然 Rerank 能更细地比较问题与候选，为什么不跳过向量检索，直接让它给整个知识库打分？ Bi-Encoder 和 Cross-Encoder 差在哪里？ Embedding 模型通常采用双塔，也叫 Bi-Encoder。 Query 进入一侧编…

#RAG#检索与重排#RAG Rerank

面试题·模型架构· 百度

DDPM 为什么随机采样时间步?

…们不需要从零开始连续执行 t 次加噪，只需一次公式就能得到任意 x_t；训练也只通过当前网络调用反向传播。第二，它让同一个时间条件模型在训练过程中长期看到从高 SNR 到低 SNR 的不同区域。推理时反向轨迹会经过整个时间范围，所以各区域都需要有足够覆盖。时间条件必须以 embedding 等方式输入网络，否则同一个 x_t 在不同日程位置的含义无法区分。如果 t 均匀采样，单个 batch 通常只包含若干随机时间点，它并不保证覆盖所有时间步；无偏性来自很多 batch 累…

← 上一页第 12 / 22 页下一页 →

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

匹配口述回答：

#扩散模型#DDPM#加噪过程

面试题·Agent

Agent 长期记忆什么时候写入？从候选提取到更新、冲突和遗忘的完整生命周期

匹配正文：…、更新、过期、遗忘与删除。“如何存”只是其中一步，每个阶段都要有明确证据和不写入出口。先给出 30 秒回答 Agent 不应该把模型认为重要的内容直接写入长期记忆。我会先从对话和任务结果中提取候选，区分用户明确偏好、稳定事实、任务摘要和可复用经验，再做敏感信息、保存授权、主体权限、来源可信度、去重与冲突检查。通过后写入带来源、时间、版本、有效期和可见范围的正式记录。后续新事实不能覆盖旧记录而不留痕，而应更新版本或建立替代关系。过期、撤回和用户删除要同时作用于主记录、向量索引…

#Agent#记忆与存储#Agent 记忆写入机制

面试题·RAG

RAG 检索效果差怎么排查？从 Query 到 Rerank 逐层定位

匹配正文：RAG 回答错了，最常见的第一反应是什么？改 Prompt，换大模型，或者把 Top-K 调大。这三个动作都可能有用，但它们不应该成为排查起点。因为最终答案只是链路最后一层。错误可能早在文档解析时就发生，也可能是 Query 被改写带偏、过滤条件挡掉了正确文档、向量召回没找到、融合时被压下去，或者 Rerank 把正确证据排到了后面。如果连正确证据在哪一层消失都不知道，改参数更像碰运气。排查前，为什么先要有“正确证据”？如果只知道“答案错了”，排查没有参照物。系…

#RAG#生成与对话#RAG 检索优化

面试题·Agent

Agent 从海量记忆里怎么找对内容？相关性、时间性和重要性怎样组合

匹配正文：…tate 提取几个结构化字段：主体是谁、任务或项目是什么、需要的记忆类型、时间范围、实体与关键词、当前目标、必须遵守的权限和预算。模型可以帮助解析自然语言，但主体、租户、权限和项目标识应来自可信上下文，不能由模型猜。查询改写也要保留原始问题。若改写错误，Trace 需要看见模型怎样把“昨天的方案”解析成某个项目。只有记录查询意图、过滤条件和候选变化，才能判断漏召回发生在理解、过滤、向量召回还是重排。一个任务可能需要多路检索。用户偏好走结构化属性查询，历史任务摘要走语义检索…

#Agent#记忆与存储#Agent 记忆检索排序

面试题·RAG

资料里没有答案时，RAG 怎么避免强行生成？

匹配正文：…常见场景。知识库里只有国内差旅报销制度，用户却问：“海外出差时，当地交通票据丢失应该怎么补办？” 资料里没有海外票据补办规则，但向量库通常仍会返回几段“最相近”的内容，比如国内票据遗失说明、差旅报销材料清单，或者交通费用标准。这些内容都和问题有关，却没有真正回答问题。如果系统把它们直接交给大模型，大模型很可能把几段相近内容整理成一套完整流程。文字顺，步骤也像那么回事，但关键规定并不在资料里。这就是 RAG 面试中很容易被低估的一道题：资料里没有答案时，RAG 怎么判…

#RAG#生成与对话#RAG 无答案检测

求职指南·求职

项目深挖:面试官会怎么一层层追问你的项目

匹配正文：…想验证什么你该怎么答(带证据) 站内哪里补业务问题你是不是为真问题做的,还是为做而做说清给谁用、痛点是什么、为什么不用纯大模型或微调为什么需要 RAG 文档处理你有没有碰过真实脏数据讲你的文档格式(PDF/表格/扫描件)、清洗和解析踩的坑文档预处理与切分 chunk 策略你的切分是拍脑袋还是有依据切多大、按什么切、试过别的没有、对召回的影响文档预处理与切分检索召回你懂不懂检索的取舍向量/关键词/混合怎么选,召回率怎么测、多少条测试集检索召回·混合…

#求职#职业转型

求职指南·求职

领域八股速通:RAG / Agent / 评估 / 微调高频考点地图

匹配正文：…(70 题):验证你会不会救召回重排是 RAG 里"召回准不准"的关键一环,效果好坏经常卡在这。面试官问重排,是想确认你不只会 embedding 一把召回,还懂用 rerank、混合检索去补救长尾和边角 case。维度内容面试官在验证什么你是否理解召回为什么会掉、rerank/混合检索/多路召回怎么补,以及各自的代价先看哪个 RAG 重排章代表题型 "为什么要 rerank""向量召回和 BM25 怎么结合""重排模型怎么选""topK 怎么定" 项目里怎么体…

#求职#职业转型

面试题·RAG

多轮 RAG 如何理解“这个怎么申请”？

匹配正文：…“不再支持”“能否免除”“除了哪些情况”等表达时，可以把否定词、比较对象和限定条件单独抽出，与改写结果做一致性核对。只比较两句话的向量相似度，可能看不出方向已经反转，因为正反陈述往往共享大量词。改写器也不应把旧答案写进新 Query。上一轮模型回答“A 产品通常支持线上办理”，下一轮用户问“那纸质材料呢”，可补全为“A 产品线上办理是否需要纸质材料”，不能直接改成“A 产品线上办理不需要纸质材料吗”。前一句只恢复问题，后一句已经把未经当前证据确认的结论带入检索。因此，验收…

#RAG#生成与对话#多轮 RAG

面试题·RAG

对话历史太长怎么办？滑动窗口、摘要和长期记忆怎么分工？

匹配正文：…要包含完整作用域。如果缓存只按 Query 文本命中，“报销标准是什么”可能把 A 用户或 A 企业的历史上下文返回给 B 用户。向量索引采用共享集合时，需要可靠的元数据过滤；采用分区或独立集合时，也要考虑创建、迁移和删除成本。无论哪种方案，都必须有负向测试证明越界请求得不到内容。敏感信息还需要更严格的写入策略。不是所有姓名、联系方式、健康或财务信息都应该进入长期记忆。能不存就不存，必须存时再考虑加密、访问控制、最短保留期和审计。这里的目标不是让模型“更懂用户”，而是在明确…

#RAG#生成与对话#RAG 记忆模块

面试题·Agent

Text2SQL 面对上百张表，怎样选对 Schema 并处理业务歧义

匹配正文：…，表说明不清补元数据，关系漏失补 Schema Graph，澄清问题无效则改歧义策略。不要只把失败样本塞进 Few-shot，希望模型自己悟出数据库治理问题。 Text2SQL 歧义类型与处理方式指标、时间、实体、粒度和范围歧义需要不同的澄清与默认策略。常见的四种错误方案第一种是只做向量 TopK 表召回。它可能找对语义相似表，却漏掉中间 Join 表和关键外键。第二种是把历史 SQL 当唯一真相。历史查询可能使用旧口径、旧 Schema 或特定用户权限，只能作为带版…

#Agent#工具调用与安全#Text2SQL Schema 选择

面试题·RAG

RAG 评测集怎么构建？问题、答案和证据必须怎么标？

匹配正文：…同上下文长度，评分可能变化。领域术语、复杂否定和多段证据也可能让裁判模型误判。使用 LLM Judge 时，至少要固定评审提示和模型版本，保存它看到的问题、参考答案、证据和待评答案，并用一批人工标注样本校准。对高风险样本、模型分歧样本和分数边界样本，仍然需要人工复核。自动评审的价值是扩大覆盖和发现可疑项，不是让评测从此不需要人。怎么用评测集验证一次改动？先冻结知识库版本、问题集和正确证据。记录当前基线的完整配置，包括解析版本、Chunk 策略、Embedding、…

#RAG#评测与上线#RAG 评测集

面试题·RAG

Recall@K、MRR、Faithfulness，分别在评估 RAG 哪一层？

匹配正文：很多人做 RAG 评测时，会先算一个“答案准确率”。如果分数上涨，就认为系统变好了；如果分数下降，就继续换 Embedding、调 TopK 或改 Prompt。问题是，RAG 不是一次模型调用。用户问题要经过 Query 处理、检索、排序、上下文组装、答案生成和引用回跳。最终回答错了，可能是正确证据根本没有被找回，也可能是证据已经排在前面，生成模型却漏掉了限制条件。只看一个端到端分数，团队仍然不知道应该修哪一段。这也是项目面试里很容易被追问的一道题： Recall@K、…

#RAG#评测与上线#RAG 评估指标

面试题·RAG

一个可上线的 RAG 系统怎么拆？离线入库、在线问答和监控如何闭环？

匹配正文：…最常问的一类题：一个可上线的 RAG 系统应该怎样拆？离线入库、在线问答、数据存储、权限、降级和监控怎样形成闭环？只画“文档、向量库、大模型”三格图，通常接不住后续追问：一份文档只解析了一半，怎样恢复？用户权限应该在哪一层生效？向量服务或 Rerank 超时，系统怎样降级？线上答案错了，怎样定位证据在哪一步丢失？为什么离线入库和在线问答不能混在一起？离线入库追求的是完整、可恢复和可追踪。它要面对文件格式差异、OCR、表格、跨页内容、Chunk、Embeddi…

#RAG#评测与上线#RAG 系统设计

面试题·模型架构· 字节

RMSNorm vs LayerNorm：数值稳定性怎么比?

匹配口述回答：…和实现，比较训练 loss、梯度范数、吞吐、峰值显存和下游质量。结论通常是 RMSNorm 更简单、可能更高效，但是否更好仍由具体模型和 kernel 实测决定。面试中可以用一个简单变换说明差别：给 hidden vector 每个维度都加同一个常数，LayerNorm 的中心化会消掉这部分平移，RMSNorm 不会；把整条向量乘一个正比例，两者都会通过分母抵消大部分尺度变化。这个例子比只背公式更容易解释 re-centering 与 re-scaling 的边界。实现检…

#Layer Normalization#RMS Normalization#归一化技术

面试题·项目与经历· 美团

项目难题怎么定位与解决?

匹配正文：…MRR、NDCG 或人工偏好，生成层看答案正确性、证据支持率和拒答行为。方案必须对应证据。若文档根本没有答案，应补知识而非训练 embedding；若候选集中有答案但排序靠后，再检查查询改写、向量模型、负样本和重排；若证据正确但答案错误，则处理提示、上下文冲突、生成模型或校验。落地过程还要说明负责人、灰度范围、回滚条件与复测结果。所有数字都应能由实验记录、监控或评审材料核验。

#问题定位#工程实践#跨团队协作

面试题·评估· 百度

自动 vs 人工评价怎么选?

匹配口述回答：… penalty，常用于机器翻译；ROUGE 侧重与参考摘要的 n-gram 或最长公共子序列重合；BERTScore 用上下文 embedding 匹配参考与候选。它们都需要参考文本，但参考答案往往不完整，语义正确的改写可能被词面指标低估，embedding 指标也可能忽略事实矛盾。因此要按任务选择，并人工抽检。 reference-free 指标不需要标准答案，但仍需要证据。语言模型 perplexity 反映对给定文本的平均对数似然，不直接等于帮助性或事实性。毒性、PI…

#BLEU#ROUGE#BERTScore

面试题·评估· 字节

LLM 幻觉与安全风险怎么缓解?

匹配口述回答：…据两者的 log probability 差异等规则选择 token，目标是减少 amateur 也容易产生的退化文本；具体效果依模型配对和超参数，仍需事实评测。Self-Consistency 对多条推理路径投票也只能提高某些可验证推理任务的稳定性，多数一致并非外部证据。后处理可以把回答拆成断言，逐条检索、执行规则或交给专用验证器；有害内容、PII、恶意代码和越权请求使用分类器、策略引擎与人工升级。水印把统计信号嵌入生成 token，适合检测来源或治理传播，不会改变模型知…

#幻觉检测#内容安全#RLHF

面试题·项目与经历· 美团

Coding/GUI/Search 商业化先后

匹配正文：…要限定为补全、解释、测试草稿和受控修改等人机协作场景，不等于全自主软件工程已经成熟。开发流程已有IDE、版本控制、CI和代码评审，模型输出容易嵌入现有工作台。代码可编译只证明语法和依赖满足，单元测试通过也只覆盖已有断言。功能是否符合需求、隐藏边界是否正确、是否安全、性能与可维护性是否合格，仍需更完整的测试、静态分析、审查和真实运行。把代码对错说成完全明确，会低估测试缺口和规格歧义。 Search已有成熟检索基础设施，难点在来源时效、证据冲突、引用支持和开放域事实核验；GUI…

#Agent落地#代码生成#GUI自动化

面试题·项目与经历· 京东

面试反问怎么问才加分?

匹配正文：面试结束前，我会选两到三个与前面交流最相关的问题，而不是背一串技术名词。第一个可以问：团队现在最希望大模型解决的具体用户问题是什么，成功主要看哪些指标，当前基线和最大失败类型分别是什么？这个问题能判断项目是在做展示、内部提效还是承担真实业务结果。如果面试官提到知识库或Agent，我会继续问：线上错误通常来自召回、生成、工具执行还是数据更新，团队怎样收集失败样本并决定下一轮优先级？这比直接问是否使用某个向量库更有信息。若对方说召回问题多，再追问文档版本、权限、评测集和引用支持…

#面试技巧#职业规划#团队沟通

面试题·模型训练· 百度

Flow Matching 线性目标速度

匹配口述回答：…快发现一减 t 写成 t、端点方向写反或速度符号相反的问题。进入真实训练后，还要看端点配对怎样产生。独立配对、最优传输近似配对或模型重配对，会改变条件路径和学习难度，不能只盯同一个速度公式。评测时我会按时间分桶观察速度误差，并用相同 solver 和 NFE 比较生成质量。这样既能说明代数推导正确，也能说明它在边缘向量场和采样系统里怎样工作。若论文使用的不是固定端点直线，而是带时变方差的 Gaussian path，我会直接按该路径对时间求导，不把端点差公式硬套进去。回答…

#Flow Matching#扩散模型#概率流

面试题·推理优化· 美团

VecEnv 怎么加速强化学习训练?

匹配追问：…很轻量时，VecEnv是否还有收益，瓶颈会在哪里如何处理VecEnv中个别环境提前终止（done）的情况场景切入我们有个推荐模型训练，环境交互很慢，一个step要等几百毫秒。你平时怎么加速这个环节？有没有用过类似并行跑多个环境实例的方法？层层追问强化学习训练时，环境交互这块你是怎么处理的……如果环境本身跑得很慢，你考虑过并行吗……具体怎么把多个环境打包成一个batch来操作？直球架构 VecEnv向量化环境你熟悉吗？说说它的工作原理和优势，以及实际项目中怎么配置n…

#VecEnv#环境并行化#Stable-Baselines3

面试题·模型架构· 海尔

Self-Attention 怎么计算 QKV?

匹配追问：…度和空间复杂度是多少？如何优化？多头注意力中"多头"的设计动机是什么，各头学到什么不同？场景切入假设你在做一个电商搜索的排序模型，用户搜'苹果手机'，你希望模型能自动关注商品标题里的'苹果'和'手机'这两个词，同时忽略'原装正品'这种修饰。这种token之间的关联度，底层是怎么算出来的？层层追问 Transformer里每个token是怎么跟其他token交互的？……那它怎么知道该关注谁？这个关注的程度具体怎么量化？……对，从输入向量到得到权重分布，中间经过了哪些变换…

#Self-Attention#Transformer#注意力机制