匹配追问：…变化很快（如体育赛事），你的方法还适用吗，如何调整？切帧后的存储和加载如何进一步优化？你们实际业务中切帧和模型推理是如何流水线并行的？场景切入假设你在做短视频推荐，用户上传了一段30秒的舞蹈视频，直接抽所有帧成本太高，你会怎么设计切帧策略来平衡效率和信息？层层追问视频切帧你一般怎么处理？……如果相邻帧几乎一样，怎么避免冗余？……那如果突然有快动作或者镜头切换，怎么保证不丢关键信息？直球架构设计一个视频切帧模块，要求高效保留关键信息。你会用哪些技术手段？比如运动…

#视频预处理#关键帧提取#运动检测

面试题·RLHF与对齐· 美团

GSPO 序列级比率与裁剪

匹配口述回答：…序列级算法也难以修复。工程上要监控策略版本差、clip fraction 和采样吞吐，在新鲜度与设备利用率之间做取舍，而不是只增加并行 rollout。先说准 GSPO 的全称和定位解释组内相对优势比较 sequence-level 与 token-level ratio 说明稳定性收益和使用边界约3分钟序列级权重提升全局一致性，但细粒度步骤信用仍需额外 advantage 设计或 GSPO-token。面试官可能继续问：多轮或过程奖励任务中，GSPO-token…

#策略优化#离线强化学习#监督学习结合RL

面试题·模型架构· 京东

MLA 与 KV Cache 怎么用?

匹配口述回答：…理论字节数逐项对账。若只看到显存下降，却没有质量回归、最大并发和端到端延迟，就还不能证明这个 MLA 实现可上线。若模型采用张量并行，还要确认 latent 与 RoPE key 的分片轴、all-gather 和通信量；缓存元素少不代表通信自动更少。这些条件必须写进 benchmark 报告。先解释 KV Cache 为什么存在用每 token 维度比较 MHA、GQA 和 MQA 说明 MLA 的压缩 latent 与解耦 RoPE key 区分架构级压缩和事后有损…

← 上一页第 8 / 8 页

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

按学习路线查看教程、项目和面试题。

站内 RAG 在线实战

#MLA#KV Cache#注意力机制

面试题·模型架构· 字节

RMSNorm推理效率更高吗?

匹配口述回答：…heckpoint 换成 RMSNorm，参数与函数都改变，必须继续训练或重新验证，不能视为等价替换。多卡环境还要观察归一化与张量并行切分的交互，确认没有额外通信或精度回退。最终结论应同时包含训练 token 成本与服务阶段收益。比较 LN 与 RMSNorm 的统计公式说明稳定性证据的适用范围拆开归一化类型与残差位置准确描述 LLaMA 的选择用 kernel 和端到端指标评估效率 30秒速答 + 90秒主答 + 完整展开 RMSNorm 少做均值中心化，但模型级…

#LayerNorm#RMSNorm#归一化技术

面试题·Agent· 百度

Agent 架构怎么从零设计?

匹配口述回答：…t]]|CoT更可控。如果任务特别复杂，比如要跨系统查订单、库存、物流，我会启用 [[Tree-of-Thoughts]] 多路径并行探索，用模型自己打分剪枝。但ToT成本高，只有简单规划走不通时才触发，平时ReAct就够了。执行层就是工具调用。我采用OpenAI风格的[[Function Calling]]，工具用JSON Schema描述，关键不在模型能不能理解，而在工具描述本身就是Prompt工程。比如一个查订单的工具，你得写明“当用户提供订单号时调用，订单号格式是x…

#百度#Agent#AI Agent 架构设计

面试题·Agent· 蚂蚁

Agent 调用链路容错机制

匹配口述回答：…直接跳过或重新执行，而要查询状态或进入人工核对。降级目标不是强行返回成功，而是保留正确的业务语义。还有两个容易漏掉的边界。第一，并行工具调用共享同一总预算，不能给每个分支一份完整超时，否则扇出越多越容易拖垮下游；第二，模型可能在失败后换一种参数再次调用，看起来不是 HTTP 重试，实际上仍会重复产生副作用。因此执行层要按业务动作设置幂等键，并把模型级重规划也计入尝试次数。最后用 Trace 验证这些机制。节点日志至少包含 trace_id、耗时、错误类型、重试次数、幂等键…

#蚂蚁#Agent#Agent 容错设计

面试题·Agent· vivo

动态障碍物怎么检测与规避？

匹配口述回答：…集人群，但调参麻烦，需要滚动优化，更新周期100到200毫秒。实际落地我通常混合用：MPC做主规划器，处理预测轨迹的时空走廊，同时并行跑一个轻量的TEB做紧急避障，一旦碰撞时间小于阈值，直接切TEB。这里有个坑：预测的不确定性怎么用。如果预测协方差很大，说明障碍物行为不可预测，比如小孩子突然跑动，那规划层就要把障碍物膨胀半径加大，或者主动降速。另一个坑是延迟补偿。从传感器采集到执行器动作，中间有几十毫秒延迟，我会用预测状态来匹配实际执行时刻，否则机器人看到的是过去的位置。 …

#vivo#Agent#动态障碍物检测

面试题·Agent· 商汤科技

Agent 架构落地看哪些组件?

匹配口述回答：…务是否完成，还要看错误动作的严重度。工作流可能覆盖率低但稳定，Agent 可能覆盖更多长尾却增加不可预测错误；多 Agent 可能并行但状态同步更难。选型应根据风险加权任务成功、人工成本和故障恢复，而不是只看平均完成率。 Agent vs RAG本质区别核心架构组件智能数据分析助手项目落地风险与取舍约4分钟多Agent协作的协调成本和稳定性挑战，不是所有场景都适合。面试官可能会追问：多Agent通信机制怎么设计？或者什么时候该用单Agent什么时候该用多Agent…

#商汤科技#Agent#AI Agent 架构

面试题·Agent· 蚂蚁

Agent项目经验怎么突出亮点?

匹配口述回答：…变成模糊的大包大揽。技术选择也要绑定约束：流程稳定、分支有限时优先工作流；需要根据观察动态选工具时才引入 Agent；只有存在明确并行或专业分工收益时再考虑多 Agent。结果部分不能只报一个最终值。质量指标要说明任务完成的判定者，延迟要区分排队、模型和工具，人工量要说明转人工规则是否变化，成本要包含重试与失败请求。若几个模块同时上线，就用消融、灰度或分桶说明哪个动作可能产生贡献；做不到因果归因时，只能说同期相关，不能说“由我这项改动带来”。失败案例最好选一条能完整回放的…

#蚂蚁#AI Agent 项目经验#大模型业务落地

面试题·评估· 字节

RAG 文档检索选型

匹配口述回答：…写，但对编号、专有名词和精确数字可能不稳定；BM25 等稀疏检索正好相反，字面匹配强，却不擅长理解同义表达。两类查询都存在时，可以并行召回，再做融合。融合方式常见的是 RRF 和线性加权。RRF 只使用结果名次，不要求两路分数同尺度，通常更容易建立基线；线性加权能表达业务偏好，但前提是先校准分数，并通过评测集确定权重。不能脱离数据直接断言某一种一定更好。优化时应按链路定位问题。先检查文档解析和切块是否破坏语义，再看召回是否遗漏，之后才是融合和重排。Query Expans…

#字节#混合检索#RAG 文档检索选型

面试题·评估· 蚂蚁

Agent 项目踩坑与恢复

匹配口述回答：…限和失效风险。是否拆多 Agent 应看任务依赖和受控实验。若多个角色只是顺序执行固定步骤，拆分可能只增加上下文和同步成本；只有并行、独立专长或隔离权限带来可测收益时才值得。回答结尾应明确当前方案在哪些流量、权限和错误预算下成立，以及哪些约束变化会触发重新设计。最后，口述时先给出一句与真实经历一致的结论，再沿“场景、职责、决策、证据、边界”展开。任何无法对应记录的公司、数字、职责或因果关系都删除；如果面试官追问到本人没有负责的部分，明确说明团队分工，再讲自己能够验证的接口…

#蚂蚁#评估与监控#Agent 项目踩坑与恢复

面试题·模型微调· 字节

动态Prompt训练数据怎么构建?

匹配口述回答：…执行失败、归因分析、补充样本的迭代飞轮，而不是一次性标注完就完事。其实还有一个关键点我没展开，就是当动态Prompt中涉及多工具并行调用时，数据如何构造。比如一个任务需要同时查询库存和价格，模型怎么决定调用顺序？这直接影响到训练数据的标注策略。这个场景下状态空间会指数级增长，如何处理？所以总结下来，我更倾向于把动态Prompt的数据构建看作一个系统工程，核心是围绕状态机生成轨迹数据，按任务粒度定义标签，做好状态追踪，并用执行闭环持续迭代。做好了这些，模型才能真正适应动态环…

#字节#动态Prompt训练数据#Prompt微调数据构建

面试题·Prompt· 百度

AI Agent 三大组件原理

匹配口述回答：…ling标准化协议记忆分层：短期滑动窗口，长期向量检索落地风险：死循环、工具不可靠、记忆一致性约4分钟多Agent协作处理并行子任务，比单Agent串行更高效，但通信和一致性是难点。面试官可能会追问多Agent的通信协议、任务分解策略、以及如何避免Agent间的冲突。

#百度#Agent#AI Agent 设计

面试题·RAG· 字节

医疗法律RAG架构怎么搭？

匹配口述回答：…d Search，但它的前提是你的标注数据够好，不然权重调不准。我的做法是：先做多路召回，向量检索和 [[BM25]] 关键词检索并行，再加结构化查询。举个例子，法律场景里查《民法典》第几条，关键词检索比向量准得多；但医疗场景里查「罕见病用药」，语义相似度更重要。所以我会根据领域调权重。召回之后做 [[重排]]，用 [[Cross-Encoder]] 精排，这一步很关键，能把 Top-100 压到 Top-10，而且能过滤掉时效性不符的。比如法律条文，我会优先选现行有效的，失…

#字节#专业领域RAG#RAG 系统设计

面试题·RAG· 字节

医疗 RAG 索引如何保合规?

匹配口述回答：…处理这类结构化查询。第三级是[[知识图谱]]，用来做关联推理，比如查某个药的禁忌症，或者某个判例的引用链。三级索引一起上，检索时先并行召回，再用[[Rerank]]做融合排序。合规性保障是另一个大头。每个回答都必须强制溯源，附带原文片段、文档版本和页码，让用户能点回去核实。权限控制也要做，不同角色看到的内容可以不同，比如医生能看到完整临床指南，患者只能看到摘要。审计闭环必须完整，用户查询、检索片段、生成结果全链路日志留存，方便事后追溯。最后加个边界提示，明确说这是辅助参考，…

#字节#医疗RAG合规#RAG 数据处理流程

面试题·检索· 字节

RAG检索质量提升5法

匹配口述回答：…。HyDE 用假设文档帮助匹配表述差异较大的资料，但生成内容偏移也可能带来噪声，所以要和原查询基线比较，不能默认更好。检索中通常并行使用 BM25 与稠密向量召回。两路分数尺度不同时，RRF 是稳健的无监督基线；有可靠标注时，也可以使用分数归一化、线性融合或学习排序。随后只对有限候选使用 Cross-Encoder 重排。候选数没有通用的 Top-100 安全线，要由 Recall、nDCG、吞吐和延迟预算确定。检索后要做权限与元数据过滤、去重、证据片段抽取、上下文压缩和…

#字节#重排与优化#RAG 检索质量提升

面试题·检索· 字节

RAG Retriever 工作流程详解

匹配口述回答：…的答案文档，再拿这个文档去向量化检索，能大幅缓解查询和文档之间的语义鸿沟。另外我还会做查询扩展，比如同义词替换，或者拆成多个子问题并行检索，但扩展太多会引入噪声，得控制节奏。第二步是向量化。模型选型上，通用场景用 BGE 或 M3-Embedding 就够了，但如果是垂直领域比如金融合规，最好在领域语料上微调。这里有三个细节：一是截断长度，超了会丢信息；二是要不要加指令前缀，比如「Represent this sentence for retrieval」，加了能提升检索精…

#字节#重排与优化#RAG Retriever 工作流程

面试题·检索· 百度

RAG 技术实现流程怎么走?

匹配口述回答：…似度经常找不到，因为语义空间和字面匹配是两回事。所以我倾向做**[[混合检索]]**，把[[BM25]]关键词召回和向量召回两条路并行，再合并排序。这能明显提升召回率，尤其在客服退款、订单异常这类场景。在线检索流程里，我特别看重精排这一步。粗召回我一般拉100到200条，然后用[[Cross-Encoder]][[重排]]，只留前5到10条送进上下文。重排对最终答案质量影响非常大，它能把语义相关但不太匹配的文档压下去。但重排是计算密集的，延迟敏感场景下，我会考虑用[[Col…

#百度#文档切分与检索#RAG 实现流程

面试题·检索· 网易

BM25+向量+Cross-Encoder 怎么组合?

匹配口述回答：这套架构分三步：BM25 与向量检索并行召回，候选去重和排名融合，再用 Cross-Encoder 重排有限候选。 BM25 擅长专有名词、编号和必须字面命中的查询；向量召回擅长同义表达与语义近似。两路互补，但都可能漏召或误召。每路取多少候选要根据证据 Recall 曲线、语料规模和延迟预算确定，不能固定为各 Top-100，也不能宣称召回阶段绝不漏任何相关文档。融合时，RRF 只依赖排名，避免直接比较不同系统的原始分数，是稳健基线。若有可靠标注，也可以用归一化加权或学习排…

#网易有道#BM25向量Cross-Encoder#BM25 向量召回 Cross-Encoder

面试题·检索· 百度

向量召回原理与实现?

匹配口述回答：…召回率暴跌。所以我的做法是，先分析 query 类型，如果是实体类、精确匹配类，走关键词；如果是意图类、同义改写类，走向量。两条路并行，靠融合排序兜底。总结一下，我会把向量召回看成召回层的语义通道，它和关键词通道互补，不能互相替代。我更倾向用 HNSW 做主力索引，配合 IVF-PQ 压缩内存，再根据业务 query 分布动态调整混合比例。本质是语义检索，不是关键词匹配嵌入：BERT类模型把文本映射到向量空间相似度：归一化后内积等价于余弦，工程上选内积索引：HNSW…

#百度#向量召回#向量召回原理

面试题·检索· 字节

RAG 技术实现怎么落地?

匹配口述回答：…义好，但对精确匹配比如订单号、错误码很弱，所以落地时我一般会加上 [[BM25]] 做 [[Hybrid Search]]，两条路并行再合并结果。在线检索时，用户问题来了，先做查询改写，比如把“上个月的退款”扩展成“2025年3月的退款申请”，提升召回率。然后算相似度，取 Top-K，再用 [[Cross-Encoder]] 做 [[Rerank]]，把真正相关的排前面。最后组装成提示词，交给大模型生成答案，同时要求它引用来源。举个例子，客服系统里用户问“我买的东西降价了…

#字节#RAG应用场景#RAG 技术实现