匹配追问：…ey和Value？……那如果序列很长，比如几十万token，显存怎么扛得住？……有没有办法在不损失太多质量的前提下，把缓存降到一个向量级别？直球架构解释一下MLA的原理，它和标准MHA在KV缓存上有什么区别？再结合KV Cache说一下MLA为什么能节省显存，以及它在大模型长上下文推理中的优化意义。

#MLA#KV Cache#注意力机制

面试题·模型架构· 字节

匹配口述回答：…架构使用 Pre-Norm RMSNorm。训练稳定性和推理收益要按模型、精度、kernel 与负载实测。【90秒主答】对隐藏向量 x，LayerNorm 先计算特征维均值 μ 和方差，再输出 gamma 乘 (x-μ) 除以标准差，加 beta。RMSNorm 不做 x-μ，只用均方根 sqrt(mean(x²)+epsilon) 归一化，再乘可学习 scale。两者都不依赖 batch 统计，适合变长序列和自回归模型。RMSNorm 少了均值归约与中心化，但完整 Tr…

#LayerNorm#RMSNorm#归一化技术

面试题·Agent· 高德

Tool Calling 参数格式怎么保?

匹配口述回答：…段组合策略与落地风险约4分钟约束解码与思维链结合，在规划阶段预判参数合法性面试官可能会追问具体怎么结合，比如在 CoT 中嵌入结构化约束，或者如何平衡规划与生成的效率。

← 上一页第 23 / 24 页下一页 →

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#高德#Tool Calling 参数格式#约束解码

面试题·Agent· 蚂蚁

多轮对话上下文状态管理机制

匹配口述回答：… 与生成版本，方便失效和回查。保留期、TTL、归档、删除与加密由业务和合规决定，不能固定成三十分钟、两小时，也不默认把所有摘要永久向量化。组装 prompt 时先为系统指令、工具 Schema 和输出预留预算，再依次放入安全约束、当前任务状态、未完成工具结果、用户确认事实、最近对话和历史摘要。超预算时先移除低相关原文，再压缩较早内容；金额、权限、订单状态等关键字段要回查权威数据，不能只相信摘要。分布式更新使用版本号和 CAS，冲突时重新读取合并，或按 session 建队…

#蚂蚁#Agent#多轮对话上下文管理

面试题·Agent· 高德

旅行Agent怎么拆解任务?

匹配口述回答：…滚机制。本质问的是多Agent拆解与动态知识融合三层Agent架构：需求解析、行程编排、验证优化 RAG增强：静态库+动态库，嵌入ReAct推理链状态管理与回环迭代落地风险与取舍约4分钟用户临时变更时，用Tree-of-Thoughts做局部重规划，只替换受影响时间段，但需准确识别影响范围。面试官可能会追问局部重规划的具体实现细节，比如怎么识别影响范围、如何保证重规划后的行程整体一致性。

#高德#Agent#旅行Agent

面试题·Agent· 蚂蚁

模糊意图怎么补全?

匹配口述回答：…]识别文字，再结合RAG解析。这里有个坑，OCR可能出错，比如把数字“1”识别成“l”，所以RAG检索时要容忍拼写错误，或者用[[Embedding]]相似度匹配。这个方向我还在探索，比如怎么把OCR置信度和RAG检索分数联合起来做决策。所以整体上，我更倾向于把意图补全看作一个动态决策过程，不是填完槽位就结束，而是每轮根据状态、置信度、风险来权衡。如果让我取舍，我会优先保证安全和准确，宁可多问一轮，也不替用户做决定。一句话定位：本质是模糊意图下的决策与补全 DST加RAG…

#蚂蚁#Agent#Agent意图补全

面试题·Agent· 字节

工具集设计最佳实践?

匹配口述回答：…LM也容易选错。这时候就需要引入工具检索机制，先根据用户问题检索出最相关的几个工具，再让LLM选。这个检索怎么做，是关键词匹配还是向量相似度，或者混合，就值得深入讨论了。所以整体上，我更倾向把工具集设计看作一个持续迭代的过程，从粒度、schema、错误处理到扩展性，每一环都要根据实际业务场景和数据反馈来调整，没有银弹。一句话定位：工具集设计本质是LLM与外部世界的接口规范核心原则：单一职责与schema设计是关键落地风险：错误反馈与安全隔离扩展性：动态注册与版本管理…

#字节#Agent#Agent 工具集设计

面试题·Agent· 字节

AutoGen vs LangGraph 怎么选?

匹配口述回答：…适用场景与落地风险工程师姿态的判断收尾约4分钟实际落地常采用混合架构，将AutoGen的对话作为LangGraph的一个节点嵌入。面试官可能会追问混合架构的具体实现方式、状态如何同步、以及如何保证对话节点的结果可审计。

#字节#百度#Agent

面试题·Agent· 美团

Agent工具接口与错误处理

匹配口述回答：…由降低错误率，但会增加延迟和决策跳数。面试官可能会追问分层路由的具体实现，以及如何权衡延迟和准确率，或者问有没有其他方案（比如用向量检索匹配工具描述）。

#美团#Agent#Agent 工具设计

面试题·文档处理· 字节

RAG 长文档怎么切块?

匹配口述回答：…档结构要清晰。如果是一份没有标题、没有分段、格式混乱的[[OCR]]扫描件，语义切分效果会大打折扣。而且块大小不均匀，对后续的[[Embedding]]和检索延迟有影响。所以真正落地的时候，我倾向于把两者结合起来。一个很实用的做法是多粒度设计，也叫Parent-Child结构。较小块负责精准命中，较大父块负责补回生成上下文；两者的具体长度都作为候选变量，由文档结构、模型窗口和同一评测集决定。通过元数据把小块和大块关联起来，这样既保证了召回率，又给了模型足够的上下文。举个例子…

#字节#文档处理#RAG 文本切块

面试题·评估· 科大讯飞

RAG 解决了 LLM 哪些局限?

匹配口述回答：…Chunk策略，比如用语义切分而不是固定字数，或者用[[Parent Document]]保留上下文层级。另外，检索本身也不能只靠向量相似度，我通常会把[[Hybrid Search]]，就是向量加[[BM25]]关键词，结合起来，再经过[[Rerank]]重排，才能把最相关的那几段送到模型面前。再一个，RAG的评估也是个头疼事。你不能只看模型回答得顺不顺，还得看它有没有忠实于检索到的文档，有没有忽略关键信息。我倾向用[[RAGAS]]这类框架做自动化评估，但最终还是得人工…

#科大讯飞#阿里#RAG 架构

面试题·评估· 美团

LLM 幻觉治理方法对比

匹配口述回答：…型自己又没能力做逻辑仲裁。那落地的时候，RAG 最大的风险其实不在生成，而在检索。检索质量决定了 RAG 的上限。如果你用简单的向量检索，召回率可能很高但精度差，混进一堆噪声，模型反而更容易被带偏。所以我会在检索阶段做 [[Hybrid Search]]，把关键词和向量结合起来，再加上 [[Rerank]] 把最相关的文档排到前面。而且上线后我会特别关注一个失败场景：当检索结果为空时，模型会退化成纯生成，那幻觉率会飙升。我的做法是加一个拒答逻辑，如果最高分文档的相关度低于某…

#美团#幻觉治理#LLM 幻觉治理方法对比

面试题·评估· 京东

RAG vs RLHF 幻觉治理

匹配口述回答：… RAG，它的核心思路是开卷考试。模型生成前，我先从外部知识库检索相关文档，比如用 [[Hybrid Search]] 把关键词和向量检索结合起来，然后把文档拼到 prompt 里，告诉模型“你就按这些材料回答”。这样给模型提供了可追溯证据，但提示不是硬约束，模型仍可能误读资料或编造。这在客服场景特别典型，比如用户问退款政策，我检索到最新的满减规则文档，模型应基于文档回答，仍需检查退款比例与引用是否受证据支持。但 RAG 有个前提：检索质量必须高。如果检索出来的文档跟问题不相…

#京东#RAG 与 RLHF#RAG vs RLHF 幻觉治理

面试题·评估· 哔哩哔哩

粗排模型评估指标与陷阱

匹配口述回答：…验设计要点：分层、长周期、常见坑工程师取舍：更关注精排命中率和效率约4分钟粗排特征设计如何平衡效率与一致性，比如是否采用共享embedding或蒸馏精排特征。面试官可能会追问粗排特征的具体选择、蒸馏方法或特征对齐技巧。

#哔哩哔哩#评估与监控#粗排模型评估

面试题·评估· 阿里

主流Agent框架优缺点与场景怎么选?

匹配口述回答：…快速验证想法，真要上线，你得把它当参考实现，自己重写精简版。再来说LlamaIndex。它的核心是Index，各种索引结构，比如向量、树、关键词、图。它天然是为[[RAG]]设计的，Query Engine封装了检索加合成的标准流程。所以如果你要做企业知识库问答，或者结构化数据查询，LlamaIndex非常顺手。它的检索策略很丰富，RAG效果容易调优，而且它和LangChain可以互操作，通过一个工具包装就能把LlamaIndex的检索能力当工具给LangChain用。但…

#阿里云#评估与监控#Agent

面试题·评估· 快手

LangChain 链式调用原理

匹配口述回答：…名，比如从ChatOpenAI换成HuggingFacePipeline，代码主体不用动。再一个是检索层，它把文档加载、切分、[[向量化]]、存储这一套串起来，[[RAG]] 场景下最常用。然后是链，它定义了一个固定流程，比如先查知识库再问模型，或者先总结再翻译。[[Agent]]层更灵活，它会根据用户输入动态决定调哪个工具，执行完再观察结果，循环直到给出答案。内存层管理对话历史，回调层负责日志和追踪。链式调用的核心是Runnable协议，所有组件都实现了invoke、ba…

#快手#评估与监控#Agent

面试题·评估· 商汤科技

AI Agent 核心理解与未来趋势

匹配口述回答：…觉得别死磕论文里的定义。规划不只是任务分解，更重要的是子目标之间的依赖和冲突处理；记忆分短期和长期，短期就是上下文窗口，长期靠[[向量库]]或者[[知识图谱]]；工具是Agent的双手，比如调API、执行代码、甚至操作UI；行动就是执行并观察反馈。主流范式像[[ReAct]]是推理和行动交错，适合走一步看一步的任务；Plan-and-Execute是先规划再执行，适合流程明确的任务。不过说实话，真正落地常常是混着用的，比如客服场景，简单问题直接ReAct，复杂流程先规划再逐步…

#商汤科技#评估与监控#AI Agent 理解

面试题·评估· 百度

Reflection 和 Memory 怎么协同?

匹配口述回答：…缺一不可。我更倾向于在工程实现上，先用轻量级的反思机制，比如简单的自我对话，配上结构化的记忆存储，快速验证效果，再逐步引入更复杂的向量检索和知识图谱。本质是让智能体学会自我修正和知识沉淀反思机制：自我评估与迭代优化记忆机制：分层存储与检索两者协同：反思驱动记忆更新，记忆支撑反思质量落地风险与工程取舍约4分钟反思和记忆的协同本质是在探索和利用之间做平衡，记忆里只有失败案例会导致Agent过于保守。面试官可能会追问如何平衡探索与利用，或者如何设计记忆的写入策略来避…

#百度#Agent#Multi-Agent System

面试题·评估· 字节

RAG 文档检索选型

匹配口述回答：…回根本没有召回的文档。切块与元数据也是检索方案的一部分。标题、章节、表格位置、文档版本和权限标签如果在解析时丢失，后面换更强的 Embedding 也补不回来。多租户系统尤其要说明权限过滤发生在召回前还是召回后：召回后再过滤可能造成候选不足，也可能让不应访问的文档进入缓存或日志。增量更新还要验证旧向量删除、索引切换和查询缓存是否使用同一文档版本。评测也要分层。召回阶段可以看 Recall@K，排序阶段根据单答案或多证据场景选择 MRR、NDCG，同时按专有名词、长问题、模…

#字节#混合检索#RAG 文档检索选型

面试题·评估· 淘天

RAG 评估：检索、生成与端到端指标

匹配口述回答：…ision考虑相关项的排序位置。以v0.1.21的Answer Correctness为例，它组合事实正确性与语义相似度，不是只算embedding相似度，需固定版本。但这里有个前提：裁判LLM本身要靠谱。如果裁判模型能力不够，它可能分不清哪些是忠实哪些是编的。所以我会先用一批人工标注的测试集校准裁判的准确率，按业务错误类型、标注一致性与误判成本决定是否换模型或调整prompt，不预设通用90%门槛。说到这，其实还有一个更隐蔽的问题：RAGAS的Context Precis…

#淘天#评估与监控#RAG 线上效果评估

面试题·评估· 安克科技

Agent/RAG 评估指标与挑战

匹配口述回答：…个客服退款系统，用户问“我订单超时了，怎么退款”，如果检索没召回退款流程文档，后面生成再强也没用。所以检索层我通常会同时用关键词和向量两种方式，也就是 [[Hybrid Search]]，因为光靠语义可能漏掉精确匹配的订单号或错误码。这里有个前提：K 值不能设太大，否则延迟会暴涨。如果系统要求 200 毫秒内响应，K 设到 10 可能就超了，得在召回率和延迟之间找平衡。再讲生成层。这一步评估的核心是 [[Faithfulness]]，也就是生成内容有没有忠实于检索到的文档。…

#安克科技#评估与监控#Agent

面试题·评估· 美团

Agent 功能模块怎么分工?

匹配口述回答：…ent 会基于错误信息做决策，反而加剧幻觉。所以前提是检索系统本身要可靠，比如用 [[Hybrid Search]] 结合关键词和向量，再加一层 [[Rerank]] 过滤低分结果。再说 Coding。这个模块赋予了 Agent 动手能力，把自然语言需求转成可执行代码。输入是任务描述和上下文，输出是代码片段和执行结果。比如用户说“帮我分析一下这个 CSV 文件，找出销售额最高的月份”，Agent 就可以生成 Python 脚本，运行后得到结果。但这里有个常见失败场景：生成的…

#美团#评估与监控#Agent