匹配口述回答：…问题在不同场景下，检索到的知识可以完全不同。比如问'这个商品能退吗'，如果是普通商品，查售后规则；如果是生鲜，查特殊退换政策。这种动态适配靠检索实现，不需要为每个场景单独微调。还有长尾问题，像冷门商品的规格，模型参数里可能没有，但文档里写了，检索就能补全。举个例子，电商智能客服场景。用户问'满减优惠能叠加吗'，如果模型凭记忆回答，可能给出过时的政策。RAG会实时从知识库检索最新的满减规则文档，生成答案时附上引用。用户追问'那和店铺券呢'，再检索店铺券规则。整个过程完全动态，…

#淘天#事实准确性#RAG 减少幻觉

面试题·评估· 快手

LangChain 链式调用原理

匹配正文：…t Loader、Text Splitter Chains 固定流程编排 LLMChain、RetrievalQA Agents 动态决策执行 ReAct、Plan-and-Execute Memory 状态管理 ConversationBufferMemory Callbacks 可观测性日志、追踪、监控 2. 链式调用的关键：Runnable协议所有组件实现统一的Runnable接口，支持三种核心操作： invoke()：单输入单输出 batch()：批量并行 str…

#快手#评估与监控#Agent

面试题·评估· 快手

单 Agent 与多 Agent 选型

…KV Cache]]膨胀，频繁切换工具会降低专注度，而且没法并行。多Agent就反过来，适合复杂工作流，比如从调研到分析再到报告生成这种全流程，或者需要领域专家协作，像代码Agent加测试Agent再加评审Agent。核心优势是专业化，每个Agent专注单一能力，Prompt可以写得更精准；并行化，独立子任务同时跑，缩短总耗时；还有容错隔离，失败范围可控，支持局部重试。但代价不小，通信开销、编排复杂度、调试困难，这些是绕不开的。举个例子，电商直播运营助手。选品、定价、话术…

← 上一页第 7 / 7 页

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

匹配口述回答：

#快手#Agent#单 Agent 与多 Agent 选型

面试题·评估· 安克科技

RAG 问答金标构建

匹配口述回答：…要多跳推理或者要回答“不存在”。三层分开，避免调参时过拟合到测试数据上。先说问题怎么来。我倾向于混合策略，大概70%用 LLM 生成，20%从真实用户日志里挖，10%人工设计对抗样本。LLM生成效率高，但容易有[[幻觉]]，所以我会给一个严格的 prompt 模板，要求它基于给定文档出题，禁止脑补。真实日志最贴近业务，但噪声多，需要人工清洗。举个例子，在客服退款场景里，用户常问“为什么我的退款还没到账”，这种真实 query 直接拿来用就很有价值。人工设计则专门造一些刁钻的…

#安克科技#评估与监控#RAG 问答金标构建

面试题·评估· 得物

AI Agent 核心能力现状与差距

匹配口述回答：…，而且缺乏真正的经验学习。比如一个Agent今天处理了某个退款案例，明天遇到类似情况它不会自动复用昨天的经验，除非你显式把案例写进提示词或向量库里。说白了，现在的长期记忆更像是一个外部存储，而不是Agent自身认知的一部分。反思能力就更虚了。很多方案号称能做自我反思，但我观察下来，大部分是“伪反思”，模型只是生成一段自我批评的文本，比如“我错了，我应该先调用查询接口再调用退款接口”，但下次执行时它并不会真的修正策略，因为反思没有沉淀到行为层。真正有效的反思应该像[[Self…

#得物#Agent#AI Agent 核心能力

面试题·多模态· 字节

Agent 优势与局限怎么分析?

匹配口述回答：…坑在哪。我先说清楚边界：RAG 适合的是信息密集但流程固定的场景，比如企业 SOP 查询，你问它退货运费谁承担，它把政策文档拉出来生成回答就行。但 Agent 呢，它做的是从理解到规划到执行再到反思的闭环，说白了，它不满足于回答，它要替你把事办了。举个例子，客服场景里用户说“我买了两个手机，其中一个有划痕，我要退那个有问题的”，RAG 只能解释退货政策，但 Agent 能自己调订单 API 查出两个订单号，再调退货接口创建售后单，中间还可能发现一个订单已过退货期，它得动态调整…

#字节#Agent#Agent 优势与局限

面试题·Prompt

封闭标签分类如何约束解码?

匹配口述回答：…型的语义理解能力，又要严格控制输出范围，不能让它自由发挥。我一般会按可控性和成本，把方法分成四类来权衡。先说最直接的，就是直接在提示词里把类别列出来，让模型选。这个简单，但问题也很明显，格式不稳定，模型可能自己造个不在列表里的词，或者输出一堆废话。所以它只适合类别少、要求不高的场景，比如给用户评论打个「好评」「中评」「差评」这种。再一个是[[思维链]]，就是让模型先推理再给结论。这个好处是可解释性强，比如客服退款场景，你可以让模型先分析用户退款理由是否合理，再输出「同意」…

#Logit Bias#约束解码#封闭集合标签分类

面试题·RAG· 淘天

现代 RAG 架构怎么变?

匹配口述回答：这道题其实问的是[[RAG]]从早期简单拼接到现在深度融合的演进，本质是看我们怎么理解检索和生成之间的关系。早期做法就是典型的流水线，检索器用[[BM25]]或者[[TF-IDF]]这种[[稀疏检索]]，把文档拿回来，直接拼到prompt里扔给LLM。生成器是固定的，完全不参与检索过程。但现代RAG系统，比如Facebook 2020年那篇RAG论文，已经开始把检索器和生成器一起训练了。具体区别我分几个点讲。先说架构。传统的是两个独立系统串联，检索器是稀疏检索，生成器是LL…

#淘天#RAG端到端训练#现代 RAG 架构

面试题·推理优化· 京东

vLLM vs TensorRT-LLM 怎么选?

匹配口述回答：…。比较时固定模型、量化、上下文和并发，分别测 TTFT、TPOT、吞吐、尾延迟与内存。【90秒主答】 vLLM 的强项是面向在线生成的内存管理与调度。PagedAttention 把 KV Cache 按块管理，连续批处理在请求结束后补入新请求，配合张量并行和 OpenAI 兼容接口，适合动态长度、高并发的服务。实际支持取决于模型架构、attention 形式、量化格式和设备后端，看到“兼容 Transformers”不代表每个自定义算子都能走最优 kernel。 Tens…

#vLLM#TensorRT-LLM#推理引擎

面试题·RLHF与对齐· 阶跃星辰

TRL Agent 组件交互机制

匹配追问：KL散度系数如何设置和动态调整，过大或过小会有什么后果 reward hacking问题在工具调用场景中如何识别和缓解如果搜索引擎返回结果不稳定，如何设计reward保证训练的稳定性场景切入假设你要训练一个能调用搜索引擎的客服助手，用户问“帮我查下订单”，助手需要先生成搜索词，调用搜索，再看结果回答。如果要用TRL库做PPO训练，你觉得核心要设计哪些组件？每个组件怎么配合？层层追问用PPO训练一个能调用工具的Agent，你觉得整个训练流程需要哪些模块？……那模型除了…

#TRL#PPO#Agent

面试题·Agent· 美团

ReAct vs Plan-and-Execute 怎么选?

匹配口述回答：ReAct 根据当前状态选择动作，读取工具观察后再决定下一步，适合工具返回不可预测的任务。若把完整轨迹都塞回提示词，上下文会增长；但生产系统可以只保留结构化状态、验证事实和必要工具结果，因此增长方式由记忆策略决定。 Plan-and-Execute 先建立高层计划，再按子任务执行并在检查点重规划。它适合依赖清晰、可阶段验收或并行的任务，但计划可能过时，维护计划也有成本，所以不能保证调用数和 token 一定更少。错误恢复取决于系统机制。两类架构都需要幂等键、超时、重试上限、…

#美团#Agent#ReAct vs Plan-and-Execute

面试题·Agent· 得物

Agent 大模型优化三方向

匹配口述回答：…正去执行任务、调用工具、和环境交互的时候，现有的通用模型到底缺什么，以及怎么从模型本身去补。我理解核心思路是，不能指望纯对话模型靠提示词就变成[[Agent]]，需要在架构、训练、输出格式上做系统性优化。先说架构层面。最本质的改动是让模型原生支持结构化输出。通用模型输出自由文本，但Agent需要的是能被程序直接解析的指令，比如JSON格式的工具调用。我在实际场景中会这么做：在输出层加一个专门的JSON head，或者用类似Outlines库的解码策略，在生成时就约束格式。更…

#得物#Agent#Agent 大模型优化

面试题·评估· 字节

RAG 评估指标与迭代陷阱

匹配口述回答：…档，那就是召回不足。我会用[[混合检索]]，[[BM25]]加向量，再加[[重排]]，把关键词匹配和语义匹配结合起来。如果召回够但生成还是瞎编，那就强制引用，让模型必须标注来源，甚至把检索内容直接前置到prompt里。还有一个常见失败场景：用户问题太模糊，比如问“满减怎么算”，这时候我会做查询扩展，比如HyDE，先生成一个假设答案再拿去检索。落地时我特别关注一个前提：离线指标提升不一定等于线上好用。比如召回率高了，但引入的噪声文档反而让生成更不稳定。所以上线前我会建一个回归…

#字节#评估与监控#RAG 评估

面试题·评估· 快手

LangChain 关键组件与流程?

匹配口述回答：…流程中，超过30天的订单怎么处理？”这时候先用Retriever从文档库召回相关SOP片段，然后用Chain把这些片段和问题组装成Prompt，交给大模型生成答案。但如果用户问“我的订单昨天退款了，为什么还没到账？”，这就得Agent上场了：它先查订单状态API，再查退款规则，然后决定是回复“还在处理中”还是触发人工介入。这里有个坑，就是Memory的管理。如果对话轮数多，Buffer策略会爆token，Summary策略又可能丢失细节。我一般用混合策略：短期用Buffer…

#快手#评估与监控#Agent

面试题·检索· 淘天

Naive RAG vs Advanced RAG 区别?

匹配口述回答：… 是在明确 bad case 上增加处理。检索前可以做改写、扩展、分解或路由；检索中加入 BM25 与向量混合、元数据过滤和重排；生成前再做去重、压缩、冲突处理和引用组织。这里没有哪个模块默认该上。比如正确文档没进候选，先修覆盖和召回；候选已有答案但位置低，再考虑融合或重排；上下文正确而回答仍错，才检查 Prompt、生成模型或验证器。 Modular 或 Agentic RAG 把检索、工具、验证、重试与路由组成受控工作流，适合多步、多源和需要动态补证据的任务。代价是路径更…

#淘天#重排与优化#Naive RAG

面试题·Agent· 同花顺

Agent 开发技术栈怎么选?

匹配口述回答：…使用框架，哪些做了封装，哪些明确没有使用。只说生态丰富或开发快，不能证明适合生产。如果涉及模型训练，还要区分工具路由分类器、参数生成模型和通用对话模型。训练数据应说明采样窗口、脱敏、负样本、训练验证切分与泄漏检查；指标不能只报分类准确率，还要看错工具的风险、参数合法率和端到端任务成功率。若只是 Few-shot、检索工具描述或 Prompt 调优，应如实称为推理侧优化。线上部分我会用一条真实 trace 说明截止时间怎样向子调用传播，哪些错误允许重试，哪些必须立即失败，重…

#同花顺#Agent#Agent 技术栈