匹配正文：…NN（近似最近邻）算法快速召回Top-K相关块重排序优化：用Cross-Encoder等精排模型提升相关性（可选但重要） 3. 生成阶段上下文组装：将检索结果与用户问题拼接成Prompt 大模型生成：LLM基于"检索到的证据"生成回答，典型Prompt结构：基于以下参考资料回答问题： [检索内容1] [检索内容2] 问题：{用户提问} RAG解决的核心问题问题说明知识时效性大模型训练数据有截止日期，RAG可接入实时数据库幻觉问题生成有溯源依据，可标注参考来源…

#商汤科技#检索生成流程#RAG 技术流程

面试题·模型微调· 快手

Agent 系统怎么调优优化?

匹配正文：…M）：对中间推理步骤打分，解决稀疏奖励问题 DPO/RLHF：人类偏好标注"哪种工具选择更合理"，对齐复杂场景下的决策偏好 3. Prompt与系统层优化动态示例选择（Dynamic Few-shot）：根据用户意图检索相似的成功案例工具描述优化：用LLM自动生成工具文档，迭代测试哪个描述调用成功率最高业界优秀案例及技术特点应用核心特点 OpenAI GPTs/Assistant API Function Calling原生支持，结构化输出强制JSON schema…

#快手#Agent#Agent 调优

面试题·模型微调

LLM 标签约束解码

匹配正文：答案要点方案覆盖提示工程、解码约束、后处理、微调四个层面能区分不同方案的适用场景和优缺点提到实际工程中的组合策略理解约束解码的实现原理（如Logits Processor）整体思路这是一个可控生成问题，核心是让模型输出严格落在封闭集合内。我采用"分层防御"策略，从软约束到硬约束逐层加固。四层技术方案 1. 提示工程（软约束） prompt = """请将用户问题分类到以下标签之一：[退款, 换货, 投诉, 咨询, 其他] 只允许输出单个标签，不要解释。用户问题…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#约束解码#标签集合#LLM 标签约束解码

面试题·Prompt· 华为

思维链(CoT)什么时候用?

匹配正文：…具错误时可回溯到具体步骤定位问题作用机制与示例核心机制：将隐式推理显式化，通过"思考→行动→观察"的循环，利用自回归特性逐步生成中间状态。示例对比（数学应用题）：方式输入输出标准Prompt "小明有5个苹果，给了小红2个，又买了3个，现在有几个？" "6个"（可能错） CoT Prompt "让我们一步步思考：[问题]" "初始5个→给掉2个剩3个→再买3个→3+3=6个" 关键：中间步骤（5-2=3, 3+3=6）成为显式上下文，降低跳步错误概率。常用变…

#华为#思维链 CoT#Chain-of-Thought 使用场景

面试题·Prompt· 百度

AI Agent组件如何协同工作?

匹配口述回答：…个风险是 [[Hallucination]]，如果 Agent 对工具返回的结果过度解读，可能会编造不存在的功能，所以我会在系统 Prompt 里强调“只基于工具返回的事实回答，不要猜测”。说到这个，其实现在很多框架像 LangChain 已经封装好了这些组件，但我觉得它们有个共同问题：规划策略太死板。比如 ReAct 在复杂任务中容易产生冗余步骤。我更倾向自己实现一个轻量的规划器，用 [[Few-shot]] 示例来引导模型做更高效的分解。当然，这需要领域数据来构造示例，…

#百度#Agent#AI Agent 核心组件

面试题·Prompt· 字节

ReAct 架构原理与失败场景

匹配口述回答：…，但不需要展示或持久化隐藏 Chain-of-Thought。它和单次 Tool Use 的区别，是后续动作会根据前一步真实结果动态调整；和只生成推理文本的方式相比，ReAct 能把搜索、数据库和计算器等外部信息纳入状态。价值来自可验证观察，不是来自把 Thought 文本展示给用户。例如比较两地天气，系统先调用第一座城市的天气工具，保存结构化结果，再查询第二座城市，最后依据温度、降雨和风力生成建议。若工具返回空结果、参数错误或权限拒绝，状态机会选择重试、换工具、请求澄清…

#字节#百度#Agent

面试题·Prompt· 哔哩哔哩

CoT 思维链由哪些部分构成?

匹配口述回答：…归生成的，错误会沿着链传播，一步错可能步步错。所以实际落地时，我通常会配合 [[Self-Consistency]] 来兜底，就是生成多条推理路径，投票选最一致的答案，这样能缓解单条路径的偶然错误。说到适用边界，CoT不是万能的。它最适合多步推理任务，比如数学题、逻辑判断、代码生成。但如果是简单的事实问答，比如问巴黎是哪个国家的首都，加CoT反而可能想太多，导致错误。所以真正落地时，我会根据任务类型动态决定：对需要推理的场景用CoT，对简单场景直接给答案。再讲一个具体业务…

#b站#Chain-of-Thought 结构#CoT 组成部分

面试题·Prompt· 字节

AI Agent 核心特点与局限

匹配口述回答：…in-of-Verification]]那样，需要系统性突破。所以我对Agent的判断是：短期1-2年垂直场景深度落地，比如代码生成加执行闭环的企业工具；中期3-5年多智能体协作生态，Agent作为数字员工接受管理。但我更看重的是可靠性，没有这个，Agent永远只是玩具。这道题本质在问从静态模型到动态系统的跃迁核心特点：闭环反馈+四组件优势与局限：工具扩展vs错误累积落地场景与风险：自动化运维为例未来判断：可靠性是关键瓶颈约4分钟 Agent可靠性的关键瓶颈是从…

#字节#评估与监控#Agent

面试题·Prompt· 百度

Agent 性能优化：架构与推理陷阱

匹配口述回答：…略上，我一般用[[ReAct]]，因为Agent场景需要交替推理和行动。复杂任务我会加[[Chain-of-Thought]]显式生成中间步骤，但不是所有任务都要深度推理，简单查询走单步CoT，复杂规划才展开多步，这样能省大量token。自适应推理深度很重要，我会设一个推理预算上限，比如token数或调用次数，超出就降级返回当前最佳结果，防止死循环。举个例子，客服退款场景，用户说“订单异常”，Agent先ReAct查订单状态，如果发现是退款中，直接返回结果，不需要展开深度推理…

#百度#Agent#Agent 性能优化

面试题·RAG· 字节

豆包等产品多轮一致性挑战与方案?

匹配正文：…）显式存储用户画像、对话摘要状态跟踪对话状态表（DST）结构化跟踪实体、意图、约束条件检索增强 RAG检索历史相关片段动态召回相关上下文，非线性依赖训练优化多轮对话SFT + RLHF 针对性优化连贯性和一致性具体实现要点：摘要压缩：用轻量模型实时生成轮次摘要，替代原始历史一致性约束：在prompt中注入"系统指令"和"已确认事实"列表显式验证：关键决策前让模型自检"是否与之前回答冲突" 学习建议建议系统学习该知识点

#字节#多轮对话一致性#大模型多轮对话

面试题·RAG· 淘天

RAG 模型分类有哪些?

匹配正文：RAG 的三代演进架构 1. Naive RAG（基础架构）架构：离线建索引 → 向量检索 → 直接拼接Prompt → LLM生成核心特征：检索与生成硬耦合，一次检索即生成无反馈机制，检索错误直接传导到输出代表：早期DPR+GPT-3方案适用：事实性问答、内部文档查询等单跳、确定性场景 2. Advanced RAG（优化架构）架构：检索前（查询改写/扩展）→ 检索中（重排序/混合检索）→ 检索后（上下文压缩/摘要）→ 生成核心改进：查询优化：HyDE（假…

#淘天#RAG架构分类#RAG 分类

面试题·检索· 字节

专业领域RAG链路优化陷阱

匹配正文：…出"依据《XX法》第X条" 后处理校验：领域规则引擎过滤（如药物禁忌冲突检测）五、端到端优化评估体系：检索用Recall@K，生成用答案相关性和事实准确性（医疗用人工医生标注）迭代闭环：错误案例回流，持续微调Embedding和Reranker 学习建议建议先掌握RAG基础流程，再结合垂直领域特点学习文档分块、向量检索、重排序模型和提示工程，多参考医疗/法律类RAG实战案例。

#字节#重排与优化#RAG 链路优化

面试题·检索· 百度

RAG 工作原理与核心组件

匹配口述回答：…见过的东西？[[RAG]] 的思路很简单，用检索代替记忆。模型不需要记住所有知识，需要的时候去外部数据库里查，再把查到的信息塞进 Prompt 让它生成。这样好处很明显：知识更新快，可控，[[幻觉]]也能压下去。具体分三步走。先说离线索引，就是把文档切碎、转成向量存起来。这里有个前提：切分的粒度直接影响后面召回质量。切太粗，一块里面混着好几件事儿，检索容易带偏；切太细，上下文断了，模型看不懂。一般 chunk size 在 256 到 512 token，但真正落地时我会根…

#百度#RAG核心组件#RAG 工作原理

面试题·检索· 字节

领域 RAG 架构如何控幻觉?

匹配口述回答：…法律[[ColBERT]]，同时加权时效性和地域匹配。举个例子，用户问“北京地区工伤认定流程”，我会优先排北京的法规，新法在前。生成优化这块，核心是引用溯源和[[幻觉]]检测。我会在Prompt里强制要求引用格式，比如[《劳动法》第X条]，生成内容必须关联检索片段，用户能点击跳转原文。同时设置信度阈值，检索分数太低就拒答或转人工，避免胡编。幻觉检测用[[Faithfulness]]模型校验生成内容和检索片段的一致性，不一致就重新生成或提示用户。这里有个坑：不要盲目相信模型生…

#字节#专业领域RAG#领域 RAG 架构

面试题·检索· 商汤科技

RAG 两阶段架构：模块与数据流

匹配口述回答：…型精排，把最相关的文档排到前面。重排之后就是上下文融合，把检索到的文档按相关性排序，截断到LLM能接受的token长度，然后组装成Prompt。最后交给LLM生成答案。这里要特别注意拒答场景，如果检索到的文档跟Query完全不相关，LLM应该明确说“没有找到相关信息”，而不是硬编一个答案。说到边界划分，RAG适合场景是知识库频繁更新、需要引用外部证据的，比如企业内部的SOP文档或者合规政策；而微调适合让模型学会固定的格式或风格，比如客服话术模板。检索层面，关键词搜索适合精确…

#商汤科技#两阶段文档处理#RAG 系统架构

面试题·检索· 字节

RAG 工作流怎么应对时效衰减?

匹配正文：…ing编码 → 向量相似度检索（Top-K召回）→ 重排序（可选）核心：将非结构化知识转为语义向量，实现语义匹配而非关键词匹配生成阶段检索结果作为Context → 与Query拼接 → LLM生成回答关键：Prompt设计需明确引用规范，避免幻觉时效性衰减的应对策略数据层：分层知识管理热数据（24h内）：内存缓存 + 实时索引，延迟秒级温数据（近期）：高频更新周期，小时级增量索引冷数据（历史）：低频全量重建，天级或周级索引层：多路召回融合时间戳过滤：检…

#字节#时间衰减检索#RAG 工作流程

面试题·检索· 快手

LLM怎么融入推荐系统？特征提取与召回

匹配正文：…找到传统模型做不了或做不好的环节，用LLM的语义理解能力补位。三阶段技术路径 1. 特征提取层（最成熟）物品语义特征：用LLM生成item的文本摘要、标签、情感极性，替代人工标注用户兴趣画像：将用户行为序列（点击、评论）输入LLM，抽取动态兴趣标签交叉特征生成：LLM理解item A和item B的语义关联，生成隐式交叉特征快手实践：用LLM解析短视频标题/ASR文本，生成结构化标签，喂给双塔模型 2. 召回层（探索中）方案原理挑战语义向量召回 Item→L…

#快手#LLM推荐系统#LLM 推荐系统

面试题·RLHF与对齐· 京东

PPO vs DPO vs GRPO 怎么选?

匹配正文：…cy KL 逻辑上有 policy、reference、reward、value 等角色，但不要求四个独立骨干 DPO 固定的 (prompt, chosen, rejected) 偏好对直接优化策略相对 reference policy 的偏好概率无独立 RM、critic 和在线 rollout；依赖偏好对覆盖与质量 GRPO 每个 prompt 从当前/旧策略采样一组回答并逐个打分用组内奖励的相对值构造 advantage，再做 clipped policy up…

#RLHF#PPO#DPO

面试题·模型训练· 海尔

LoRA 低秩分解 vs 全量微调怎么选?

匹配正文：…域偏移很大或数据复杂时会有容量瓶颈；rank提高会增加参数和显存，却不一定单调提高泛化。风格迁移并非LoRA天然不适用，事实上许多生成和语言适配都能学习风格；是否适合要看基座是否已有相关能力、样本覆盖、是否还需新增知识以及质量评测。多适配器服务还要考虑合并、切换、组合冲突和基座版本绑定。工程验证落地先列出模型配置和所有target modules，用脚本逐层求和并与框架报告的trainable params核对。固定数据与token预算，比较r为8、16、32、64以及Q…

#LoRA#参数高效微调#低秩分解

面试题·Agent· 美团

多智能体系统核心技术难点

匹配正文：…要点能清晰区分集中式、分布式、混合式架构的适用场景能分析通信开销与一致性的 trade-off 能说明数据构造中人工标注与自动生成的平衡策略能解释性能提升来自并行化、专业化分工还是涌现能力能结合具体业务场景（如美团外卖调度）阐述技术选型核心技术难点通信与协调智能体间信息共享的带宽瓶颈：状态空间爆炸，需设计紧凑的通信协议（如意图向量而非原始观测）共识达成：分布式决策下的冲突消解，常用拍卖算法、合同网协议或基于LLM的协商任务分解与分配动态任务图的构建：子任务…

#美团#Agent#多智能体系统

面试题·Agent· 字节

Agent 架构的取舍与适用条件

匹配正文：…Agent的核心优势优势说明任务分解将复杂目标拆解为可执行的子步骤，如"分析竞品"→"搜索→整理→对比→输出" 工具调用动态选择外部工具（搜索、代码执行、数据库），突破模型参数限制动态决策根据中间结果调整策略，而非固定流程可解释性思考链（CoT）和动作轨迹可追溯，便于调试二、主要局限性延迟高：多轮LLM调用+工具执行，RT常达秒级甚至10s+ 错误累积：单步错误会级联放大，"一步错步步错" 系统复杂：状态管理、工具注册、异常处理工程量大成本不可控：To…

#字节#Agent#Agent 架构

面试题·Agent· 蚂蚁

Agent 工具调用失败怎么处理?

匹配正文：…ct循环中作为新上下文示例："搜索工具超时，已切换至备用API，获取结果：..." 长期（跨会话）：工具失败日志入库，用于：动态调整工具优先级（失败率高的降权）微调或Prompt优化（常见错误模式→few-shot示例）四、状态机驱动的规划调整 Planning → ToolCall ──失败──┬─→ Retry ──成功→ Resume ├─→ Switch ──成功→ Resume └─→ Fail ──→ Replan/Abort 关键：由on_tool_f…

#蚂蚁#Agent#Agent 工具调用失败

面试题·Agent· 高德

多 Agent 协作复杂度

匹配正文：…优化并行效率串行处理，耗时线性增长独立子任务并行执行，显著缩短总耗时容错与鲁棒单点失败导致全链崩溃某Agent失效时可动态重分配或降级处理可扩展性功能膨胀导致prompt臃肿新增能力只需接入新Agent，系统模块化演进引入的关键复杂性通信层面协议设计：Agent间需标准化消息格式（如JSON Schema）、定义调用语义（同步/异步）信息过载：N个Agent两两通信复杂度O(N²)，需引入消息总线或层级路由协调层面任务分配：动态负载均衡 vs 静…

#高德#Agent#多 Agent 协作复杂度

面试题·评估· 高德

高并发 Agent 延迟卡在哪?

匹配口述回答：…能力时，队列会迅速增长。入口应有并发上限、优先级、截止时间和拒绝策略，下游将剩余时间继续传递，避免父请求已超时而子任务仍消耗资源。动态批处理也要限制等待窗口，防止为吞吐牺牲交互请求。缓存必须包含正确的隔离维度。检索结果通常依赖 query、语料版本、embedding、过滤条件和租户权限；生成缓存还依赖模型、Prompt、上下文与安全策略。漏掉任一维度都可能返回过期或越权答案。KV Cache 是请求级计算状态，也要考虑不同会话之间的隔离与释放。压测不能只用等长的随机请求…

#高德#Agent#Agent 系统延迟优化