匹配正文：…5）混合重排序（Rerank）：Cross-Encoder模型精排，提升相关性上下文组装：检索结果去重、截断、按相关性排序注入Prompt 三、核心技术要点分块策略：按语义边界切分，避免切断关键信息；重叠窗口保持上下文连贯检索精度：多路召回（向量+关键词）+ Rerank，解决语义漂移问题生成控制：限制LLM仅基于检索内容回答，降低幻觉；引用溯源增强可信度四、演进方向阶段特点 Naive RAG 基础检索+生成，容易检索噪声 Advanced RAG 加入查询…

#高德#RAG数据流#RAG 工作流程

面试题·检索· 字节

RAG 核心实现原理是什么?

匹配正文：…核心挑战（检索精度、上下文长度、幻觉控制）核心原理 RAG的本质是外挂知识库：将大模型无法预训练到的私有/实时数据，通过检索方式动态注入上下文，解决知识截止和幻觉问题。三阶段流程：索引(Indexing)：文档→切片→Embedding→入库检索(Retrieval)：Query向量化→相似度搜索→Top-K召回生成(Generation)：检索结果+原始Query拼接→LLM生成答案关键组件组件核心作用选型要点文档处理 PDF/Word解析、语义切片按…

#字节#RAG实现原理#RAG 实现原理

面试题·检索· 字节

专业领域RAG数据与检索优化？

匹配正文：…码器做精排，领域数据微调（如bge-reranker）引入用户反馈信号（点击、停留时长）做在线学习三、生成改进层上下文工程动态窗口：根据问题复杂度选择top-k，复杂问题用递归检索扩展上下文引用溯源：生成时强制标注来源chunk_id，支持答案验证生成策略领域Prompt模板：定义输出格式（如法律场景的法条引用格式）不确定性处理：检索置信度低时触发"需补充信息"话术，而非幻觉生成四、评估与迭代离线：Recall@K、答案相关性（LLM-as-judge） …

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#字节#领域RAG架构#RAG 系统架构

面试题·检索· 字节

RAG 架构：检索到生成全链路

匹配正文：…排Top-K，提升相关性上下文组装按相关性排序拼接chunk，控制总长度（通常占LLM上下文30%-50%） LLM生成构造Prompt："基于以下信息回答问题：[context]\n问题：[query]" 四、关键优化点混合检索：稠密向量+稀疏向量+倒排索引，兼顾语义和精确匹配检索缓存：高频Query直接走缓存，降低延迟多路召回融合：不同检索策略结果用RRF（Reciprocal Rank Fusion）合并动态分块：根据Query意图调整chunk粒度（细粒…

#字节#RAG组件设计#RAG 系统架构

面试题·检索· 美团

RAG 架构怎么搭?

匹配正文：…（Rerank）：Cross-Encoder精排，过滤低相关结果 3. 生成阶段上下文组装：按相关性排序，拼接检索文档为上下文 Prompt设计：明确区分"已知信息"和"用户问题"，约束模型基于检索内容回答生成控制：设置temperature、限制max_tokens，必要时加引用标注检索器与生成器的协同机制协同点具体做法信息注入检索结果直接拼入Prompt的system/user消息中动态截断按token预算动态选择能容纳的最相关文档数置信度过滤 Rer…

#美团#检索器生成器协同#RAG 架构

面试题·检索· 美团

RAG 系统有哪些常见陷阱?

匹配正文：…二、上下文处理窗口管理检索结果去重：MMR算法或语义去重避免重复段落相关性过滤：设阈值剔除低分chunk，宁可少也不要噪声动态窗口：根据问题复杂度调整检索数量（简单问题3-5条，复杂问题10条+）结构化组织【来源1】xxx.txt 内容：... 【来源2】yyy.pdf 内容：... 显式标注来源，方便生成阶段引用和溯源三、生成效果 Prompt设计明确指令："仅基于以下材料回答，不知道就说不知道" 加入CoT引导："先分析材料，再给出结论" 幻觉抑制要求模…

#美团#RAG常见陷阱#RAG 系统陷阱

面试题·检索· 字节

RAG 工作流怎么应对时效衰减?

匹配正文：…识转为语义向量，实现语义匹配而非关键词匹配生成阶段检索结果作为Context → 与Query拼接 → LLM生成回答关键：Prompt设计需明确引用规范，避免幻觉时效性衰减的应对策略数据层：分层知识管理热数据（24h内）：内存缓存 + 实时索引，延迟秒级温数据（近期）：高频更新周期，小时级增量索引冷数据（历史）：低频全量重建，天级或周级索引层：多路召回融合时间戳过滤：检索时优先召回近期文档，或按时间加权打分多版本共存：同一实体保留历史快照，检索时返回最…

#字节#时间衰减检索#RAG 工作流程

面试题·检索· 快手

LLM怎么融入推荐系统？特征提取与召回

匹配正文：…语义特征：用LLM生成item的文本摘要、标签、情感极性，替代人工标注用户兴趣画像：将用户行为序列（点击、评论）输入LLM，抽取动态兴趣标签交叉特征生成：LLM理解item A和item B的语义关联，生成隐式交叉特征快手实践：用LLM解析短视频标题/ASR文本，生成结构化标签，喂给双塔模型 2. 召回层（探索中）方案原理挑战语义向量召回 Item→LLM Embedding→向量库推理成本高，需离线预计算生成式召回 LLM直接生成候选item ID或描述 …

#快手#LLM推荐系统#LLM 推荐系统

面试题·检索· 字节

RAG 技术实现怎么落地?

匹配正文：…Rerank）：用Cross-Encoder精排，过滤低质片段 3. 生成阶段上下文组装：检索结果 + 用户Query → 构造Prompt 大模型生成：基于检索上下文回答，可引用来源典型应用场景场景说明企业知识问答内部文档、规章制度，解决大模型不知道私域知识的问题客服系统基于产品手册实时检索，避免幻觉，答案可溯源研报/法律分析长文档摘要+精准定位原文，处理超出上下文长度的材料核心优势 vs 局限优势知识实时更新：不用重新训练模型，增量更新知识库即可…

#字节#RAG应用场景#RAG 技术实现

面试题·推理优化· 京东

vLLM vs TensorRT-LLM 怎么选?

匹配正文：…PU 混合支持远不止 Llama，但具体算子、模态与量化需查模型列表框架不能脱离模型和硬件排名。应固定 checkpoint、prompt/output 长度、dtype/量化、并发和质量门槛，分别测冷启动、TTFT、TPOT、吞吐、P95/P99、峰值内存与能耗。任何“固定 50ms”都缺少模型、batch、上下文与硬件前提。

#vLLM#TensorRT-LLM#推理引擎

面试题·模型训练· 海尔

LoRA 低秩分解 vs 全量微调怎么选?

匹配正文：…lpha、dtype和权重版本匹配，否则小配置差异也会让线上结果变化。如果多个任务共用同一基座，还要比较单独适配器、合并适配器和动态加载的质量与延迟，并明确适配器不能跨不兼容的基座版本直接复用。图解 LoRA 低秩分解 vs 全量微调怎么选?图解

#LoRA#参数高效微调#低秩分解

面试题·推理优化· 字节

KV-Cache 空间复杂度怎么算?

匹配口述回答：…少KV头数。第二类是KV量化，用更少bit存储，但要评估反量化开销和长上下文质量。第三类是PagedAttention，它按块管理动态请求，主要解决预留和碎片问题，提高调度弹性；它不会凭空减少一条请求逻辑上需要保存的全部KV。第四类是滑动窗口或稀疏注意力，只保留允许访问的一部分历史，从而给缓存设上限，但代价是模型不再看到被丢弃的远程token。第五类是前缀共享和offload：共享系统提示等公共前缀能避免重复副本，offload则用CPU或其他层级的容量换取传输带宽和延迟。…

#KV-Cache#显存优化#自回归生成

面试题·Agent· 美团

多智能体系统核心技术难点

匹配正文：…通信协议（如意图向量而非原始观测）共识达成：分布式决策下的冲突消解，常用拍卖算法、合同网协议或基于LLM的协商任务分解与分配动态任务图的构建：子任务依赖关系实时变化，需支持重规划（replanning）能力匹配：智能体能力建模不准确导致任务分配失衡涌现行为的不可控性协作可能产生预期外的正/负效应，需引入显式的约束层或价值对齐机制架构选择的 Rationale 架构适用场景美团案例映射集中式（Centralized）全局最优可计算、实时性要求低区域订单聚…

#美团#Agent#多智能体系统

面试题·Agent· 得物

Agent 大模型优化三方向

匹配口述回答：…理和行动分开，这样模型不会把“我要调用API”和“API返回了什么”混在一起。还有一个关键点是工具感知。你不能每次把工具描述写在提示词里，那样上下文会爆炸。我的做法是把工具描述编码成可学习的tool [[embedding]]，和输入做交叉注意力，这样模型能动态理解当前有哪些工具可用。更激进一点，支持动态工具注册，推理时把新工具描述塞进上下文，模型就能[[零样本]]调用，不需要重新训练。再说训练目标。这里有个明显的课程设计思路。第一阶段先强化通用推理，比如数学、代码、逻辑…

#得物#Agent#Agent 大模型优化

面试题·Agent· 阿里

Agent 中 RAG 瓶颈怎么破?

匹配口述回答：…个问题是检索回来的top-k文档里，低相关文档会污染生成，这就是所谓的“中间丢失”现象，模型容易忽略中间位置的文档。我的优化思路是动态压缩：根据相关性分数剪枝，只保留高相关段落，然后用摘要模型生成“记忆卡片”来压缩历史。另外，我会把检索结果结构化，比如转成表格或JSON，这样模型解析起来更省力。 Agent特有的瓶颈是决策链的累积错误。比如 [[ReAct]] 循环里，检索、推理、工具调用，每一步都可能出错，而且错误会级联放大。举个例子，一个数据分析Agent要查库存，它先检…

#阿里云#Agent#Agent RAG 瓶颈

面试题·Agent· 高德

Agent记忆分层：摘要与检索协同

匹配口述回答：…记忆加[[混合检索]]**来解耦合。先说记忆分层。我分成三层：工作记忆、短期记忆和长期记忆。工作记忆就是最近几十轮对话，直接塞进prompt，保证即时连贯性。但满了就得下沉，触发条件可以是token数超阈值或者轮数到上限。下沉到短期记忆，这里我会做两件事：一是增量摘要，每K轮用轻量模型总结发生了什么和用户意图变化；二是提取关键事件，比如决策点、用户确认、任务状态变更。存储格式是带时间戳、摘要、实体和重要性分数。长期记忆就存到[[向量库]]里，对话片段做[[embedding…

#高德#Agent#Agent 记忆管理

面试题·Agent· 百度

Agent 核心组件架构

匹配正文：…flection）、树状搜索（ToT） 2. 记忆系统（Memory）类型作用实现方式短期记忆当前对话上下文滑动窗口、Prompt内维护长期记忆跨会话知识积累向量数据库存储+检索增强工作记忆中间执行状态临时变量、执行轨迹 3. 工具调用（Tools）功能：扩展LLM能力边界（计算、搜索、API操作等）关键机制：Function Calling（模型输出结构化JSON）→ 外部执行 → 结果回传工具描述需清晰定义：功能说明、参数schema、返回值…

#百度#Agent 核心组件架构#Agent 系统架构怎么搭？规划、记忆、工具与行动

面试题·评估· 淘天

RAG 怎么减少幻觉?

匹配口述回答：…问题在不同场景下，检索到的知识可以完全不同。比如问'这个商品能退吗'，如果是普通商品，查售后规则；如果是生鲜，查特殊退换政策。这种动态适配靠检索实现，不需要为每个场景单独微调。还有长尾问题，像冷门商品的规格，模型参数里可能没有，但文档里写了，检索就能补全。举个例子，电商智能客服场景。用户问'满减优惠能叠加吗'，如果模型凭记忆回答，可能给出过时的政策。RAG会实时从知识库检索最新的满减规则文档，生成答案时附上引用。用户追问'那和店铺券呢'，再检索店铺券规则。整个过程完全动态，…

#淘天#事实准确性#RAG 减少幻觉

面试题·评估· 快手

LangChain 关键组件与流程?

匹配口述回答：…说一下关键组件。Chain是预定义的固定执行流程，比如翻译、摘要这种单步任务，你定义好输入输出，链式调用就行。[[Agent]]是动态决策的，它自己选择工具和步骤，典型的就是[[ReAct]]模式，思考、行动、观察循环，直到任务完成。Tool封装了外部能力，比如搜索、计算、调用API，扩展模型边界。Memory管理对话历史，有Buffer、Summary、Vector三种策略。Retriever是文档检索接口，专门给[[RAG]]用的。你问工作流程，我拿ReAct举个例子。…

#快手#评估与监控#Agent

面试题·评估· 淘天

现代RAG架构有哪些改进?

匹配口述回答：这道题问的是现代[[RAG]]到底比传统流水线强在哪，本质是看检索和生成的关系从单向变成双向互动了。传统做法是检索完把结果拼进prompt，生成器就直接用了，三个模块各自优化，检的只管检，写的只管写。但现代RAG会把检索嵌进生成过程里，让生成器反过来指导检索，比如生成到一半发现缺信息，再主动去查一次。这不是简单拼接，而是有更深层的融合。具体说一下，传统RAG适合那些问题比较固定、知识库也不太变动的场景，比如内部知识库问答，查什么文档基本一眼就能判断。但真实业务里，问题复杂度…

#淘天#评估与监控#RAG架构改进

面试题·评估· 小鹏

RAG 失败场景诊断

匹配正文：…控：线上先卡检索Recall，再优化生成质量构建评估集：从真实日志采样，覆盖高频Query和边界Case A/B测试：检索策略、Prompt、重排序模型的对比实验

#小鹏#评估与监控#RAG 失败场景诊断

面试题·评估· 快手

单 Agent 与多 Agent 选型

匹配口述回答：…种全流程，或者需要领域专家协作，像代码Agent加测试Agent再加评审Agent。核心优势是专业化，每个Agent专注单一能力，Prompt可以写得更精准；并行化，独立子任务同时跑，缩短总耗时；还有容错隔离，失败范围可控，支持局部重试。但代价不小，通信开销、编排复杂度、调试困难，这些是绕不开的。举个例子，电商直播运营助手。选品、定价、话术生成，这三件事依赖的数据和逻辑完全不同，用单Agent硬撑，Prompt会变得臃肿，上下文很容易超8k，工具切换也频繁。拆成多Agent…

#快手#Agent#单 Agent 与多 Agent 选型

面试题·评估· 安克科技

RAG 问答金标构建

匹配口述回答：…用 LLM 生成，20%从真实用户日志里挖，10%人工设计对抗样本。LLM生成效率高，但容易有[[幻觉]]，所以我会给一个严格的 prompt 模板，要求它基于给定文档出题，禁止脑补。真实日志最贴近业务，但噪声多，需要人工清洗。举个例子，在客服退款场景里，用户常问“为什么我的退款还没到账”，这种真实 query 直接拿来用就很有价值。人工设计则专门造一些刁钻的，比如“满减和折扣券能叠加吗”，这种跨规则的问题。答案标注是重头戏。第一步，我会用多个不同RAG系统并行生成候选答案…

#安克科技#评估与监控#RAG 问答金标构建

面试题·评估· 得物

AI Agent 核心能力现状与差距

匹配口述回答：…，而且缺乏真正的经验学习。比如一个Agent今天处理了某个退款案例，明天遇到类似情况它不会自动复用昨天的经验，除非你显式把案例写进提示词或向量库里。说白了，现在的长期记忆更像是一个外部存储，而不是Agent自身认知的一部分。反思能力就更虚了。很多方案号称能做自我反思，但我观察下来，大部分是“伪反思”，模型只是生成一段自我批评的文本，比如“我错了，我应该先调用查询接口再调用退款接口”，但下次执行时它并不会真的修正策略，因为反思没有沉淀到行为层。真正有效的反思应该像[[Self…

#得物#Agent#AI Agent 核心能力