匹配正文：…5）混合重排序（Rerank）：Cross-Encoder模型精排，提升相关性上下文组装：检索结果去重、截断、按相关性排序注入Prompt 三、核心技术要点分块策略：按语义边界切分，避免切断关键信息；重叠窗口保持上下文连贯检索精度：多路召回（向量+关键词）+ Rerank，解决语义漂移问题生成控制：限制LLM仅基于检索内容回答，降低幻觉；引用溯源增强可信度四、演进方向阶段特点 Naive RAG 基础检索+生成，容易检索噪声 Advanced RAG 加入查询…

#高德#RAG数据流#RAG 工作流程

面试题·检索· 字节

RAG 核心实现原理是什么?

匹配口述回答：…rieval]]加领域微调，同时做查询扩展，把同义词也搜进去。二是[[幻觉]]控制，模型有时候不忠实于检索内容，自己编答案。我会在Prompt里明确要求它只基于检索内容回答，并且输出引用原文的片段，这样出了问题能追溯。说到追溯，我最近在关注[[Self-RAG]]的思路，让模型自己判断什么时候需要检索、什么时候信任已有知识，而不是每次都检索。这样能减少不必要的检索开销，但需要额外训练一个判断模块。我觉得这个方向挺有意思，就是不知道在实时场景下延迟能不能接受。所以整体上，我…

#字节#RAG实现原理#RAG 实现原理

面试题·检索· 字节

RAG 架构：检索到生成全链路

匹配口述回答：…query分类来决定分块策略。所以整体上，我更倾向于把RAG看成一个检索系统加一个生成系统的组合，检索的精度决定了生成的上限。在工程落地上，我会先保证检索的召回和排序不出大问题，再优化生成侧的Prompt和模型选择。一句话定位：RAG本质是让LLM带个外部知识库，解决事实更新与幻觉问题离线构建：文档解析、分块、向量化、存库，重点说分块策略和边界在线流程：查询改写、多路检索、重排序、组装上下文给LLM 落地风险与优化：混合检索、缓存、动态分块，以及常见失败场景收尾：个…

← 上一页第 13 / 13 页

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#字节#RAG组件设计#RAG 系统架构

面试题·检索· 字节

RAG架构：检索器与重排序策略

匹配口述回答：…时刻想着它们怎么配合。先说核心架构，就是检索器加生成器再加一个融合机制。用户query进来，检索器从知识库捞Top-K文档，拼成prompt喂给LLM生成答案。这里有个关键前提：证据漏召回会限制基于该证据集作答，但高召回不保证忠实生成；解析、权限、重排、上下文与生成都要分阶段评估。所以我会把重心放在检索优化上。检索器优化，我一般分两条路走。一条是[[Dense Retrieval]]，用[[Embedding]]做语义匹配，适合长尾query；另一条是[[Sparse R…

#字节#向量库与重排序#RAG 架构设计

面试题·检索· 字节

RAG Retriever 工作机制详解

匹配口述回答：…又不想堆内存，那就 IVF-PQ。现在说它怎么跟生成器配合。流程很简单：query 进检索器，捞出 top-K 文档，然后拼到 prompt 里喂给生成器。但这里有几个坑。先看上下文窗口限制，文档太多太长会截断，所以得按相关性排序，截到窗口能装下为止。然后看置信度过滤，相似度低于某个阈值的文档直接扔掉，不然噪声会让模型胡说八道。另外还要看 [[Rerank]]，就是加一个 [[Cross-Encoder]] 对检索结果重新排序，因为双塔的分数不一定准，重排能显著提升 top…

#字节#Retriever#RAG Retriever

面试题·检索· 字节

RAG 工作流怎么应对时效衰减?

匹配口述回答：…一个 [[Rerank]] 步骤，把最精准的排到前面，然后把这些片段和用户问题拼在一起，作为上下文送给大模型生成答案。这里有个坑：prompt设计必须明确告诉模型引用来源，否则它还是会自己编，也就是 [[Hallucination]]。接下来是时效性问题。说白了，知识库里的信息是静态的，但现实世界在变。比如电商平台的满减政策，昨天还是满200减50，今天改成满300减80了，如果知识库没更新，用户问“今天有什么优惠”，模型可能会给出过时的答案。我的应对策略不是单一方案，而…

#字节#时间衰减检索#RAG 工作流程

面试题·检索· 快手

LLM怎么融入推荐系统？特征提取与召回

匹配口述回答：…上仍然更高效，所以真正落地时，我倾向两者结合，比如用语义召回补充协同过滤覆盖不到的部分。排序层我比较谨慎。LLM直接打分，比如用Prompt预测点击概率，成本太高，全量跑不经济，只适合冷启动或长尾。我更看重的是[[重排序]]阶段，用LLM做精排后的多样性重排，比如用MMR加语义去重，避免推荐结果都是同质化内容。另外，生成推荐理由，比如这段视频为什么推荐给你，虽然不是排序本身，但能提升CTR和用户体验。不过落地有几个关键风险。先说计算成本和实时性，LLM推理慢，全量在线调用…

#快手#LLM推荐系统#LLM 推荐系统

面试题·检索· 字节

RAG 技术实现怎么落地?

匹配口述回答：…西，同时还能控制答案的准确性和时效性。[[RAG]] 的思路很简单，就是给模型配一个外挂知识库，用的时候先查库，再把查到的内容塞进提示词里让模型回答。具体说一下链路。离线阶段，先要把文档切成块，块的大小很讲究，太小了上下文不够，太大了噪声多，通常 256 到 512 tokens 之间。然后用 [[Embedding]] 模型转成向量，存到 [[Vector Database]] 里。这里有个取舍：纯向量检索语义好，但对精确匹配比如订单号、错误码很弱，所以落地时我一般会加上…

#字节#RAG应用场景#RAG 技术实现

面试题·推理优化· 字节

KV-Cache 空间复杂度怎么算?

匹配口述回答：…类是前缀共享和offload：共享系统提示等公共前缀能避免重复副本，offload则用CPU或其他层级的容量换取传输带宽和延迟。工程上我会按模型配置和实际shape计算，而不是引用固定的百分比。PagedAttention把利用率从多少提升到多少、batch一定翻几倍，都必须来自同一硬件和工作负载的测量。最后还要区分大O和常数：固定分组数下O(L除以k)仍然是O(L)。大多数优化是在降低KV头数、位宽、碎片或可见窗口，而不是把线性复杂度变成另一种阶。估算服务总容量时还要区…

#KV-Cache#显存优化#自回归生成

面试题·Agent· 同花顺

Agent 开发技术栈怎么选?

匹配口述回答：…分与泄漏检查；指标不能只报分类准确率，还要看错工具的风险、参数合法率和端到端任务成功率。若只是 Few-shot、检索工具描述或 Prompt 调优，应如实称为推理侧优化。线上部分我会用一条真实 trace 说明截止时间怎样向子调用传播，哪些错误允许重试，哪些必须立即失败，重试是否使用幂等键，何时熔断或转人工。最后报告版本、硬件、并发、P95/P99、错误率和单请求成本。只有这些证据齐全，技术栈清单才会变成工程经验，而不是框架名词表。这道题本质在问技术选型与落地的权衡先…

#同花顺#Agent#Agent 技术栈

面试题·Agent

Agent 项目经历完整复盘

匹配口述回答：…说明。最后准备一个失败方案及其证据，解释为什么放弃。这比只展示最终架构更能证明候选人参与过决策和复盘。本质是考察Agent落地的工程化思维，不只是选框架项目背景：智能客服解决率从35%到70%的目标，复杂多步问题技术选型：ReAct+Function Calling，为什么不是纯端到端或纯规则个人贡献：工具调用框架、Prompt工程、评测体系落地风险与收尾：幻觉防控、边界划分、工程师取舍约4分钟 Agent落地最大风险是工具本身的可靠性和一致性，而非模型能力。面…

#Agent 项目复盘#任务成功率#Agent 项目经历完整复盘

面试题·评估· 蚂蚁

Agent 系统哪些模块最易出问题?

匹配口述回答：…gent 很难排查，因为你只看到最后答案错了，却不知道是哪一步错。日志要结构化，至少包括 session_id、turn_id、prompt 版本、模型版本、上下文 token、解析出的 action、工具参数摘要、工具结果状态、延迟拆解。异常时最好保存上下文快照，支持离线回放。定位问题时，我会按链路拆。延迟高，就拆成模型推理慢、工具慢、串行步骤多，还是上下文太长。答案错，就看规划是否选错工具、工具结果是否正确、模型是否忠实使用 observation。成本高，就看循环次…

#蚂蚁#Agent#AI Agent 稳定性

面试题·评估· 淘天

RAG 怎么减少幻觉?

匹配口述回答：…NN]]检索可能变慢，需要做索引优化，比如用[[HNSW]]或[[IVF-PQ]]。三是生成质量，检索到的信息可能冗余或冲突，需要Prompt设计或Rerank来整理。另外，单纯RAG处理多跳推理问题比较吃力。比如问'2023年双十一满减规则和去年比有什么变化'，需要先检索2023年规则，再检索2022年规则，然后对比。这时候我会考虑[[Agentic RAG]]，让模型自主决定检索步骤，或者用[[ReAct]]框架把推理和检索交替进行。所以整体上，我会把RAG看成一种低…

#淘天#事实准确性#RAG 减少幻觉

面试题·评估· 快手

LangChain 关键组件与流程?

匹配口述回答：这道题我觉得核心是在问，怎么把大模型从单个接口调用，变成能解决复杂业务问题的工程化方案。LangChain本质上就是个组合式框架，它把模型能力拆成标准化的模块，然后像搭积木一样拼起来。它的核心设计思路是三个：抽象统一，用统一接口封装不同的模型、[[向量库]]、工具；链式组合，通过LCEL声明式编排流程；状态管理，用Memory组件维护多轮对话上下文。具体说一下关键组件。Chain是预定义的固定执行流程，比如翻译、摘要这种单步任务，你定义好输入输出，链式调用就行。[[Agen…

#快手#评估与监控#Agent

面试题·评估· 蚂蚁

Agent项目挑战与解决方案怎么讲?

匹配口述回答：…在的参数，先检查 schema 是否歧义、上下文是否缺值、模型是否忽略枚举，再用日志重放和单变量测试定位。若错误来自工具自身，修 Prompt 并不能解决；若失败来自业务状态冲突，也不应归因给模型。方案要说明停止条件。重试只适用于短暂且幂等的错误，参数校验失败应返回结构化反馈或追问，权限失败不能靠重试绕过，执行结果未知时要先查询状态再决定是否补偿。长链路需要总截止时间、子步骤预算、检查点和可恢复的状态，而不是无限让模型反思。结果复盘同时关注修复率与新风险。错误率下降是否增…

#蚂蚁#评估与监控#Agent 项目经验

面试题·检索· 字节

RAG 为什么需要 Re-ranking?

匹配口述回答：…段是精判，对这几十个逐对打分。交叉编码器精度高，但计算成本也高，因为它要实时把query和每个候选拼接推理，所以不能对全量做。实际工程里，我一般先召回top-20到100个，再送重排。这个K值很关键：K太小可能漏掉好文档，K太大延迟扛不住。举个例子，电商客服场景，用户问“退款怎么还没到”。召回阶段可能返回一堆包含“退款”的文档，但其中有一条是“退款到账时间说明”，另一条是“退款失败处理流程”，还有一条是“积分退款规则”。用户真正需要的是“到账时间”那条。重排阶段就能通过交叉…

#字节#重排与优化#RAG Re-ranking

面试题·检索· 淘天

Naive RAG vs Advanced RAG 区别?

匹配口述回答：…存 query 变换、过滤条件、各路候选、融合名次、重排结果、最终上下文和引用。语料、embedding、索引、reranker、Prompt 与模型分别版本化，灰度时同时看质量、拒答、延迟、成本和越权风险。查询改写可能造成意图漂移，上下文压缩可能丢掉限定条件，多轮检索会积累错误；这些都应有专门切片和停止条件。分类的价值就在这里：它帮助团队描述链路复杂度和风险，但最终采用哪一层，仍要由目标数据和可复现实验决定。点题：RAG分类本质是工程取舍 Naive RAG：简单但脆弱，…

#淘天#重排与优化#Naive RAG

面试题·检索· 字节

RAG 系统实现：组件与流程

匹配口述回答：我觉得[[RAG]]这道题，其实核心在问一个工程问题：怎么让大模型在不知道答案的时候，能自己去找答案，而不是瞎编。说白了就是给LLM配一个外挂知识库，让它只回答知识库里有的东西。先说离线索引阶段。第一步是文档切分，这里有个常见的坑：切太细，比如一句话一段，上下文就断了，模型看不懂；切太粗，比如整篇文章一段，检索回来一堆噪声，答案也不准。我一般会按语义段落来切，控制256到512个token，前后保留一点重叠，保证上下文连贯。切完之后用 [[Embedding]] 模型转成…

#字节#RAG系统实现#RAG 实现

面试题·检索· 百度

RAG 三阶段原理与失败场景

匹配口述回答：…过滤掉，把来源信息保留下来，还要控制总 token 长度。通常我会按“相关性、可信度、时间新旧、权限”来排序，最后组成一个结构化 prompt，比如先给参考资料，再给用户问题，再明确要求模型只能基于资料回答，资料不足就说明不足。最后是生成。大模型拿到增强后的 prompt 后生成答案，但这里还要加几个工程约束。一个是引用溯源，让答案里的关键结论能对应到来源文档；一个是拒答机制，如果检索分数太低或者资料互相冲突，就不要硬编；还有一个是后处理，比如检查格式、敏感信息、引用是否存…

#百度#RAG三阶段#RAG 工作流程