匹配正文：答案要点区分检索失败与生成失败的诊断方法关键指标设计（召回率、相关性、忠实度、答案相关性）消融实验与人工分析的结合典型错误模式的识别（检索不准、生成幻觉、协同失效）核心诊断思路：分层定位，逐层验证 RAG故障排查的关键是隔离变量，把端到端问题拆解到具体模块。第一层：判断检索模块是否合格关键指标 Recall@K：正确答案是否在Top-K检索结果中（K通常取5或10） MRR/NDCG：排序质量，相关文档是否排在前面诊断方法人工抽检：随机采样bad case，…

#检索诊断#生成协同#RAG 效果诊断

面试题·评估

检索准但生成差，怎么调优？

匹配正文：…、检索准确但生成差的优化策略 1. 上下文利用优化上下文压缩/重排序：用LLM或轻量模型对检索文档去冗余、排优先级多文档融合：设计结构化Prompt（如"文档[1]说...文档[2]说..."），明确标注来源动态上下文窗口：根据问题复杂度调整送入LLM的文档数量 2. 生成模型/推理优化微调策略：用领域数据SFT，强化"基于给定上下文回答"的指令遵循能力 Prompt工程：添加显式约束，如"若上下文无法回答，请明确说明" 解码策略调整：降低temperature减少发…

#上下文压缩#生成调优#RAG 效果诊断

面试题·评估· 安克科技

RAG 问答金标构建

匹配正文：…-1000条测试集公平对比 1000-3000条对抗集压力测试 200-500条高难度问题来源的四种策略 1. 人工专家设计领域专家基于文档直接编写优势：质量高、覆盖边缘场景劣势：成本高、主观性强 2. LLM辅助生成 Prompt模板要点： - 指定角色（"你是领域专家"） - 约束条件（基于给定文档、禁止脑补） - 多样性控制（事实型/推理型/比较型/总结型） 3. 真实用户日志挖掘从生产环境脱敏后的query中采样需配合人工清洗过滤噪声 4. 混合策…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#安克科技#评估与监控#RAG 问答金标构建

面试题·模型微调· 京东

300-500意图怎么召回?

匹配追问：场景切入假设你在做电商客服的意图识别，用户说“我要退换货”，但退换货下面有几十种细分情况。如果系统要支持300多个意图，你不可能把所有描述都塞进prompt里吧？那你怎么处理这种长上下文和多意图的问题？层层追问意图识别要支持几百个类别，你是怎么设计的？……prompt太长怎么办？……如果我用向量检索先召回一部分候选，那召回和精排怎么配合？……那最终你怎么保证实时性？直球架构直接说方案：在大规模意图识别系统里，要处理300到500个意图，怎么克服上下文长度限制并做到有…

#京东#大规模意图识别#上下文长度限制

面试题·模型微调· 字节

架构与训练怎么提升多轮一致性?

匹配正文：一、模型架构设计长上下文建模稀疏注意力：采用Longformer/Sliding Window Attention，将复杂度从O(n²)降到O(n×w)，保留局部精细交互+全局稀疏聚合 Ring Attention / Striped Attention：序列分块循环计算，支持百万级token，适合超长对话历史分层编码：短窗口做token-level注意力，长历史用sentence/turn-level压缩表示显式记忆机制短期记忆（Context Window）：最…

#字节#模型微调#多轮对话一致性

面试题·模型微调· 字节

RAG 技术原理与架构怎么搭?

匹配正文：…沟→用Query改写或HyDE缓解上下文窗口：多文档拼接超限→Rerank精筛+递归摘要知识冲突：检索内容与模型参数知识矛盾→设计冲突消解Prompt 时效性：知识更新后向量未同步→增量索引+版本管理多跳推理：单轮检索无法回答→ReAct循环检索或构建知识图谱五、进阶方向 Agentic RAG：检索作为Tool，由Agent决策何时检索、检索什么 GraphRAG：用知识图谱显式建模实体关系，解决多跳问题 RAG+微调：用检索数据构造SFT数据，提升模型对检索内容的…

#字节#RAG 最佳实践#RAG 技术原理

面试题·模型微调· 字节

领域 RAG 知识库构建

匹配口述回答：…ery改写，比如用户说“退款没到”，我会用HyDE技术先生成一个伪文档，再拿去检索，效果提升很明显。生成阶段，核心是上下文压缩和Prompt设计。检索回来的Top-K文档可能有很多冗余，直接全塞进Prompt会稀释关键信息，还浪费token。我会先用LLM做一次摘要，或者只保留和query最相关的片段。Prompt里要明确要求模型引用来源，比如“根据文档第三段……”，并且强制模型说“不知道就拒绝”，不能瞎编。这里有个常见失败场景：模型看到多个相似文档，会把不同条款混在一起，…

#字节#领域 RAG 知识库构建#领域 RAG 知识库怎么建？数据处理、索引与检索

面试题·模型微调

LLM 标签约束解码

匹配追问：场景切入假设你要给电商客服做个意图分类器，输出只能是‘退款、换货、咨询’这几个标签。你打算怎么保证LLM不瞎输出别的词？层层追问 LLM做分类任务你一般怎么控制输出范围？……如果提示工程还不够准呢？……那解码时能不能直接不让它生成非法token？直球架构设计一个方案，把LLM的输出严格限制在预定义的封闭标签集合内。从提示工程、解码约束、后处理到微调，你会怎么分层实现？各有什么优缺点？

#约束解码#标签集合#LLM 标签约束解码

面试题·模型微调

LLM 封闭标签如何强约束?

匹配追问：场景切入假设你做电商客服，需要把用户问题分类到“售后/物流/退货”等十几个固定类别里，怎么确保LLM只输出这些标签，不会乱说别的？层层追问让LLM输出固定标签，你一般怎么做？……如果模型偶尔输出不在集合里的词怎么办？……有没有办法从解码层面强制它只生成合法标签？直球架构设计一个系统，要求LLM输出严格限定在预定义的封闭标签集合内，你会从提示工程、解码约束、微调、后处理这几个层面分别怎么设计？优先级怎么排？

#Agent#LLM 输出限定#封闭标签集

面试题·Prompt· 蚂蚁

AI Agent 项目实战经验

匹配追问：场景切入假设你在做电商客服的智能工单系统，用户投诉退款，Agent需要查订单、算金额、调物流，甚至还要确认用户意愿。你具体是怎么设计这个Agent的？比如工具怎么封装、意图怎么拆？层层追问你做过AI Agent项目吗？……能讲讲你的技术选型吗，单Agent还是多Agent？……那具体怎么规划行动步骤的？比如遇到模型选错工具或幻觉，你怎么处理的？直球架构聊聊你在AI Agent项目中的实践，包括业务背景、技术实现和个人角色。重点说架构设计、工具调用、异常处理，还有最终…

#蚂蚁#Agent#AI Agent 项目

面试题·Prompt· 字节

Policy 模型错误决策怎么防?

匹配追问：场景切入假设你给电商客服系统设计Prompt生成，Policy模型要决定用哪个模板和参数。要是它决策错了，比如给用户推了错误的优惠券，你怎么保证这种情况少发生？层层追问动态Prompt里Policy模型怎么保证不犯错？……训练阶段你能做什么？……如果上线后还是出问题，有什么兜底措施？直球架构动态Prompt生成系统中，Policy模型可能决策出错。说说从训练、验证、约束到监控，你分别怎么设计来确保它的正确性和稳定性？

#字节#Agent#Policy 模型

面试题·RAG· 阿里

LangChain vs LlamaIndex 架构差异？

匹配正文：核心定位差异维度 LangChain LlamaIndex 设计目标通用LLM应用编排框架数据驱动的检索增强框架核心抽象 Chain（链式调用）、Agent（自主决策） Index（索引结构）、Retriever（检索器）、QueryEngine（查询引擎）优势领域复杂工作流编排、多工具Agent 大规模文档索引、结构化检索关键功能对比 LangChain强项 Agent系统：ReAct、Plan-and-Execute等推理模式，支持工具调用与多轮决策模块化…

#阿里云#LangChain与LlamaIndex#LangChain vs LlamaIndex

面试题·RAG· 小红书

新用户冷启动：生成式推荐与Embedding

匹配正文：…传统模型"没见过用户ID就失效"的问题 2. 可结合的冷启动策略策略实现方式画像引导生成用注册信息/问卷构建文本画像，作为prompt输入热门+多样性兜底生成式模型生成"热门但多样"的候选集，避免千篇一律跨域迁移用其他平台/全局行为预训练，迁移到当前场景主动学习设计交互式问卷，用最少问题快速锁定兴趣 3. 小红书场景特化利用笔记的图文多模态内容，新用户上传一张图即可触发相似内容推荐 "兴趣标签"快速选择：让用户选3-5个兴趣词，作为生成prompt 关键…

#小红书#新用户冷启动#生成式推荐

面试题·RAG· 淘天

现代 RAG 架构怎么变?

匹配追问：场景切入假设你在做一个电商智能客服，用户问“我的订单到哪了”，系统先搜索订单状态再生成回答。但传统做法是检索完直接拼prompt，你觉得这种“拼接”方式有什么问题？现代RAG又是怎么改进的？层层追问讲讲你理解的RAG系统？……传统方式一般是检索一段文本然后直接拼到prompt里给LLM，你觉得这种做法的瓶颈在哪？……那现代RAG在信息融合方式上做了什么改进，比如检索结果怎么更好地融入生成过程？直球架构对比传统“检索+生成”流水线，现代RAG在架构设计、信息融合和端到…

#淘天#RAG端到端训练#现代 RAG 架构

面试题·RAG· 快手

人工干预怎么控制 LLM 生成?

匹配正文：人工干预的三层架构 1. 输入层：前置过滤与引导敏感Query识别：基于规则+小模型做意图分类，拦截违规请求 Prompt改写：自动注入安全约束（如"请确保回答符合法律法规"）上下文注入：RAG场景下动态插入合规知识片段 2. 生成层：过程控制解码策略干预：调整temperature、top-p，或对特定token降权动态停止条件：检测到风险模式时触发early stopping 工具调用约束：Agent场景下限制可调用的工具白名单 3. 输出层：审核与修正规则拦截…

#快手#人工反馈控制#人工干预 LLM 生成

面试题·RAG

RAG 检索准但回答差怎么调?

匹配追问：场景切入假设你做一个电商客服RAG，检索模块把相关退换货政策都找对了，但模型最后生成的回复还是答非所问。你觉得问题可能出在哪几个环节？层层追问 RAG系统里检索准了，回答却不好，你会怎么排查？……先看哪一层？……如果prompt里文档顺序调一下就好了，这算什么问题？直球架构检索准确但生成质量差，请分析RAG系统中上下文组织、提示工程、模型本身三个层面的可能原因，并给出系统性调优方案。

#上下文组织#生成质量调优#RAG 生成质量差

面试题·检索· AIlab

RAG 流程各环节优化陷阱

匹配追问：场景切入比如我们有个电商客服，用户问“这款手机怎么样”，你从文档里检索，但返回的片段可能漏了屏幕参数。假设你来做这个RAG系统，从文档处理到最后生成回答，你会怎么设计流程？每一步可能卡在哪儿？层层追问 RAG系统你熟悉吧？先说说整体流程……那索引阶段，文档解析和分块有什么讲究？……检索呢，除了向量还有别的召回方式吗？……最后生成，上下文太长怎么处理？直球架构请详细描述RAG的技术流程，从索引构建到检索再到生成，每个环节你能想到哪些优化手段？比如分块策略、embeddi…

#AIlab#RAG链路优化#RAG 优化

面试题·检索· 高德

RAG增强与生成如何衔接？

匹配正文：答案要点离线知识库构建（文档解析、分块、向量化）检索阶段的双路召回策略（向量+关键词）重排序优化上下文拼接与提示模板设计生成阶段的引用溯源与幻觉控制 RAG完整工作流程一、离线知识库构建（预处理）文档解析：处理PDF/Word/网页等多格式，提取结构化文本知识分块（Chunking）：按语义/固定长度/递归分割，通常512-1024 token，块间保留重叠防止断句向量化：用Embedding模型（如BGE、M3E）将文本转为稠密向量索引存储：写入向量数据…

#高德#RAG#RAG 工作流程

面试题·检索· 百度

RAG 文档处理与检索策略怎么搭？

匹配口述回答：…片段之后，怎么喂给生成模型？先按相关性排序拼成上下文，但得控制长度，一般不超过模型上下文窗口的30%到50%，留空间给指令和回答。Prompt设计上，我会明确说「基于以下参考资料回答，如果资料不足请说明」，同时要求模型标注引用来源，就是让它回答时带上「根据第X段」。这样能有效抑制[[Hallucination]]。如果检索分数低于某个阈值，我宁愿让模型说不知道，也不让它瞎编。举个例子，电商客服场景里，用户问「我退货为什么还要付运费」，如果模型只靠预训练知识，可能答错。但RA…

#百度#RAG检索策略#RAG 系统架构

面试题·检索· 字节

专业领域RAG数据与检索优化？

匹配正文：答案要点分模块阐述数据预处理（解析、分块、质量过滤）、检索层（多路召回、重排序）、生成层（上下文压缩、引用溯源）的设计体现领域适配思路（领域术语表、专用Embedding）提到评估闭环和持续优化机制避免只讲基础RAG流程，要有工程化深度一、数据预处理层文档解析与清洗多格式统一：PDF/Word/网页用专用解析器（如MinerU、Marker），保留表格结构和层级标题领域术语标准化：建立专业词表，做实体链接和指代消解质量过滤：去重、低质量页面过滤、敏感信息脱敏…

#字节#领域RAG架构#RAG 系统架构

面试题·检索· 字节

RAG 架构组件与失败场景

匹配追问：场景切入假设我们做一个电商客服助手，用户问“上次那个订单发货了没”，系统需要从产品文档和订单系统里召回信息。你给我讲讲，从用户提问到生成最终回答，整个RAG系统是怎么一步步把数据拉回来、组织好再输出的？层层追问你做过知识库问答系统吧，怎么根据用户问题从文档里捞相关内容的？……那如果文档很长，怎么切分才能既保留语义又提高召回？……检索出来一堆结果，怎么挑出最相关的给大模型？……最后组装prompt有什么讲究？直球架构画一下RAG系统的完整架构图，说清楚索引、检索、生成…

#字节#RAG组件协同#RAG 系统架构

面试题·检索· 京东

RAG 怎么解决大模型幻觉?

匹配正文：…晰阐述RAG"检索-增强-生成"三段式架构说明向量数据库和Embedding的核心作用解释检索策略（相似度搜索、重排序）的关键设计分析RAG缓解幻觉的机理（事实锚定+可溯源）提及RAG的局限（检索质量瓶颈、上下文窗口限制）核心架构：检索-增强-生成 RAG的本质是给大模型外挂一个"可查询的知识库"，让生成过程有据可依。三大核心组件 1. 索引层（Indexing）文档切分（Chunking）：按语义或固定长度分块，通常512-1024 token Embeddi…

#京东#幻觉抑制#RAG 技术原理

面试题·检索· 美团

RAG 检索器与知识库怎么搭?

匹配追问：场景切入我看你之前做过电商客服的项目。假设用户问“我的订单怎么还没到”，系统需要从海量商品文档和物流规则里找到答案。你怎么设计RAG来保证又准又快？具体说说检索和知识库怎么搞。层层追问你在大模型项目里怎么解决知识更新的问题？……是每次重新训练吗？……如果只有几万条业务文档，又要实时检索，你会怎么搭这个系统？……那检索到的东西怎么喂给模型，才能让它准确引用？直球架构聊一下RAG的技术细节。你从检索器选型、知识库分层、到生成模型集成，整个链路怎么设计的？比如双路召回、混…

#美团#知识库构建#RAG 检索器设计

面试题·检索· 高德

RAG 系统实现流程怎么搭?

匹配口述回答：…-Encoder]] 做精排，这里[[重排]]是性价比很高的环节，能把相关性分数拉得更准。生成模型集成这块，核心是上下文组装和 Prompt 设计。我会把检索结果按相关性排序，拼接成参考信息，开头加一句“基于以下内容回答，如果信息不足请说明”。窗口管理要控制总长度，优先塞高相关性文档，低分的直接舍弃。这里有个常见失败场景：如果检索到的文档本身就有矛盾，比如两个政策版本时间不同，模型可能会混淆。所以我会在 Prompt 里强调“优先参考时间最新的文档”。结果融合上，我会做两…

#高德#RAG结果融合#RAG 实现流程