匹配正文：RAG评估的三层架构 1. 检索评估（Retrieval Evaluation） MRR：统计各问题首个相关结果倒数排名的均值；Hit@K：统计前 K 条至少命中一个相关结果的问题比例，不能据此判断命中结果内部的排序质量 Recall@K：关注相关性召回，K通常取5或10 NDCG：考虑位置权重，适用于需要精细排序的场景 2. 生成评估（Generation Evaluation） BLEU/ROUGE：n-gram匹配，适合有标准答案的FAQ场景 BERTScore：语义相…

#字节#评估与监控#RAG 自动与人工评估

面试题·评估· 淘天

现代RAG架构有哪些改进?

匹配正文：核心差异：从"拼接"到"深度融合" 传统RAG是线性流水线：检索 → 拼接上下文 → 生成，三者独立优化。现代RAG的核心改进在于打破这种隔离，实现检索与生成的双向交互。架构层面的关键演进维度传统RAG 现代RAG 交互方式单向一次迭代/多轮交互检索决策固定策略自适应路由（何时检、检多少）优化目标分段优化端到端联合训练三类深度融合机制 1. 迭代式检索（Iterative Retrieval）生成过程中动态发现知识缺口，触发补充检索代表：IRCoT…

#淘天#评估与监控#RAG架构改进

面试题·评估· 字节

Attention 在多轮对话中有什么局限?

匹配正文：核心局限：Agent多轮对话的三大瓶颈 1. 计算复杂度爆炸标准Self-Attention是O(n²)复杂度，Agent多轮对话上下文轻松破万token 每轮新输入都要与全部历史做Attention，延迟线性增长，实时性崩塌 2. KV Cache显存瓶颈多轮对话需缓存每层的K、V矩阵，长度随轮次累积工具调用返回的结果、RAG检索的文档进一步膨胀缓存显存占用 = 层数 × head数 × head_dim × 序列长度 × batch_size × 2(K+V) 3…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#字节#评估与监控#Attention 局限性

面试题·评估· 安克科技

RAG 问答金标构建

匹配正文：… 70% LLM生成 + 20% 真实日志 + 10% 人工设计对抗样本答案标注流程 Step 1: 候选答案生成使用多个不同RAG系统并行生成答案保留答案分布的多样性 Step 2: 多轮人工校验第一轮：标注员独立标注（3人）第二轮：分歧案例仲裁（专家介入）第三轮：溯源检查（答案是否能在文档中找到依据） Step 3: 置信度打分高置信：3人一致且可溯源中置信：2人一致或需推理低置信：存疑，不入测试集真实性验证手段方法实现方式自动溯源强制模型输出…

#安克科技#评估与监控#RAG 问答金标构建

面试题·评估· 安克科技

Agent/RAG 评估体系怎么搭?

匹配正文：答案要点区分RAG和Agent的不同评估维度（检索质量vs工具调用/规划能力）覆盖客观指标（准确率、召回率）和主观指标（有用性、无害性）提及自动化评估与人工评估的结合指出实际落地中的挑战（评测数据构建、动态环境、成本权衡）一、RAG系统评估体系检索模块指标 Recall@K：正确答案在Top-K检索结果中的比例 MRR（平均倒数排名）：正确答案排名的倒数均值 Context Precision：检索片段中相关信息的比例生成模块指标 Faithfulness：生成…

#安克科技#Agent#Agent 评估体系

面试题·评估· 安克科技

Agent/RAG 评估集构建

匹配正文：…的hard negative策略人工+自动化的混合标注流程数据代表性验证方法核心设计原则 Agent和RAG的评估目标不同：RAG重事实准确性，Agent重任务完成度与工具调用正确性，需分开设计。数据采集来源适用场景注意事项真实用户日志高价值、分布真实脱敏+去偏，避免头部query过度采样合成数据（LLM生成）快速覆盖长尾场景需人工校验，控制幻觉比例公开benchmark适配跨模型可比检查license，避免数据污染关键：覆盖多轮对话、边界c…

#安克科技#评估与监控#Agent/RAG 评估集构建

面试题·模型微调· 字节

架构与训练怎么提升多轮一致性?

匹配正文：…[滑动窗口: 最近6轮] + [当前query] 窗口溢出时：老轮次送summarizer压缩为1句，存入长期记忆推测解码优化多轮对话中用户意图变化慢，用draft model复用前序hidden state 树状注意力：共享前缀的多个候选回复并行解码关键取舍：超长上下文 vs 显式记忆不是互斥，128K内用原生长上下文，超出的用RAG式记忆检索，两者结合最实用。学习建议建议从对话状态跟踪、上下文压缩、记忆机制等基础概念入手，结合Transformer架构与RLHF…

#字节#模型微调#多轮对话一致性

面试题·知识图谱· 字节

医疗法律 RAG 合规追溯

匹配正文：…"法条查询"vs"类案检索"（法律） Query扩展：用领域词典做同义词扩展，如"新冠"→"COVID-19/新型冠状病毒肺炎" 多轮澄清：置信度低时主动追问（如"您指的是刑法第X条还是民法第X条？"） 4. 生成与校验上下文压缩：用LLM摘要长文档，保留关键证据片段引用溯源：强制要求模型输出引用来源，用户可点击验证事实性校验：医疗用UMLS知识库做实体一致性检查；法律用法条时效库过滤失效条款三、领域特殊考量维度医疗法律时效性诊疗指南版本管理法条修订追踪、…

#字节#医疗法律 RAG 合规追溯#医疗和法律 RAG 怎么做安全合规与证据追溯

面试题·Prompt· 字节

RAG 生成阶段 Prompt 怎么构建?

匹配正文：…] {doc1} [2] {doc2} 问题：{query} 关键：强制模型输出引用标记，便于后处理校验。 3. 对话历史融合式（多轮RAG）历史对话： User: {prev_q} Assistant: {prev_a} 当前可参考的新资料： {retrieved_context} 当前问题：{current_q} 进阶策略策略作用动态Few-shot 从检索结果中挑1-2个高质量问答对作为示例注入上下文重排序把最相关的文档放Prompt末尾（近因效应）置信度…

#字节#Prompt工程#RAG Prompt 构建

面试题·RAG· 字节

垂直领域 RAG 完整架构

匹配正文：…）→ 图谱召回相似病例 ↓ 生成初步分析 ← 指南条款精排 ← 向量召回诊疗规范 ↓ 置信度评估 → 高：输出+引用 | 低：触发多轮追问/转人工核心指标：事实准确率>95%、引用完整率>90%、平均响应<2s 学习建议建议先掌握RAG基础流程，再深入学习向量检索、领域数据清洗、提示工程和合规要求，结合真实案例进行系统设计练习。

#字节#垂直领域RAG#垂直领域 RAG 完整架构

面试题·RAG· 字节

RAG 怎么提升生成准确性?

匹配正文：…op-K相关片段生成阶段：将"检索结果 + 原始Query"拼接输入LLM → 生成最终回答解决的核心问题问题传统LLM RAG方案知识幻觉参数化记忆，容易"编造" 检索提供事实依据，可溯源知识时效性训练后无法更新知识库动态更新，无需重训模型领域适配微调成本高零样本接入私有知识关键优化点检索质量：Embedding模型微调、混合检索（向量+关键词）、重排序（Rerank）上下文组织：片段截断策略、多轮检索、检索结果去重融合生成控制：提示词约束模…

#字节#外部知识检索#RAG 原理

面试题·RAG· 字节

RAG 怎么提升生成质量?

匹配正文：…域适配：低成本接入私有知识，比微调便宜10-100倍可解释性：答案从哪来一目了然关键优化点（加分项）检索侧：Query改写、多轮检索、重排序（Cross-Encoder精排）生成侧：上下文窗口压缩、让模型先判断"是否足够回答" 工程侧：缓存热点Query、检索失败兜底策略一句话总结 RAG = 给LLM配个"外挂硬盘"，需要时查资料，不用死记硬背，答不准还能甩锅给知识库。学习建议建议系统学习该知识点

#字节#大模型幻觉#RAG 原理

面试题·RAG· 淘天

RAG 模型分类有哪些?

匹配正文：…多路召回融合上下文处理：Recomp压缩、选择性上下文适用：企业知识库、产品手册等噪声多、需精排的场景 3. Modular RAG（模块化/Agent化）架构：检索与生成解耦，支持多轮迭代、主动决策关键能力：模块功能检索器可切换（向量/图谱/搜索引擎）调度器判断是否需要检索、何时停止生成器支持Self-RAG（反思token）、FLARE（动态检索）代表：Self-RAG、ReAct、RAG-Fusion 适用：科研分析、多跳推理、开放域复杂任务 …

#淘天#RAG架构分类#RAG 分类

面试题·RAG

Deep Research vs RAG 怎么选?

匹配正文：答案要点 Deep Research的核心是"自主迭代式研究"，RAG的核心是"单次检索增强" 两者在检索次数、规划能力、执行流程上有本质区别 Deep Research适合开放式复杂问题，RAG适合封闭域事实问答能举例说明典型产品（如OpenAI Deep Research vs 传统RAG应用）核心区别：单次检索 vs 自主迭代研究维度 RAG Deep Research 本质检索→生成的一次性流程多轮"检索-分析-再检索"的自主循环决策主体预定义流程，无自…

#Deep Research#RAG#Deep Research vs RAG

面试题·检索· 字节

RAG 为什么需要 Re-ranking?

匹配正文：…大延迟爆炸，太小可能漏掉优质doc 延迟优化：可用轻量交叉编码器（如MiniLM）、蒸馏模型，或GPU batch推理级联策略：多轮重排（粗排→精排→LLM pointwise打分）平衡效果与成本一句话总结重排是用计算换精度的关键设计，让RAG从"找得到"进化到"找得准"。学习建议建议先掌握RAG基本流程，理解检索与排序的区别，再学习典型重排模型（如Cross-Encoder）原理，通过开源项目动手实践重排模块的集成。

#字节#重排与优化#RAG Re-ranking

面试题·检索· 阿里

RAG流程：检索到生成各阶段陷阱

匹配正文：RAG系统五阶段工作流程 1. 查询理解与改写技术要点：Query扩展（同义词、HyDE生成假设文档）、意图识别、多轮对话历史融合质量影响：查询语义漂移直接导致检索偏差，是RAG失效的首要环节 2. 文档检索（召回阶段）方法适用场景实现要点向量检索（Dense）语义匹配、长尾查询 Embedding模型选择（BGE/M3E）、向量数据库（Milvus/Faiss）、HNSW索引关键词检索（Sparse/BM25）精确匹配、实体查询分词策略、词频权重调优混…

#阿里云#重排与优化#向量检索

面试题·检索· 小红书

RAG检索不准的失败场景与优化

匹配正文：…匹配失效 2. 查询侧优化查询改写：用LLM扩展同义词、澄清歧义（HyDE：生成假设文档再检索）查询分解：复杂问题拆分子查询，多轮检索聚合 3. 重排序（Rerank）引入轻量级交叉编码器（Cross-Encoder）精排，弥补双塔模型精度损失业务规则过滤：时效性、权威性加权 4. 反馈与迭代检索-生成联合训练：用生成答案的loss反向优化检索用户点击/点赞数据构建困难样本，迭代embedding 关键区分场景诊断方法解决思路检索未召回检查正确答案是否在…

#小红书#美团#重排与优化

面试题·检索· 字节

RAG 系统迭代优化方向有哪些?

匹配正文：…词BM25）、多粒度索引（文档/段落/句子）、Embedding微调（领域适配）召回策略：多路召回（向量+关键词+图谱）、MRR多轮迭代召回重排序环节优化精排模型：Cross-Encoder（精度高但慢）、ColBERT（延迟交互，效率平衡）多阶段漏斗：向量召回Top100 → BM25粗排 → Cross-Encoder精排Top10 动态重排：结合用户反馈的在线学习排序上下文融合优化上下文压缩：LLMLingua选择性压缩、重排序后截断关键片段多文档处理：去…

#字节#RAG迭代优化#RAG 优化

面试题·检索· AIlab

RAG 流程各环节优化陷阱

匹配正文：答案要点清晰描述RAG的完整流程（索引构建、检索、生成）分环节列举具体优化手段（分块策略、embedding模型、重排序、查询优化等）能区分不同优化手段的适用场景和收益体现对实际落地问题的理解（如多轮对话、长尾查询） RAG核心流程 1. 索引构建阶段文档解析（PDF/Word/网页等格式处理）文本分块（Chunking）向量化（Embedding）存储到向量数据库 2. 检索阶段查询向量化相似度检索（Top-K召回）可选：重排序（Rerank） 3. …

#AIlab#RAG链路优化#RAG 优化

面试题·检索· 快手

RAG 延迟与准确率优化

匹配正文：答案要点延迟挑战：检索耗时、多轮调用、大模型生成慢正确率挑战：检索不准、上下文噪声、多跳推理失败根因分析：向量检索局限、长上下文稀释、工具链复杂优化思路：预检索策略、重排序、缓存机制、混合检索延迟挑战与根因瓶颈环节具体表现根因检索阶段向量库查询+重排序耗时高大规模向量ANN搜索精度-速度trade-off，跨模态检索更慢工具调用 Agent多轮Planning-Action循环每次LLM调用串行，工具响应不可控生成阶段长上下文导致首token延迟…

#快手#RAG延迟优化#RAG 延迟与准确率优化

面试题·检索· AIlab

RAG流程优化：三大层面策略

匹配正文：答案要点检索层面：索引优化、查询改写、混合检索、重排序生成层面：上下文压缩、提示工程、引用溯源流程层面：多轮检索、自适应RAG、评估反馈闭环能结合实际场景说明取舍一、检索层优化索引构建分块策略：按语义/结构分块（标题-内容、固定长度+重叠），非均匀分块优于固定长度多向量表示：同一文档用摘要、关键词、问题等多角度embedding 元数据过滤：时间、来源、类别等字段预过滤缩小检索范围查询侧优化查询改写：HyDE（生成假设文档再检索）、Query2Doc、子查…

#AIlab#RAG流程优化#RAG 优化

面试题·检索· 快手

RAG 延迟准确率根因

匹配正文：…度太细丢失上下文知识动态性：Agent场景下工具返回结果、实时数据与静态知识库未有效融合 Agent场景的特殊复杂性维度传统RAG Agent+RAG 检索触发单轮明确多轮隐式（由LLM决策何时检索）上下文当前Query 历史对话+工具结果+检索结果累积失败成本单次回答差可能引发错误工具调用链核心矛盾：Agent的自主性要求检索模块既快又准，但两者往往此消彼长。实践中需在延迟约束下做精度妥协，或通过检索-生成流水线并行、缓存热点Query结果、自适应检索…

#快手#RAG延迟与准确率#RAG 延迟准确率根因

面试题·检索· 百度

RAG Query 改写方法

匹配正文：…聚合子问题分解复杂多跳问题拆解为原子问题链，逐层检索（如"2024年X公司营收→其CEO是谁→CEO背景"）历史会话改写多轮对话场景结合上文指代消解，生成独立完整的 standalone query 关键取舍：改写次数 vs 延迟——通常线上用1-2层改写，复杂场景走异步多路召回。检索后提示词构建结构模板（按优先级排序）：【角色】你是{领域}专家，基于提供的参考资料回答问题【约束】仅使用<reference>内容，无法回答时明确说明【参考资料】 <ref…

#百度#小鹏#美团

面试题·检索· 高德

RAG增强与生成如何衔接？

匹配正文：…解析、分块、向量化）检索阶段的双路召回策略（向量+关键词）重排序优化上下文拼接与提示模板设计生成阶段的引用溯源与幻觉控制 RAG完整工作流程一、离线知识库构建（预处理）文档解析：处理PDF/Word/网页等多格式，提取结构化文本知识分块（Chunking）：按语义/固定长度/递归分割，通常512-1024 token，块间保留重叠防止断句向量化：用Embedding模型（如BGE、M3E）将文本转为稠密向量索引存储：写入向量数据库（Milvus/Faiss/…

#高德#RAG#RAG 工作流程