匹配正文：…心优势（知识时效性、可解释性、成本可控）与典型局限（检索噪声、上下文窗口限制、多跳推理弱）提出至少3个具体优化方向（如混合检索、重排序、查询改写）结合实际场景说明优化方案的可行性体现对RAG与微调、Agent等技术边界的理解 RAG的核心价值与深度优势层面知识动态化：无需重训模型即可更新知识，解决大模型"幻觉"和时效性问题可溯源性：检索片段作为引用，提升生成可信度，满足合规审计需求成本可控：相比全量SFT，RAG的边际成本极低，适合频繁变更的业务知识技术深度体…

#美团#RAG 局限性#RAG 优化方向

面试题·模型微调· 字节

RAG 检索与生成流程详解

匹配正文：答案要点离线知识库构建流程（文档解析、分块、向量化、索引存储）在线检索生成流程（Query改写、向量检索、重排序、上下文融合） RAG vs 微调的选择权衡典型应用场景举例典型实现方式离线阶段：知识库构建文档解析：处理PDF/Word/网页等多格式，提取结构化文本文本分块：按语义或固定长度切分，通常256-512 tokens，保留段落边界向量化：用Embedding模型（如BGE、M3E）将chunk转为向量索引存储：存入向量数据库（Milvus、Fais…

#字节#检索生成流程#RAG 实现

面试题·模型微调

SFT vs RAG 知识更新

匹配正文：…周期长优。知识库热更新，分钟级生效推理准确性依赖训练数据质量，易幻觉可控。检索结果可溯源、可干预部署复杂度相对简单，单模型推理复杂。需向量库+检索+重排序+生成多模块泛化能力强。内化知识，复杂推理更连贯弱。依赖检索质量，知识片段间推理易断裂性能上限分析 SFT上限：受限于参数容量和训练数据天花板。模型无法记住无限知识，且知识冲突时易产生幻觉。适合模式学习（风格、格式、推理链）而非事实记忆。 RAG上限：受限于检索精度和上下文长度。再强的生成模型也救不回错…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#SFT#RAG 知识更新#SFT vs RAG 知识更新

面试题·模型微调

RAG检索相关但生成差原因

匹配正文：答案要点区分"检索相关"与"对生成有用"的差异，识别信息过载/碎片化问题提示工程层面：重排序、上下文压缩、指令明确性上下文建模：长上下文窗口利用、多文档融合策略、噪声过滤模型微调：领域适配SFT、检索感知训练、负样本挖掘系统性思维：端到端优化而非单点修复核心诊断：检索≠可用检索相关但生成差，本质是检索结果与生成需求不对齐。常见原因：信息过载：Top-K过多导致噪声淹没信号，或关键信息被截断碎片化：多个文档各含部分答案，模型缺乏整合能力格式混乱：原始文档结构…

#上下文压缩#生成调优#RAG 生成优化

面试题·模型微调

生成质量差怎么调优?

匹配正文：…点区分检索问题与生成问题，确认根因在生成侧 Prompt工程优化（指令明确化、Few-shot示例、角色设定）上下文处理策略（重排序、压缩、截断优化）模型层面的SFT/RLHF微调生成控制参数与后处理校验机制问题定位首先确认是纯生成问题（检索结果已准确），而非检索-生成不匹配。常见症状：内容拼凑感强、逻辑断裂、答非所问。核心优化策略 1. Prompt工程（零成本首选）指令结构化：明确输出格式（"请分三点回答"）、约束条件（"仅基于提供的文档"） Few-sh…

#RAG 生成质量#指令遵循#生成模块调优

面试题·RAG

什么是 RAG？一句话讲清检索增强生成

匹配正文：…幻觉）答案有检索到的原文支撑，可标注来源供核对重新训练一次成本极高只需维护知识库，工程成本低得多一句话总结：RAG 不是让模型变得更聪明，而是让它“答题前能查资料”。用户提问时，系统先检索出最相关的几段内容，连同问题一起交给模型，模型“看着资料回答”，答案自然更准、更新、更可信。入门之后，建议往两个方向继续深入：一是 RAG 的完整链路（文档解析、分块、向量化、检索、重排），二是 RAG 与微调这两条技术路线该怎么选。

#入门#基础概念#什么是RAG

面试题·知识图谱· 海尔

训练/推理/外部知识怎么选?

匹配正文：…训练阶段提升数据质量：去重、过滤低质网页、增加权威来源（书籍、论文、百科）比例知识边界感知：在数据中显式标注"不确定"表述，让模型学会表达未知 SFT阶段构造高质量事实性指令数据，答案需带引用来源引入"拒绝回答"样本：对超出知识范围的问题训练模型坦诚表示不确定 RLHF阶段奖励模型加入事实性维度，惩罚编造内容使用RAG或工具调用结果作为参考答案进行强化学习二、推理机制优化解码策略约束解码：强制要求关键事实必须来自输入上下文自我验证：生成后让模型自我检查"这…

#海尔#外部知识集成#大模型幻觉

面试题·RAG· 淘天

RAG 核心架构与工作流程

匹配正文：…索引检索器：编码查询→相似度搜索→返回Top-K相关文档（常用Dense Passage Retrieval或Embedding模型）生成器：将"查询+检索文档"拼接为上下文，生成最终回答标准流程：用户Query → 向量化 → 向量检索召回 → 重排序（可选） → 上下文拼接 → LLM生成解决的关键问题问题说明事实幻觉生成内容有检索文档支撑，可溯源验证知识时效性无需重训即可更新知识库领域专业知识注入企业私有数据，弥补通用模型短板生成可控性通过…

#淘天#阿里#RAG 架构

面试题·RAG· 字节

RAG 怎么提升生成质量?

匹配正文：…成本接入私有知识，比微调便宜10-100倍可解释性：答案从哪来一目了然关键优化点（加分项）检索侧：Query改写、多轮检索、重排序（Cross-Encoder精排）生成侧：上下文窗口压缩、让模型先判断"是否足够回答" 工程侧：缓存热点Query、检索失败兜底策略一句话总结 RAG = 给LLM配个"外挂硬盘"，需要时查资料，不用死记硬背，答不准还能甩锅给知识库。学习建议建议系统学习该知识点

#字节#大模型幻觉#RAG 原理

面试题·RAG· 字节

RAG 检索模块怎么提升相关性?

匹配正文：…策略：线性加权 score = α·dense_score + (1-α)·sparse_score，或RRF倒数排序融合 2. 重排序（Re-ranking）原理：用Cross-encoder等交互式模型对初筛结果精细打分。双塔模型（Bi-encoder）分离编码查询和文档，精度受限；Cross-encoder拼接输入做交互注意力，相关性判断更准确实践：先用向量检索召回100条，再用轻量重排模型筛Top5，平衡延迟与效果 3. 查询改写（Query Rewriting）…

#字节#Query Rewriting#RAG 检索模块

面试题·RAG· 字节

RAG 检索增强技术有哪些？

匹配正文：…等学习式稀疏向量，弥补纯向量盲区长尾实体、ID类查询图检索基于知识图谱的实体关系扩展需要推理关联的复杂问题三、精排优化（重排序） Cross-Encoder重排：用交互式模型（如bge-reranker）对召回Top-K精细打分，精度高但慢多阶段级联：向量召回→BM25过滤→Cross-Encoder精排，平衡效率与效果四、索引层面优化分块策略：按语义切分（而非固定长度），保证chunk内语义完整元数据过滤：先按时间、类别等标签过滤，缩小检索范围摘要索引：…

#字节#HyDE#RAG 检索质量

面试题·RAG· 小红书

RAG 检索噪声怎么处理?

匹配正文：核心思路：两条防线——净化输入 + 增强生成抗噪能力一、检索阶段：提升召回质量重排序（Rerank）：用Cross-Encoder替代Bi-Encoder做精排，过滤低相关性文档上下文压缩：用LLM或专用模型对长文档摘要，减少噪声信息占比多路召回融合：向量检索 + 关键词检索 + 图谱召回，取交集或加权融合降低单路噪声动态阈值：根据查询难度自适应调整top-k数量，难查询多召回、易查询严过滤二、生成阶段：增强鲁棒性置信度引导生成：让模型输出引用来源并给出相关性评…

#小红书#检索噪声过滤#RAG 噪声处理

面试题·RAG· OPPO

查询文档相关性怎么算?

匹配正文：搜索引擎的相关性计算经历了从关键词匹配→语义匹配→深度语义模型的演进，实际系统通常是多阶段级联。一、关键词匹配：经典但有效 BM25 是工业界标配，核心思想：词频饱和度：TF 增长边际递减（用 k1 控制）文档长度归一化：避免长文档占优（用 b 控制） IDF 惩罚常见词 score = Σ IDF(q_i) · [f(q_i,D)·(k1+1)] / [f(q_i,D) + k1·(1-b+b·|D|/avgdl)] 局限：词汇鸿沟、"苹果"歧义无法区分。二、语义匹…

#OPPO#查询文档相关性#语义匹配

面试题·RAG· 快手

LLM怎么融入推荐系统？意图理解与生成

匹配正文：…你推荐"的个性化话术四、核心挑战与应对挑战应对策略幻觉（推荐不存在item）约束解码+检索增强（RAG），先召回候选集再重排实时性 LLM只做离线特征或粗排，精排保持轻量；或投机解码成本大小模型级联，简单请求走小模型，复杂请求触发LLM 评估困难离线用A/B test，在线关注用户停留时长等长期指标五、快手场景的特殊考量短视频推荐的核心是实时性+多样性： LLM适合做session级别的兴趣总结（如识别用户从"搞笑"转向"知识"）不适合逐帧实时推理，可…

#快手#LLM推荐系统#LLM 推荐系统

面试题·RAG· 蚂蚁

时间窗口对话系统：约束与取舍

匹配正文：…数据（归档/丢弃）时间感知的注意力：对超出窗口的token施加位置编码惩罚或掩码动态窗口滑动：非均匀采样，近期密集、远期稀疏模型推理输入构造时需显式注入时间戳元信息（如[2024-01-15 09:23] 用户: ...）长上下文模型中，利用NTK-aware插值或YaRN适配时间跨度变化 RAG增强向量检索 + 时间衰减重排：score = semantic_score × exp(-λ·Δt) 避免硬过滤：保留高语义相关但较早的内容作为"背景知识" 用户体验设…

#蚂蚁#时间窗口对话#时间窗口对话系统

面试题·RAG· 小红书

生成式推荐系统未来怎么发展？

匹配正文：…打分排序），生成式推荐则是直接生成用户可能感兴趣的item或内容，范式更接近"预测下一个token"。四个维度的改进方向 1. 模型架构：统一生成范式当前：ID-based序列建模（SASRec等）与生成式LLM割裂趋势：用生成式统一框架替代多阶段漏斗（召回→粗排→精排→重排）关键：设计适配推荐的Tokenizer（将item ID、属性、内容编码为统一token） 2. 训练方式：多任务+反馈学习引入RLHF/DPO：利用用户真实反馈（点击、收藏、时长）优化生成质…

#小红书#生成式推荐趋势#生成式推荐系统

面试题·RAG· 百度

RAG 项目指标化复盘

匹配正文：真实性边界这是 RAG 项目经历题。公司、客户、语料规模、模型、索引、个人贡献和指标必须来自候选人的真实项目。不得使用题库预设的制造业知识库、设备编码或效果数字。回答框架场景与目标：用户问题、知识来源、更新频率、权限、主指标和服务预算。个人职责：填写本人实际负责的模块，例如文档、检索、重排、生成、评测、服务或监控，并明确团队依赖。完整链路：采集与解析 → 分块和元数据 → 索引 → 查询处理 → 召回 → 重排 → 上下文 → 生成与引用 → 观测。选型取舍：稀疏…

#百度#RAG项目复盘#RAG 项目指标化复盘

面试题·检索· 字节

RAG检索质量提升5法

匹配正文：…实体和编号匹配，稠密向量擅长语义近似，可用 RRF、归一化加权或学习排序融合。随后只对有限候选使用 Cross-Encoder 等重排模型。具体候选数由 Recall、nDCG、吞吐和延迟预算决定，不使用固定通用值。 3. 检索后：上下文选择对候选做权限和元数据过滤、去重、证据片段抽取、上下文压缩与排序，保留引用关系。块大小和压缩策略取决于文档结构、查询类型与模型窗口，不能用统一的 256/1024 token 规则。压缩还可能丢失限定条件，需单独评测证据保留率。 4. 动…

#字节#重排与优化#RAG 检索质量提升

面试题·检索· 字节

RAG Retriever 工作流程详解

匹配正文：…权限标签）减少搜索空间 4. 候选排序与筛选多路召回：向量+稀疏（BM25）+ 关键词，线性加权或Learned Fusion 重排序（Rerank）：Cross-Encoder精排，如bge-reranker，Top-K从100→20 去噪策略：置信度阈值、聚类去重 5. 性能影响要点环节核心瓶颈优化方向 Embedding 模型推理延迟量化INT8、ONNX/TensorRT、批处理 ANN检索内存占用、建索引时间分层量化、增量索引 Rerank 二次编码开…

#字节#重排与优化#RAG Retriever 工作流程

面试题·检索· 字节

专业领域RAG链路优化陷阱

匹配正文：…向量 BM25 + 领域词表扩展专业术语精确匹配图索引知识图谱（医疗UMLS/法律法条引用）跨文档逻辑关联关键优化：向量模型用领域语料做MLM+对比学习二次预训练三、检索策略：多路召回+精排召回层：向量Top-K + BM25 Top-K + 图谱邻居扩展，合并去重重排序：Cross-encoder（如bge-reranker）精排，领域数据微调；法律场景加入引用频率和时效性作为手工特征查询改写：用LLM做Query2Doc扩展，医疗场景做症状标准化对齐四…

#字节#重排与优化#RAG 链路优化

面试题·检索· 百度

RAG 瓶颈在哪一步

匹配正文：…流程四阶段架构：阶段核心任务关键组件索引构建文档→Chunk→Embedding→向量库分块策略、Embedding模型、索引结构检索召回 Query→Embedding→Top-K检索向量检索、关键词补充、混合检索精排过滤粗排结果→相关性打分→筛选重排序模型、多样性控制、阈值截断生成合成上下文+Query→LLM生成答案 Prompt工程、引用溯源、幻觉抑制关键瓶颈与优化策略瓶颈1：检索延迟高（P99>500ms）根因：向量库规模大、索引…

#百度#重排与优化#RAG 系统瓶颈

面试题·检索· 小红书

RAG 检索偏差怎么系统性解决?

匹配正文：… 混合检索向量+关键词+稀疏检索（BM25）互补，降低单路失效风险索引优化语义滑窗切分、关键实体提取、文档质量预过滤 2. 重排序层向量重排：用更强的embedding模型（如gte-large）二次精筛交叉编码器：ColBERT/BGE-reranker计算query-doc细粒度交互，捕捉字面匹配信号动态截断：根据分数分布自适应调整k值，避免硬截断引入噪声 3. 生成控制层置信度门控：检索文档与query的相似度低于阈值时，触发"知识不足"提示，抑制幻觉证…

#小红书#美团#重排与优化

面试题·检索· 字节

RAG 原理与核心架构

匹配正文：…生成答案。系统架构与四大模块模块核心功能关键技术索引构建离线处理文档，构建可检索的向量库文档切分、Embedding模型、向量数据库（Milvus/Faiss）检索器从海量文档中快速召回Top-K候选稠密检索（DPR）、稀疏检索（BM25）、混合检索重排序精排候选，提升相关性 Cross-Encoder、ColBERT 生成融合将检索结果与Prompt结合，约束生成上下文拼接、引用标注、多文档融合策略三大优势的技术机制 1. 事实准确性提升机制…

#字节#重排与优化#RAG 原理与核心架构

面试题·检索· 阿里

RAG流程：检索到生成各阶段陷阱

匹配正文：…效的首要环节 2. 文档检索（召回阶段）方法适用场景实现要点向量检索（Dense）语义匹配、长尾查询 Embedding模型选择（BGE/M3E）、向量数据库（Milvus/Faiss）、HNSW索引关键词检索（Sparse/BM25）精确匹配、实体查询分词策略、词频权重调优混合检索通用场景 RR融合或线性加权，兼顾语义与精确匹配质量影响：召回率决定答案上限，需平衡速度与精度（Top-K通常取20-100） 3. 重排序（精排阶段）必要性：双塔Embe…

#阿里云#重排与优化#向量检索