匹配正文：…多生成幻觉/利用不足引用强制（要求标注来源）、检索内容前置、Self-RAG（生成时判断是否需要检索）对事实性要求高的场景长上下文处理差分层检索（摘要→细节）、递归检索、信息去重合并需要多文档推理的复杂问题三、迭代实践建议先诊断后优化：用错误案例分析定位是检索失败还是生成失败建立回归测试集：覆盖高频Query和边界Case A/B验证：离线指标提升≠线上效果提升，需小流量验证学习建议建议系统学习该知识点

#字节#评估与监控#RAG 评估

面试题·评估· 小红书

RAG 有哪些主要缺陷?

匹配正文：…界）、层次索引（摘要+详情）、多粒度召回二、生成阶段的缺陷 3. 上下文利用不足（Lost in the Middle）模型对长上下文中间位置信息遗忘，关键证据在prompt中间时被忽略改进：重排序把关键文档放首尾、压缩/摘要减少长度、显式引用机制 4. 知识冲突与幻觉检索内容与大模型参数知识矛盾时，模型可能"固执己见"或随机选择改进：置信度校准、检索内容高亮标记、source attribution强制引用三、系统层面局限 5. 延迟与成本检索+重排+生成链路…

#小红书#RAG 局限性#RAG 缺陷

面试题·评估

RG 系统效果差怎么排查?

匹配正文：…否回答了用户问题诊断方法固定输入"完美上下文"（人工构造含答案的片段），观察模型是否仍能正确生成若仍出错：检查指令遵循能力、长上下文理解、或SFT数据分布偏移三、定位协同环节问题常见耦合故障：现象根因验证方式答案在上下文里，模型却"看不见" 检索片段过长/冗余，关键信息被淹没截断/重排序实验多片段信息冲突，模型选错缺乏冲突消解机制单片段 vs 多片段输入对比检索到相关但非最优片段排序模型与生成偏好不对齐交换Top-1和Top-2观察生成变化四…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#检索归因#生成归因#RG 系统故障排查

面试题·评估

RAG效果差：检索vs生成怎么诊断？

匹配正文：…断方法黄金文档实验：把人工标注的理想文档强制喂给生成模型，看输出是否变好变好 → 检索问题仍差 → 生成问题（指令遵循不足、长上下文理解差、或SFT数据有偏）上下文长度消融：逐步截断输入文档，观察性能衰减曲线，判断模型长文本能力瓶颈第三层：协同环节问题（最易被忽视）典型症状检索文档相关但生成忽略（选择性失明）多文档信息冲突时生成混乱（矛盾融合失败）检索文档冗余导致关键信息被淹没（信噪比问题）诊断方法注意力可视化：分析生成时对不同文档片段的注意力权重文档…

#检索诊断#生成协同#RAG 效果诊断

面试题·模型微调· 京东

300-500意图怎么召回?

匹配正文：…精排+重排）上下文压缩与动态示例选择 Embedding模型微调与领域适配实时性能与准确率的平衡方案核心思路：三层架构解决"长上下文+多意图"困境一、层次化意图体系（解决300+意图爆炸）一级路由（10-20个意图簇）→ 二级分类器（每簇20-30个意图）聚类策略：基于业务语义+历史query共现，用K-Means/Spectral聚类构建意图树动态路由：先用轻量模型（TinyBERT级）做一级判断，缩小候选空间到30个以内二、多路召回机制（替代全量Promp…

#京东#大规模意图识别#上下文长度限制

面试题·模型微调· 字节

架构与训练怎么提升多轮一致性?

匹配正文：一、模型架构设计长上下文建模稀疏注意力：采用Longformer/Sliding Window Attention，将复杂度从O(n²)降到O(n×w)，保留局部精细交互+全局稀疏聚合 Ring Attention / Striped Attention：序列分块循环计算，支持百万级token，适合超长对话历史分层编码：短窗口做token-level注意力，长历史用sentence/turn-level压缩表示显式记忆机制短期记忆（Context Window）：最…

#字节#模型微调#多轮对话一致性

面试题·模型微调· 科大讯飞

Prompt 怎么设计和优化?

匹配正文：…果全部归因于 Prompt。追问入口准备解释示例如何选择、上下文污染如何防止、结构化输出是否真正受约束、评测器偏差、提示注入、长上下文成本，以及何时应改用微调或 RAG。

#科大讯飞#阿里#模型微调

面试题·模型微调· 字节

RAG Embedding 模型怎么选?

匹配正文：…力与任务匹配区分度：同类文档能否拉开向量距离（如BGE、GTE在中文场景表现好）粒度匹配：句子级vs段落级检索，长文本需用支持长上下文的模型（如M3E、BGE-large支持512-8192 tokens） 2. 语言覆盖纯中文：BGE、GTE、M3E等国产模型更优多语言/跨语言：OpenAI text-embedding-3、E5-mistral等多语言模型代码检索：需CodeBERT、CodeT5等专用模型 3. 效率与成本模型大小：小模型（如BGE-smal…

#字节#向量检索#RAG Embedding 选型

面试题·模型微调· 美团

RAG 深度与局限怎么破?

匹配正文：…索后聚合 3. 生成层：上下文工程检索结果按相关性重排序，关键信息置首尾（利用位置偏置）上下文压缩：用更小模型提取关键句，缓解长上下文噪声 4. 系统层：反馈闭环用户点赞/点踩数据回流，微调Embedding模型（领域适配）检索失败检测：当置信度低于阈值，触发主动澄清或转人工技术边界与选型 RAG不是万能解，需与SFT、Agent协同：高频稳定知识 → SFT内化到模型参数动态/海量知识 → RAG外挂复杂任务执行 → Agent+RAG（检索作为工具之一） …

#美团#RAG 局限性#RAG 优化方向

面试题·模型微调· 快手

Agent 系统怎么调优优化?

匹配正文：…制JSON schema，内置RAG检索 Claude Computer Use 多模态感知+GUI操作，截图理解+鼠标键盘控制，长上下文（200K）支撑复杂任务智谱AutoGLM 手机端Agent，通过UI元素理解实现"说一句话订外卖"，端到端训练而非规则拼接快手快意Agent 视频理解+创作闭环，从素材检索、脚本生成到剪辑渲染的全链路自动化 MetaGPT 多Agent协作框架，角色分工（产品经理→架构师→工程师），SOP流程固化共性技术趋势：从"单Agent工具调…

#快手#Agent#Agent 调优

面试题·模型微调

RAG检索相关但生成差原因

匹配正文：…要点区分"检索相关"与"对生成有用"的差异，识别信息过载/碎片化问题提示工程层面：重排序、上下文压缩、指令明确性上下文建模：长上下文窗口利用、多文档融合策略、噪声过滤模型微调：领域适配SFT、检索感知训练、负样本挖掘系统性思维：端到端优化而非单点修复核心诊断：检索≠可用检索相关但生成差，本质是检索结果与生成需求不对齐。常见原因：信息过载：Top-K过多导致噪声淹没信号，或关键信息被截断碎片化：多个文档各含部分答案，模型缺乏整合能力格式混乱：原始文档结构破坏…

#上下文压缩#生成调优#RAG 生成优化

面试题·模型微调· 字节

动态Prompt训练数据怎么构建?

匹配正文：…/XML嵌入Prompt）位置敏感设计：关键信息（如最新Observation）放在Prompt尾部，利用位置偏置截断策略：超长上下文时，保留摘要而非简单截断——需同步训练摘要模块四、质量验证：动态执行闭环训练数据必须通过真实执行验证：工具调用是否可解析执行执行结果与标注Observation是否一致多轮后是否收敛到正确终态数据迭代：建立"执行失败→归因分析→补充样本"的飞轮，而非一次性标注。

#字节#动态Prompt训练数据#Prompt微调数据构建

面试题·模型架构

上下文窗口是什么?超了怎么办?

匹配正文：…话系统通常是:最近几轮对话保留原文 + 更早的对话滚动摘要 + 领域知识走 RAG,三者拼成最终的 prompt。入门后可以深入长上下文外推技术(RoPE 插值、YaRN),以及「窗口大了但中间内容记不住」的 Lost in the Middle 问题。

#入门#基础概念#上下文窗口

面试题·推理优化

KV Cache 是什么?为什么能加速推理?

匹配正文：…头数 × 头维度 × 已缓存长度 × 并发序列数 × 每元素字节数。实际还受分页/元数据、前缀共享、滑窗、量化与MLA等架构影响；长上下文多并发时可与权重相当或更多。显存于是决定了能同时服务多少用户、每人能聊多长——这正是大模型推理服务贵在显存的重要原因入门后可深入 PagedAttention(vLLM 的分页式缓存管理)、GQA/MQA(从架构上减少 KV 头数)以及 KV Cache 量化。参考资料 Transformers官方缓存原理

#入门#基础概念#KV Cache

面试题·知识图谱· 淘天

RAG 系统痛点怎么破?

匹配正文：…ion）表现：有效信息淹没在大量检索结果中，模型注意力分散，关键细节丢失根源：固定Top-K截断，无关文档挤占有效token；长上下文模型对中间位置信息召回弱（Lost in the Middle）改进：动态上下文压缩，用更小模型做摘要过滤；检索结果聚类去重，减少冗余；调整文档排序策略，将高置信度结果放首尾 3. 语义鸿沟（Semantic Gap）表现：用户问题与文档表述方式差异大，字面匹配失败根源：Embedding的语义空间对齐不足；跨领域、跨粒度（词级vs概…

#淘天#知识图谱#RAG 痛点

面试题·多模态· 快手

多模态 RAG 与传统 RAG 差异在哪?

匹配正文：…齐难题：图文语义不对齐（如产品图vs营销文案），简单拼接导致噪声上下文长度爆炸：多帧视频或高分辨率图像token数远超文本，触发长上下文瓶颈训练数据稀缺：高质量的<问题, 图像证据, 文本答案>三元组数据难以构建典型实现与应用实现方式： CLIP-based双塔：图像和文本共享嵌入空间，用FAISS/Pinecone构建多模态向量库多模态LLM + RAG：GPT-4V/InternVL等原生支持图像输入，检索阶段返回图像+文本混合上下文应用场景：电商客服：用户…

#快手#多模态#多模态 RAG

面试题·多模态· 小鹏

RAG 中表格图片怎么处理?

匹配正文：…齐：图文语义不对齐（如图片配错说明文字）→ 用多模态预训练或对比学习微调成本与延迟：视觉Encoder计算重、图片token占用长上下文 → 权衡用截图缩略图或分层检索评估困难：多模态答案的正确性难以自动评测 → 需构建多模态评测集实际落地中，建议先做文档类型路由（纯文本走轻量链路，复杂文档走多模态链路），逐步迭代。

#小鹏#多模态#RAG 表格处理

面试题·Prompt· 华为

Few-shot 提示怎么用?

匹配正文：…近因效应），简单示例前置建立信心优势与局限优势局限零成本适配新任务示例占用token，增加推理成本无需训练数据积累超长上下文模型才能承载复杂示例可解释、可快速迭代对示例质量敏感，"垃圾进垃圾出" 工程实践：生产环境常将Few-shot作为兜底策略——先尝试Zero-shot，效果不达标再引入精选示例，而非一上来就堆示例。学习建议建议从具体任务入手，如分类、生成，动手设计单样本和多样本提示，对比输出差异，理解few-shot如何引导模型。

#华为#Few-shot 提示#Prompt 工程

面试题·Prompt· 字节

RAG Generator 怎么构造 Prompt?

匹配正文：…排序、证据边界、引用约束和冲突处理。报告答案正确性、引用支持率、faithfulness、覆盖率、拒答率、token 和延迟，并按长上下文、冲突证据和无答案问题切片。任何效果必须来自该受控实验，不能用无来源的百分比代替。

#字节#Prompt工程#RAG Generator Prompt

面试题·Prompt· 科大讯飞

Prompt 设计原则有哪些?

匹配正文：…契约】Schema、字段含义及校验失败后的处理关键优化顺序先建立固定评测集和 bad case 分类，再修改 Prompt。长上下文只注入相关证据，并记录截断和检索策略。 Few-shot 示例覆盖正常、模糊、拒绝和格式边界，避免只放成功样本。结构化输出使用 Schema 校验和有限重试，不能只依赖自然语言要求。 Prompt 版本与模型版本、评测集版本一起记录，通过回归测试再发布。不应默认要求模型输出隐藏推理过程；复杂任务可以要求简洁的依据或检查步骤，但生产系统更…

#科大讯飞#阿里#Prompt工程

面试题·Prompt· 百度

RAG 改写与 Prompt 链路

匹配正文：…三、工程权衡策略收益成本 HyDE 召回+15-20% 多一次LLM调用查询分解多跳问题准确率提升延迟×N，需并行化长上下文重排序答案相关性提升受限于模型长度实际落地中，建议先做离线评测确定改写策略的收益，再逐步上线；提示词用A/B测试验证不同指令模板的效果。

#百度#小鹏#美团

面试题·Prompt· 商汤科技

RAG Prompt 模板设计陷阱

匹配正文：答案要点明确区分系统指令、检索上下文与用户查询三部分结构设计防幻觉机制（如要求基于引用回答、不确定时声明）处理长上下文截断与冗余去重策略多片段排序与相关性加权提示输出格式约束（如带引用标记的结构化输出）核心设计原则 RAG的prompt设计关键是清晰隔离信息源，让模型明确区分"已知事实"和"需要回答的问题"。推荐模板结构【系统指令】你是一个基于检索文档回答问题的助手。严格遵循： 1. 仅使用提供的参考文档作答，禁止依赖预训练知识 2. 若文档信息不足，明确说…

#商汤科技#Prompt工程#Prompt 模板设计

面试题·RAG· 百度

对话模型准确性怎么提?

匹配正文：…e），让模型自主决定何时检索、如何使用 Toolformer范式：预训练阶段嵌入API调用能力，将外部工具调用内化为模型原生能力长上下文优化 NTK-aware RoPE、YaRN 等方法用于扩展可处理的上下文；具体长度和质量取决于模型及训练配置。更长窗口能减少截断，但不能代替检索质量与事实核验。二、训练策略层面数据质量提升指令微调数据：过滤低质量指令，引入思维链（CoT）数据增强推理能力知识边界标注：明确标注"已知/未知"样本，训练模型识别知识盲区对齐训练 DP…

#百度#对话模型准确性#模型架构优化

面试题·RAG· 淘天

RAG 核心架构与工作流程

匹配正文：…检索失效召回文档不相关或遗漏混合检索（BM25+向量）、查询重写、重排序上下文爆炸多文档超出窗口限制摘要压缩、分层检索、长上下文模型多跳推理弱需跨文档关联时易断链引入知识图谱、迭代检索（Self-RAG）生成与检索耦合模型过度依赖或忽略检索内容训练时加入"无相关信息"样本、调整prompt权重典型失败案例：用户问"对比A和B产品的差异"，若检索分别返回A、B的独立介绍而无直接对比文档，模型难以自行归纳差异——这是RAG在综合推理类问题上的天然瓶颈。 …

#淘天#阿里#RAG 架构