匹配正文：答案要点长期记忆的常见存储形式（向量库、知识图谱、外部数据库）大规模记忆的检索优化策略（分层索引、摘要压缩、时间衰减）工程权衡（延迟vs召回率、存储成本）实际落地经验（如MemGPT、LangChain Memory的实现思路）长期记忆的存储形式 Agent系统的长期记忆通常采用分层混合存储：层级存储形式适用场景工作记忆上下文窗口/Redis 当前对话轮次、临时变量短期记忆向量数据库（Milvus/Pinecone）近期对话Embedding、语义检…

#字节#Agent 长期记忆#向量索引

面试题·知识图谱· 海尔

数据/架构/推理/工具怎么选?

匹配口述回答：…景，比如电商大促期间满减政策天天变。但 RAG 也不是万能药，检索质量差的话，上下文喂错了反而放大幻觉。所以落地时我通常会配合[[重排]]，用[[Cross-Encoder]]把检索结果再精排一遍，把不相关的滤掉。推理策略层面，这里有个简单但有效的方法叫[[Self-Consistency]]。就是让模型对同一个问题生成多条回答，比如温度设0.7跑五次，然后看哪些答案互相一致，不一致的说明可能有问题。还有一个更高级的变体叫[[Chain-of-Verification]]，…

#海尔#幻觉治理#大模型幻觉缓解

面试题·知识图谱· 海尔

训练/推理/外部知识怎么选?

匹配正文：答案要点从预训练、SFT、RLHF三阶段分析训练侧优化方法阐述解码策略如约束解码、自我验证、多采样投票等推理机制优化说明RAG检索增强和知识图谱等外部知识集成方案体现系统性思维，覆盖训练-推理-外部知识全链路一、训练阶段优化预训练阶段提升数据质量：去重、过滤低质网页、增加权威来源（书籍、论文、百科）比例知识边界感知：在数据中显式标注"不确定"表述，让模型学会表达未知 SFT阶段构造高质量事实性指令数据，答案需带引用来源引入"拒绝回答"样本：对超出知识范围的…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#海尔#外部知识集成#大模型幻觉

面试题·多模态· 淘天

多模态 RAG 架构设计

匹配正文：…合文档理解 Qwen-VL-RAG 统一多模态Embedding 中文优化，图文联合表征 LlamaIndex多模态多向量空间+重排序工程成熟，灵活度高 3. 关键架构差异 Embedding层方案A：冻结视觉编码器（CLIP/SigLIP）+ 投影对齐方案B：端到端训练（如ColPali的ViT+Transformer）检索策略早期融合：图文拼接后统一编码晚期融合：分别检索后加权融合 4. 适用场景文档智能：发票、合同、研报（ColPali优势）电商搜索：…

#淘天#多模态#多模态 RAG 架构设计

面试题·多模态· 阿里

Multi-modal RAG 是什么?

匹配正文：…案要点明确多模态RAG的定义（支持文本、图像、视频、音频等多模态输入和检索）技术挑战（跨模态语义对齐、多模态索引构建、模态融合策略）核心组件（多模态编码器、跨模态检索器、多模态生成器）典型应用场景（电商图文搜索、医疗影像诊断、工业质检、多模态客服）什么是多模态RAG 传统RAG只检索文本知识，多模态RAG将检索范围扩展到图像、视频、音频、表格等多模态数据，实现"以文搜图、以图搜文、跨模态联合推理"的增强生成。核心挑战 vs 文本RAG 维度传统文本RAG 多模态…

#阿里#多模态#Multi-modal RAG

面试题·Prompt· 百度

RAG 改写与 Prompt 链路

匹配正文：…riginal_query} 【要求】 - 直接回答，不要复述问题 - 不确定时明确说明 - 引用格式：[编号] 4. 进阶技巧重排序提示：把检索分数作为文本提示注入，帮助模型判断可信度动态上下文：根据query类型选择不同提示模板（事实型/观点型/计算型）负样本提示：主动告知"以下文档与问题无关，请忽略"，过滤噪声三、工程权衡策略收益成本 HyDE 召回+15-20% 多一次LLM调用查询分解多跳问题准确率提升延迟×N，需并行化长上下文重排序答案相关…

#百度#小鹏#美团

面试题·Prompt· 商汤科技

RAG Prompt 模板设计陷阱

匹配正文：… 明确区分系统指令、检索上下文与用户查询三部分结构设计防幻觉机制（如要求基于引用回答、不确定时声明）处理长上下文截断与冗余去重策略多片段排序与相关性加权提示输出格式约束（如带引用标记的结构化输出）核心设计原则 RAG的prompt设计关键是清晰隔离信息源，让模型明确区分"已知事实"和"需要回答的问题"。推荐模板结构【系统指令】你是一个基于检索文档回答问题的助手。严格遵循： 1. 仅使用提供的参考文档作答，禁止依赖预训练知识 2. 若文档信息不足，明确说明"根据…

#商汤科技#Prompt工程#Prompt 模板设计

面试题·RAG· 百度

对话模型准确性怎么提?

匹配口述回答：…织答案。ReAct等循环可以把推理与工具调用串起来，但必须处理超时、错误返回和多轮累积误差。知识库侧可以比较关键词与向量混合检索、重排和更新策略，记录每个模块对最终质量的实际贡献。我的实施顺序是先固定任务、评测集和预算，建立基线，再分模块比较事实正确率、引用支持率、延迟和成本。架构与训练的投入较高，RAG和Agent更方便按模块迭代，但也增加链路复杂度。选择要由测量结果决定，并持续跟踪失败样本。先明确目标：在固定任务与评测集上比较事实正确率、引用支持率、延迟和成本架构与…

#百度#对话模型准确性#模型架构优化

面试题·RAG· 字节

RAG 怎么提升生成准确性?

匹配正文：…需重训模型领域适配微调成本高零样本接入私有知识关键优化点检索质量：Embedding模型微调、混合检索（向量+关键词）、重排序（Rerank）上下文组织：片段截断策略、多轮检索、检索结果去重融合生成控制：提示词约束模型严格基于检索内容回答，拒绝无关Query 与微调对比 RAG优势在于知识可解释、更新即时、成本可控；适合知识频繁变更、需溯源的场景。微调更适合改变模型行为风格或需要内化复杂推理模式的任务。学习建议建议系统学习该知识点

#字节#外部知识检索#RAG 原理

面试题·RAG· 字节

RAG 怎么提升生成质量?

匹配正文：…成本接入私有知识，比微调便宜10-100倍可解释性：答案从哪来一目了然关键优化点（加分项）检索侧：Query改写、多轮检索、重排序（Cross-Encoder精排）生成侧：上下文窗口压缩、让模型先判断"是否足够回答" 工程侧：缓存热点Query、检索失败兜底策略一句话总结 RAG = 给LLM配个"外挂硬盘"，需要时查资料，不用死记硬背，答不准还能甩锅给知识库。学习建议建议系统学习该知识点

#字节#大模型幻觉#RAG 原理

面试题·RAG· 百度

RAG 索引构建管线

匹配正文：RAG索引环节的优化核心在于**"怎么存"和"怎么找"**两个维度，常见策略如下：一、分块策略优化动态分块：按语义边界（句子、段落）而非固定长度切分，避免切断关键信息重叠窗口：把零重叠、短窗口与较长窗口作为候选，用同一评测集验证是否减少边界证据丢失多粒度索引：同时存储句子级（精）和段落级（全），检索时按需召回二、Embedding层优化模型选型：垂域数据用BGE、M3E等开源模型，必要时Domain-Specific微调多向量表示：ColBERT的late in…

#百度#RAG索引优化#RAG 索引构建管线

面试题·RAG· 阿里

LangChain vs LlamaIndex 架构差异？

匹配正文：…mpt、Model、Parser等组件生态集成：广泛的第三方工具连接器（搜索、数据库、API等） LlamaIndex强项索引策略：VectorStoreIndex、TreeIndex、KGIndex等10+种索引结构检索优化：自动路由、重排序、递归检索、子问题分解数据连接器：150+种数据源开箱即用（PDF、SQL、Notion等）选型建议场景推荐框架原因多步骤Agent（数据分析→生成报告→邮件发送） LangChain 需要复杂的状态管理和工具编排百…

#阿里云#LangChain与LlamaIndex#LangChain vs LlamaIndex

面试题·RAG· 字节

医疗法律RAG架构怎么搭？

匹配正文：…领域同义词词典（如ICD-10编码映射）结构化检索：SQL/图查询针对法条层级、药品属性精排与过滤 Cross-Encoder重排序时效性过滤（法律：优先现行有效；医疗：优先近3年指南）权威性分级（法规 > 专家共识 > 文献）生成模块 Prompt设计你是{领域}助手，基于以下参考资料回答： [检索片段，带来源标注] 约束：1) 不确定时明确说明 2) 引用具体条款/文献 3) 禁止编造安全机制拒答策略：超范围问题（如具体诊疗建议）转人工引用溯源：输出必须…

#字节#专业领域RAG#RAG 系统设计

面试题·RAG· 阿里

LangChain vs LlamaIndex 场景怎么选？

匹配正文：…等上下文持久化方案 LlamaIndex的核心能力数据连接器：100+种数据源（PDF、Notion、数据库、SaaS等）索引策略：VectorStoreIndex、TreeIndex、KGIndex、DocumentSummaryIndex等检索优化：自动检索器选择、混合搜索、重排序（rerank）、递归检索查询引擎：支持子问题分解、多文档对比、结构化数据查询选型决策优先选LangChain 需要调用多个外部工具/API的复杂Agent 工作流涉及条件判断、循环…

#阿里云#AI框架选型#LangChain vs LlamaIndex

面试题·RAG· 小红书

RAG 检索噪声怎么处理?

匹配口述回答：…条是生成阶段让模型自己学会抗干扰。先说检索阶段怎么净化。核心思路不是把召回量做上去，而是把质量提上来。最直接的方法是加一层 [[重排]]，用 [[Cross-Encoder]] 把召回的候选文档逐对打分，过滤掉那些低相关的。这招效果很稳，但计算成本高，一般只对 top 几十的候选做，不会全量做。还有一种做法是上下文压缩，用个小模型或者 LLM 对长文档做摘要，减少噪声信息占比。举个例子，企业 SOP 合规场景，文档里可能夹杂了历史版本说明和废弃流程，压缩之后只保留当前有效条…

#小红书#检索噪声过滤#RAG 噪声处理

面试题·RAG· 小红书

新用户冷启动：生成式推荐与Embedding

匹配口述回答：…的混合架构。生成式负责快速拉出候选集，但它的排序不够精准，所以后面接一个[[Bi-Encoder]]或者轻量的排序模型，把候选[[重排]]一下。这个架构的优点是冷启动阶段效果好，但代价是多了生成这一步，延迟会高。如果对实时性要求特别高，比如首页推荐必须在50毫秒内返回，那生成式召回可能撑不住，得换成更轻量的策略，比如直接基于画像的向量检索。我最近在思考一个问题：生成式推荐在冷启动阶段表现不错，但用户行为积累多了以后，怎么平滑过渡到传统协同过滤？直接切换会不会导致推荐结果断层…

#小红书#新用户冷启动#生成式推荐

面试题·RAG· 快手

LLM怎么融入推荐系统？意图理解与生成

匹配正文：… 生成推荐理由/模板：LLM生成个性化文案，提升点击率更成熟，快手已落地"为你推荐"的个性化话术四、核心挑战与应对挑战应对策略幻觉（推荐不存在item）约束解码+检索增强（RAG），先召回候选集再重排实时性 LLM只做离线特征或粗排，精排保持轻量；或投机解码成本大小模型级联，简单请求走小模型，复杂请求触发LLM 评估困难离线用A/B test，在线关注用户停留时长等长期指标五、快手场景的特殊考量短视频推荐的核心是实时性+多样性： LLM适合做sessi…

#快手#LLM推荐系统#LLM 推荐系统

面试题·RAG· 淘天

RAG 模型分类有哪些?

匹配正文：…事实性问答、内部文档查询等单跳、确定性场景 2. Advanced RAG（优化架构）架构：检索前（查询改写/扩展）→ 检索中（重排序/混合检索）→ 检索后（上下文压缩/摘要）→ 生成核心改进：查询优化：HyDE（假设文档嵌入）、Query2Doc 精排策略：Cross-encoder重排、多路召回融合上下文处理：Recomp压缩、选择性上下文适用：企业知识库、产品手册等噪声多、需精排的场景 3. Modular RAG（模块化/Agent化）架构：检索与生成解耦…

#淘天#RAG架构分类#RAG 分类

面试题·RAG· 小红书

生成式推荐系统未来怎么发展？

匹配正文：…范式当前：ID-based序列建模（SASRec等）与生成式LLM割裂趋势：用生成式统一框架替代多阶段漏斗（召回→粗排→精排→重排）关键：设计适配推荐的Tokenizer（将item ID、属性、内容编码为统一token） 2. 训练方式：多任务+反馈学习引入RLHF/DPO：利用用户真实反馈（点击、收藏、时长）优化生成质量解决生成式推荐的"曝光偏差"和"奖励稀疏"问题小红书场景：笔记生成需对齐"收藏率"而非单纯点击率 3. 推理效率：动态解码策略核心矛盾：生成…

#小红书#生成式推荐趋势#生成式推荐系统

面试题·RAG· 小红书

ROI 问题怎么影响推荐效果?

匹配正文：…索+多样性惩罚 Top-p/Nucleus采样：引入随机性，避免贪婪解码 MMR（最大边际相关）：相关性-多样性联合排序后处理/重排行列式点过程（DPP）：建模物品间相似度矩阵，优化子集多样性滑动窗口去重：过滤近期已曝光内容模型结构解耦表示学习：将兴趣表示分解为多个因子，独立控制各维度多样性小红书场景特点内容平台更关注Repetition（同一博主刷屏）和多样性（跨类目发现），通常采用"DPP重排 + 曝光过滤 + 探索流量扶持"的组合策略。学习建议建议系统…

#小红书#推荐多样性#ROI 问题

面试题·RAG· 百度

RAG 技术原理与核心组件详解

匹配正文：…答引用溯源：输出参考文档编号，增强可信度标准工作流程用户Query → Query理解/改写 → 向量检索（Top-K）→ 重排序 → 上下文组装 → LLM生成 → 后处理（溯源/拒答）核心优势维度说明时效性知识库实时更新，无需重新训练可解释性答案可溯源到具体文档成本比全量SFT低几个数量级领域适配快速接入私有/专业文档关键挑战检索精度：语义Gap导致"找不准"，需迭代优化Embedding和切分策略上下文窗口：多文档拼接易超长度，需压缩或…

#百度#RAG核心组件#RAG 技术原理

面试题·RAG· 百度

RAG 项目指标化复盘

匹配口述回答：…何一层，都能回到真实 trace 和实验。 RAG本质是让大模型先查后答，不是硬记数据层：多源解析和表格保留检索层：混合召回加重排，型号编码单独倒排生成层：置信度阈值防幻觉，版本冲突处理落地前提和风险约90秒即使检索准，模型仍可能忽略部分上下文，需要更精细的段落关联策略，但会引入延迟追问：具体怎么用Parent Document策略？或者怎么在延迟和上下文完整性之间平衡？

#百度#RAG项目复盘#RAG 项目指标化复盘

面试题·RAG

Deep Research vs RAG 怎么选?

匹配正文：…回答结构化研究报告（带引用）技术原理差异 RAG 架构：Retriever → Reranker → Generator 检索策略：向量相似度匹配，依赖静态索引关键优化：分块策略、重排序、Hybrid Search Deep Research 架构：Planning Agent + Tool Use + Memory 核心机制：动态生成子问题（Decomposition）基于中间结果决定下一步检索方向多源信息整合与交叉验证典型实现：ReAct/CoT + 浏览器…

#Deep Research#RAG#Deep Research vs RAG

面试题·检索· 字节

医疗法律 RAG 架构关键环节

匹配正文：答案要点领域知识结构化与分层存储设计多路召回与重排序策略生成器领域适配与约束机制幻觉控制与可解释性保障系统全链路的评测与迭代闭环整体架构用户Query → 意图识别 → 多路检索 → 重排序 → 上下文组装 → 领域生成 → 后校验 → 输出一、数据预处理（领域知识工程）核心挑战：专业文档结构复杂、术语密集、时效性强层级处理策略文档解析医疗：DICOM/HL7标准解析、病历结构化；法律：合同条款拆分、法条引用识别 Chunk策略语义切分（基于BER…

#字节#领域RAG架构#专业领域 RAG