匹配口述回答：…文本数据时，整个系统该怎么设计。本质上是把RAG从纯文本的舒适区拉出来，让它能理解[[多模态]]信息。先讲核心差异。传统RAG的检索阶段，就是把用户query和文档库都转成文本向量，然后做相似度匹配。但多模态RAG不一样，它的query可能是图片，文档库也可能是视频。所以检索的关键变成了跨模态对齐，比如用[[CLIP]]这样的模型把图像和文本映射到同一个向量空间，这样你拿一张图去搜，也能搜到相关的文字描述。生成阶段也一样，传统RAG只把检索到的文本拼给大模型，多模态RAG需…

#快手#多模态#多模态 RAG

面试题·Prompt· 百度

大模型智能体系统架构设计思路

匹配正文：…n）核心推理引擎：支持CoT/ReAct/ToT等多范式规划模块：任务拆解 → 子目标生成 → 执行序列反思机制：执行后自我评估，失败时重规划执行层（Action）工具注册中心：标准化Schema定义（OpenAPI风格）执行沙箱：隔离环境+超时控制+权限分级结果聚合：多工具输出融合与后处理关键技术考量维度设计选择记忆系统短期：对话上下文滑动窗口；长期：向量库+结构化知识图谱双存储工具调用 Function Calling原生支持 + 动态工具检索（…

#百度#Agent 系统架构#大模型智能体设计

面试题·Prompt· 百度

RAG 改写与 Prompt 链路

答案要点 query改写的常见策略（扩展、分解、澄清、假设文档嵌入）提示词构建的核心要素（系统指令、上下文组织、引用标注、不确定性处理）实际工程中的权衡取舍（延迟vs质量、成本vs覆盖）一、Query改写策略 1. 查询扩展（Query Expansion）同义词/近义词扩展：用LLM生成语义等价表述，提升召回率 HyDE（假设文档嵌入）：让模型先写"理想答案"，用答案去检索而非原始query 子查询生成：将复杂问题拆为多个子问题并行检索，适合多跳推理场景 2. 查询…

← 上一页第 10 / 11 页下一页 →

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

匹配正文：

#百度#小鹏#美团

面试题·Prompt

封闭标签分类如何约束解码?

匹配正文：…只在所用模型/API支持时作为辅助，不能靠屏蔽首token保证完整标签合法。类别100不是通用选型门槛。超大类别或层级分类：改用Embedding检索+小模型二次确认，而非硬枚举必须属于闭集的输出：可使用完整标签序列约束、支持enum的严格结构化接口或确定性分类器/规则，并单独处理拒答、截断与无合适标签；这不等于业务决定100%正确。兜底策略：无论哪种方法，都需加后校验——用精确成员检查与schema校验确认输出属于封闭集合；模糊匹配可能把错误输出强制归类，不宜作为严格…

#Logit Bias#约束解码#封闭集合标签分类

面试题·Prompt· 阿里

Prompt 优化方法有哪些?

匹配正文：… Learning） Few-shot：提供2-5个输入-输出示例，引导模型理解任务模式；关键在示例分布覆盖边缘case 动态示例检索：用Embedding从示例库召回相似case，比静态示例更精准（RAG+Prompt结合）三、推理增强 CoT（思维链）：在示例中展示"Let's think step by step"的推理过程，激发模型逐步思考，适合数学、逻辑题 Self-Consistency：对同一问题采样多条推理路径，投票取多数答案，降低单条CoT的随机性 ToT…

#阿里#Prompt工程#Prompt 优化方法

面试题·Prompt· 百度

Agent 性能优化：架构与推理陷阱

匹配正文：…t负责任务分解，子Agent并行执行子任务，通过消息总线通信记忆机制设计短期记忆：对话上下文窗口管理，关键信息提取长期记忆：向量数据库存储历史经验，支持RAG式检索工作记忆：当前任务相关的临时状态维护推理策略优化推理范式选择 CoT（思维链）：复杂推理任务，显式生成中间步骤 ReAct：需要工具调用的场景，推理与行动交替进行 ToT（思维树）：多路径探索，用投票或评估选择最优解效率优化自适应推理深度：简单任务用单步CoT，复杂任务扩展推理步数推理预算控制：设…

#百度#Agent#Agent 性能优化

面试题·RAG· 百度

对话模型准确性怎么提?

匹配正文：…Action → Observation，多轮交互获取精确信息多工具编排：搜索引擎+计算器+代码解释器，按场景路由知识库构建向量检索（Dense）+ 关键词匹配（Sparse）混合，召回率与精确率平衡实时索引更新机制，解决知识时效性问题关键权衡：架构与训练改动成本较高，也需要持续评估；RAG 与 Agent 更易按模块迭代，但检索、工具调用和多轮生成会增加延迟。应固定任务、评测集和预算，再比较事实正确率、引用支持率、延迟与成本。延伸阅读 DPO 原论文 DeepS…

#百度#对话模型准确性#模型架构优化

面试题·RAG· 字节

RAG 怎么提升生成准确性?

匹配口述回答：…简单，就是给LLM配一本参考书，让它生成前先翻书找证据，而不是全靠记忆瞎编。具体流程分三步。第一步是建索引，把文档切碎，用 [[Embedding]] 模型转成向量存到 [[Vector Database]] 里。切分这里就有个坑：固定字数切容易把语义切散，我一般会按段落或小节切，结合[[滑动窗口]]保留上下文。第二步是检索，用户的问题也转成向量，去库里做相似度搜索，拿回Top-K个片段。第三步是生成，把检索到的片段和原始问题拼成prompt喂给LLM，让它基于这些证据回答…

#字节#外部知识检索#RAG 原理

面试题·RAG· 字节

医疗 RAG 索引如何保合规?

匹配口述回答：…标准，必须强制过人工审核。我会设计众包加专家双审流程，初级审核员先筛一遍，领域专家终审，确保万无一失。再说索引架构，我不会只依赖向量检索。因为医疗和法律场景里，精确匹配和语义理解同样重要。我会搭三级索引。第一级是向量索引，用领域微调的[[Embedding]]做语义召回，配合[[Hybrid Search]]，把关键词检索也拉进来。因为有些查询比如药品名、法条编号，向量可能不如精确匹配准。第二级是关键词索引，用Elasticsearch做精确匹配，专门处理这类结构化查询。第…

#字节#医疗RAG合规#RAG 数据处理流程

面试题·RAG· 字节

RAG 怎么提升事实准确性?

匹配口述回答：…坑：检索质量直接决定RAG的上限。如果检索回来的内容不相关，模型再强也白搭。所以我会特别关注检索这一步的工程细节，比如用 [[混合检索]]，把关键词匹配（[[BM25]]）和向量相似度（[[Dense Retrieval]]）结合起来，因为很多专业术语或编号（像订单号、错误码）向量搜不好，但关键词能精准命中。另外，切分策略也很关键，固定大小切分容易把完整语义切碎，我一般会用语义切分，配合[[滑动窗口]]加一小段上下文重叠。还有一个容易被忽略的点：RAG的评估。很多人上线后只…

#字节#RAG工作原理#RAG 工作原理

面试题·RAG· 快手

LLM怎么融入推荐系统？意图理解与生成

匹配正文：…提升点击率更成熟，快手已落地"为你推荐"的个性化话术四、核心挑战与应对挑战应对策略幻觉（推荐不存在item）约束解码+检索增强（RAG），先召回候选集再重排实时性 LLM只做离线特征或粗排，精排保持轻量；或投机解码成本大小模型级联，简单请求走小模型，复杂请求触发LLM 评估困难离线用A/B test，在线关注用户停留时长等长期指标五、快手场景的特殊考量短视频推荐的核心是实时性+多样性： LLM适合做session级别的兴趣总结（如识别用户从"搞笑"转向…

#快手#LLM推荐系统#LLM 推荐系统

面试题·RAG

Deep Research vs RAG 怎么选?

匹配口述回答：这道题其实在问一个很本质的问题：当我们需要用大模型回答问题时，是一次检索就够了，还是需要像研究员一样反复查资料。[[RAG]]和Deep Research正好代表了这两个极端。RAG的核心就是单次检索加生成，流程固定，而Deep Research是自主迭代，模型自己决定下一步查什么，查完再分析，再查，反复很多轮。具体来说，RAG的流程是：用户提问，从[[向量库]]里召回相关文档，[[重排序]]，然后生成答案。它本质上是一次性的，检索次数通常就一两次。而Deep Resear…

#Deep Research#RAG#Deep Research vs RAG

面试题·检索· 百度

RAG 瓶颈在哪一步

匹配口述回答：…一个系统级问题：你怎么让大模型在知识密集型任务上既快又准地给出答案，同时还能落地。我先画个框架，RAG可以拆成四个阶段：索引构建、检索召回、精排过滤、生成合成。但真正上线跑过的人都知道，最影响体验的其实是中间两个阶段，检索和精排。先说检索延迟这个瓶颈。如果你的[[向量库]]到了千万级，用[[HNSW]]索引，P99延迟很容易飙到500毫秒以上，用户等不了。我的做法是分场景：对高频query，我会加一层缓存，用query哈希去重，命中率能到百分之三四十，这部分延迟直接降到个位…

#百度#重排与优化#RAG 系统瓶颈

面试题·检索· 字节

RAG 原理与核心架构

匹配口述回答：这道题其实是在问，怎么让大模型在回答问题时不再凭空编造，而是能像人一样去查资料再回答。核心思路一句话：从闭卷考试变成开卷考试，先检索后生成。具体来说，系统架构可以拆成三个关键模块。先说索引构建，就是把外部知识库切分成小块，用 [[Embedding]] 模型转成向量存进 [[Vector Database]]。这里有个常见坑：切分策略很讲究，固定窗口切分简单但容易把语义割裂，所以落地时我通常会结合段落边界做语义切分。再看检索器，从向量库里召回 top-k 候选。现在主流做法…

#字节#重排与优化#RAG 原理与核心架构

面试题·检索· 字节

RAG 为何还要重排?

匹配口述回答：…牺牲了精度，所以需要精排来兜底。你可以把召回看成海选，重排是决赛，它俩解决的问题不一样。具体说一下。[[RAG]] 系统里，初步检索通常用 [[Embedding]] 加 [[ANN]]，比如 [[Faiss]] 里的 [[HNSW]] 或者 [[IVF]]。这些方法追求的是快，几毫秒从百万级库里捞 Top-K，但用的是 [[Bi-Encoder]]，查询和文档各自独立编码，最后算个余弦相似度。这么做的问题是，它只能捕捉粗粒度的语义相关，比如用户问“退款多久到账”，它可能召…

#字节#重排与优化#RAG 重排

面试题·检索· 字节

RAG 重排序怎么选?

匹配口述回答：…“好用”的关键一步。具体落地时，我倾向于至少部署一个轻量 Cross-Encoder，高价值场景再叠加 LLM 重排。但前提是你要评估好延迟和成本，否则重排本身可能成为瓶颈。不过还有一个点值得注意，就是 LLM 做重排时，它自己也可能产生[[幻觉]]，尤其当文档本身有歧义时，它给的分数不一定可靠。所以我会额外加一层置信度校验，比如让模型输出理由，再验证理由是否和文档一致。重排的必要性：向量检索的缺陷方法选择：Cross-Encoder vs ColBERT vs 多路融…

#字节#重排与优化#RAG Re-ranking

面试题·检索· 字节

RAG 中 Re-ranking 怎么用?

匹配口述回答：…这一轮排序到底解决什么问题。我的看法是，[[重排]]不光是可引入，在线上对准确性要求高的场景，它基本是标配。先说为什么需要重排。向量检索，也就是用 [[Bi-Encoder]] 把 query 和 doc 都压成一个向量，然后用内积去算相似度，这个做法效率很高，但有两个硬伤。一个是表示瓶颈，你把一整段文本压缩成一个向量，很多细粒度的语义信息就丢了。另一个是交互缺失，query 和 doc 从头到尾没有真正碰过，只是最后比了个向量距离，像这种“苹果手机退款政策”和“iPhon…

#字节#重排与优化#RAG Re-ranking

面试题·检索· 字节

RAG 为什么需要 Rerank?

匹配口述回答：…方案，在效率和效果之间做平衡。所以，我更倾向于把Rerank看成RAG系统里的一个质量把关者，而不是性能瓶颈。落地的时候，我会先评估业务对精度的要求有多高，如果只是随便问问，Top 1够用，那甚至不需要重排；但如果涉及到客服退款、合规审查这种风险敏感场景，重排就是必须的。我的取舍是：宁可多花几十毫秒做重排，也不让用户看到无关结果。本质：召回与精度的两阶段协同向量检索的局限性：粗粒度与信息压缩 Rerank的核心：细粒度交互与计算后置业务场景与落地风险工程师姿态与取舍…

#字节#Rerank模型#RAG Rerank

面试题·检索· 百度

RAG Query 改写方法

匹配口述回答：这道题其实在问一个核心矛盾：用户表达的问题和文档库里的索引之间存在语义鸿沟，怎么填上。我会从两个阶段来拆，检索前的查询改写，和检索后的提示词构建。先说查询改写，我一般会看场景选策略。比如用户问得很模糊，像‘退款政策’，我会用多查询扩展，生成几个语义等价的变体，比如‘退货流程’‘退款条件’，并行检索后再去重聚合。这是最稳的。如果问题很专业，比如医疗领域，我会用 HyDE，让模型先生成一个假设答案，再用这个答案的 [[Embedding]] 去检索。你可能会想，这不引入[[幻觉]…

#百度#小鹏#美团

面试题·检索· 高德

RAG 组件功能与数据流向?

匹配口述回答：…些细节。所以我会先做查询改写，比如用[[Hybrid Search]]把关键词和向量结合起来，或者用HyDE先生成一个假设的文档再检索，提高命中率。检索出来Top-K结果，一般几十条，但里面肯定有噪声。这时候需要重排序，用[[Cross-Encoder]]模型精排，把最相关的几条排到前面。我通常只保留前三到五条，太多会稀释有效信息。这里有个坑，就是检索质量。如果知识库里本身就有错，或者分块不合理，检索结果全是无关的，那LLM再强也白搭。所以我上线前一定会做召回评估，看Rec…

#高德#RAG数据流#RAG 工作流程

面试题·检索· 小红书

RAG 局限性怎么破?

匹配口述回答：…G]]的原理，它本质是在问：怎么让大模型在不知道的情况下不要瞎编，同时还要高效、可信。RAG是个好办法，但落地时有很多坑，我主要从检索、生成和边界这三个角度来讲。先说检索。最理想的情况是用户问什么，数据库里就有最匹配的文档。但实际往往有语义鸿沟，比如用户说“退款流程”，库里存的可能是“售后政策”，[[Embedding]] 没对齐就匹配不上。更糟的是检索噪声，Top-K里混进一堆无关文档，把关键信息稀释了。举个例子，电商客服场景，用户问“满减优惠和店铺券能不能叠加”，如果检…

#小红书#RAG局限性#RAG 局限性

面试题·检索· 字节

RAG 系统实现：组件与流程

匹配口述回答：…]] 方案。我更倾向把RAG当成一个基础模块，和微调、Agent组合使用，而不是孤立地看。一句话定位RAG本质索引阶段：切分与向量化查询阶段：检索与生成优化手段与边界落地风险与取舍约4分钟 RAG的召回质量高度依赖Embedding模型和切分策略的配合，需要领域适配或引入GraphRAG补足语义。面试官可能会追问：领域适配具体怎么做？GraphRAG怎么融合？或者怎么评估召回质量？

#字节#RAG系统实现#RAG 实现

面试题·检索· 商汤科技

RAG 两阶段架构：模块与数据流

匹配口述回答：…。一句话定位：RAG本质是给LLM外挂知识库离线阶段：文档解析、分块、Embedding、向量存储在线阶段：Query理解、检索、重排、上下文融合、生成边界划分：RAG vs 微调，关键词 vs 向量，固定分块 vs 语义分块落地风险：分块策略、检索质量、拒答处理可延伸点：分块粒度对检索的影响约4分钟分块粒度对检索质量的直接影响，以及动态调整策略面试官可能会追问分块的具体策略，比如如何根据文档类型自动选择切分方式，或者如何评估分块效果。

#商汤科技#两阶段文档处理#RAG 系统架构

面试题·检索· 美团

RAG 系统核心组件怎么搭?

匹配口述回答：如果让我设计一个 [[RAG]] 系统，我会把它拆成五个模块：文档处理、索引与检索、[[重排序]]、生成集成，以及评估监控。每个模块都有自己的输入输出，不能只把它理解成“[[向量库]]加大模型”。文档处理是第一层，也经常是最容易被低估的一层。原始文档进来后，先做解析和清洗，比如 PDF、网页、表格、图片 [[OCR]]，各自的处理方式不一样。清洗完以后做[[分块]]，分块要结合文档结构，不能简单按 500 token 硬切。技术文档可以按标题层级切，客服 FAQ 可以一问一…

#美团#RAG工程实现#RAG 系统实现