匹配口述回答：…取决于你切出来的块是不是既独立又完整。先说最直接的固定长度分块，按多少 token 或者字符数硬切。这个方案好处是简单、快，[[Embedding]] 批量处理效率高，而且能精确控制上下文长度。但它有个硬伤，就是边界可能把一句话或者一个逻辑单元从中间切断。举个例子，如果一篇文档在讲「深度学习的优化方法」，其中一句刚好被拦腰截断，那检索时返回的片段可能就变成了「深度学习的优化」，意思就偏了。所以它只适合文档结构松散、对语义完整性要求不高的通用场景，比如新闻聚合或者日志检索。如…

#腾讯#文档处理#RAG Chunk 划分

面试题·文档处理· 百度

分块策略怎么影响检索?

匹配口述回答：… token，语义完整但噪声多，适合摘要或分析。具体用多大，得看下游任务和[[Embedding]]模型的最大长度。比如text-embedding-ada-002虽然支持8191 token，但有效信息往往在前512，切太大反而浪费。实际工程里，我通常不会只用一种策略。比如处理企业SOP文档，我会先用结构化分块按章节切，再对每个章节用语义分块按段落切，这样既保留了文档结构，又保证了段落语义完整。检索时粗排用大块保召回，精排用小块保精准，配合[[Rerank]]效果更好。 …

#百度#文本分块#chunking 策略

面试题·文档处理· 百度

常用分块方法有哪些?

匹配口述回答：…会导致检索结果碎片化，生成阶段拼起来容易 [[Hallucination]]。块太大又会让检索结果模糊，召回一堆不相关的。我会根据Embedding输入限制、文档结构、查询类型和LLM上下文预算提出多组块大小候选，再以评测结果选择。上线我会特别关注块大小的分布，如果发现很多块长度差异过大，比如有的20 tokens有的500 tokens，那就要调整递归的层级参数。其实还有一个方向值得深挖，就是分块策略怎么和 [[Rerank]] 配合。比如语义分块切出来的块，有时边界还是…

← 上一页第 12 / 13 页下一页 →

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#百度#文本分块策略#RAG chunking

面试题·评估· 高德

高并发 Agent 延迟卡在哪?

匹配口述回答：这道题讨论的是工程方案，不需要编造“曾经在某业务提升了多少”。第一步先把端到端 trace 拆成排队、召回、重排、上下文组装、prefill、decode 和工具等待。召回与生成使用的资源不同，应该独立定位和扩缩容。召回侧可以先做安全的元数据或关键词过滤，再做向量召回，但必须验证过滤不会漏掉正确证据。HNSW 的搜索宽度、IVF 的桶与探测数都在召回和延迟之间取舍；PQ 能节省存储与带宽，但会带来量化误差。热点 query、embedding 和结果缓存要绑定语料、模型和…

#高德#Agent#Agent 系统延迟优化

面试题·评估· 美团

RAG 仍会幻觉的原因

匹配口述回答：…信息被截断，导致断章取义。所以落地时我特别关注检索质量，会把RAG看成一种系统而非单一模型。我会优先做[[混合检索]]，关键词加向量双路召回，再配合[[重排]]提高精度。同时，如果场景对时效性要求高，比如客服政策经常变，我会搭配微调，让模型记住高频更新的知识，RAG负责低频冷门知识。另外生成后验证也很重要，用事实核查模型或者人工抽检，形成完整防线。总的来说，我更倾向把RAG定位成幻觉的缓解手段而不是根治方案。上线前我会重点监控召回率和精确率，上线后持续分析bad case…

#美团#检索证据质量#RAG 仍会幻觉的原因

面试题·评估· 淘天

RAG 怎么减少幻觉?

匹配口述回答：…不相关，反而会误导模型，产生更严重的幻觉。所以上线我会特别关注召回率和相关性，常用[[Hybrid Search]]，就是关键词加向量两条路一起走，再配合[[Rerank]]筛一遍。再一个，提升事实准确性。RAG的生成结果可以追溯到具体的检索片段，这叫Grounding机制。用户追问时，你能说出是参考了哪份文档的哪句话。另外Top-K检索能拿到多个相关片段，它们可以交叉验证。比如两个文档都说同一个参数，那可信度就高；如果互相矛盾，模型需要判断或触发质疑。这里有个常见失败场景…

#淘天#事实准确性#RAG 减少幻觉

面试题·评估· 字节

RAG 二次生成怎么减少幻觉?

匹配口述回答：…来的内容就是错的或者不相关，你约束得再严也没用。所以我会先确保检索链路靠谱，比如用 [[Hybrid Search]] 把关键词和向量结合起来，再配合 [[Rerank]] 把最相关的片段顶上去。另外，温度调整也得小心，如果检索匹配度高的部分温度设太低，生成内容可能过于死板，像在念原文，用户体验不好。所以我的整体思路是：把提示工程、约束生成、生成后验证三层叠起来，同时持续监控检索召回率和[[忠实度]]指标。比起花里胡哨的提示词，我更看重检索质量和硬约束的兜底能力。说到验证…

#抖音#约束生成#RAG 幻觉

面试题·评估· 哔哩哔哩

粗排模型评估指标与陷阱

匹配口述回答：…得更高效。还有负向指标，就是粗排截断导致的本该曝光却没曝光的内容占比。实验设计上，我通常注意三点。先说分层实验，粗排、精排、[[重排]]要分开，不然精排的迭代会污染粗排实验。然后看流量隔离，用用户分桶或者同请求内对比，更常用的是用户分桶。另外还要看长周期观察，因为粗排会影响内容生态，需要观察7到14天创作者侧的指标，比如新内容有没有被公平曝光。这里有个常见坑：离线用精排打分当label，但精排本身有bias，会导致粗排过度拟合精排的偏好，忽略了其他可能的优质内容。所以我会…

#哔哩哔哩#评估与监控#粗排模型评估

面试题·评估· 快手

LangChain 关键组件与流程?

匹配口述回答：…组合式框架，它把模型能力拆成标准化的模块，然后像搭积木一样拼起来。它的核心设计思路是三个：抽象统一，用统一接口封装不同的模型、[[向量库]]、工具；链式组合，通过LCEL声明式编排流程；状态管理，用Memory组件维护多轮对话上下文。具体说一下关键组件。Chain是预定义的固定执行流程，比如翻译、摘要这种单步任务，你定义好输入输出，链式调用就行。[[Agent]]是动态决策的，它自己选择工具和步骤，典型的就是[[ReAct]]模式，思考、行动、观察循环，直到任务完成。Too…

#快手#评估与监控#Agent

面试题·评估· 京东

RAG 缓解哪类幻觉?

匹配口述回答：…落地的时候，我倾向于把RAG当成基础设施，但不会只依赖它。比如检索环节，我会做**[[混合检索]]**，把[[BM25]]关键词和向量检索结合起来，避免因为语义偏差漏掉关键文档。生成环节，我会加[[Rerank]]和[[Self-Refine]]，先让模型基于检索内容生成，再自己检查一遍有没有偏离。还有一个值得关注的点是，如果知识库频繁更新，比如每天都有新政策，那RAG的维护成本会很高。我最近在看[[GraphRAG]]，它对这种多实体、多关系的场景，检索质量比纯向量检索更…

#京东#知识型幻觉#RAG 幻觉

面试题·评估· 字节

RAG 文档检索选型

匹配口述回答：…。不能脱离数据直接断言某一种一定更好。优化时应按链路定位问题。先检查文档解析和切块是否破坏语义，再看召回是否遗漏，之后才是融合和重排。Query Expansion、HyDE 或意图路由都有额外延迟和生成误差，不应该默认对所有请求开启。Cross-Encoder 只能改善已有候选的排序，不能救回根本没有召回的文档。切块与元数据也是检索方案的一部分。标题、章节、表格位置、文档版本和权限标签如果在解析时丢失，后面换更强的 Embedding 也补不回来。多租户系统尤其要说明权…

#字节#混合检索#RAG 文档检索选型

面试题·评估· 淘天

RAG 核心指标优先级

匹配口述回答：…case，得靠人去仲裁。落到业务上，我还会特别关注延迟和成本。检索加生成的总耗时，直接决定用户会不会等得不耐烦走人。成本方面，向量检索和LLM调用的开销，如果一次对话就要好几毛钱，产品根本跑不动。上线前我会先跑一批大样本，覆盖典型场景和异常case，对比Recall和Faithfulness的分数，同时监控延迟的P99。如果召回率低于百分之九十，我宁可牺牲一点延迟，也要加一轮[[重排]]来提高精度。说到评估，其实有个延伸点：你评估体系搭好了，数据怎么反哺到系统里形成闭环…

#淘天#评估与监控#RAG 核心指标优先级

面试题·评估· 百度

RAG 架构怎么工作?

匹配口述回答：…，检索到无关内容会干扰生成，这就是所谓的"迷失在中间"效应。所以真正落地的时候，我会做几个工程取舍。先说[[混合检索]]，不只用向量，还结合[[BM25]]这类关键词匹配，让两种方法互补。再一个是加[[重排]]，召回Top-K之后用更精细的模型比如[[Cross-Encoder]]重新打分，把真正相关的顶上来。还有就是置信度过滤，分太低的直接扔掉，宁可少给信息也别给错的。还有一个常被问到的问题是RAG和微调的边界。我的看法是，RAG适合知识更新快、需要溯源的场景，比如客服…

#百度#评估与监控#RAG 架构

面试题·评估· 百度

MRR 在 RAG 中怎么定义?

匹配正文：…。它只使用第一个相关结果的位置，不衡量后续相关证据是否齐全，也不能直接代表生成答案是否正确或忠实。多阶段检索应分别记录初召回和重排后的指标，并以最终送入模型的候选顺序作为端到端诊断依据。配套指标与阈值 MRR 应与 Recall@K、NDCG、证据覆盖率、Faithfulness、引用准确率和答案正确率结合。对于需要多个证据片段的问题，Recall@K 与 NDCG 往往比单独的 MRR 更能说明信息是否完整。 MRR 没有跨数据集通用的 0.7、0.8 或 0.85 …

#百度#评估与监控#MRR 定义

面试题·知识图谱· 淘天

GraphRAG 最大技术挑战?

匹配口述回答：…关系密集、多跳推理的场景，比如电商的商品推荐或者企业合规文档的条款关联。但如果场景只是简单的事实问答，比如查一个订单号的状态，那纯向量检索加个[[Rerank]]就够，没必要上图谱。真正落地往往是两者结合，各有各的适用范围。先看[[知识图谱]]的构建。很多人一上来就想把schema设计完美，把所有实体关系抽干净。但实际业务里，比如电商的商品属性，几百个字段，关系还嵌套，根本抽不完。我的做法是走弱监督加主动学习循环：先用LLM批量抽三元组，送人工审核一批高置信度的样本，然后用…

#淘天#知识图谱#评估与监控

面试题·知识图谱· 海尔

训练/推理/外部知识怎么选?

匹配口述回答：…，检索失败时生成会崩。所以我会做两件事：一是提升检索质量，用 [[Hybrid Search]] 结合 [[BM25]] 和 [[Embedding]]，再加 [[Rerank]] 精排；二是优雅降级，检索不到就明确说“没有相关信息”，而不是瞎编。 [[Knowledge Graph]] 适合复杂推理，比如“这个客户和哪个供应商有纠纷”，需要多跳验证。[[Function Calling]] 对时效性信息很有效，比如查实时库存、天气，直接调 API。说到这，有个有意思的点：…

#海尔#外部知识集成#大模型幻觉

面试题·Prompt· 字节

RAG Generator 怎么构造 Prompt?

匹配正文：…和输出契约。Prompt 只能帮助模型使用证据，不能弥补错误召回，也不能保证固定幅度的准确率提升。构造步骤筛选与去重：按检索和重排结果筛选候选，保留来源、版本、权限和时间；不要用未经校准的统一阈值。信任边界：将检索文本视为不可信数据，用清晰分隔符包裹，禁止其中内容覆盖系统指令。排序与预算：根据任务、证据依赖和“lost in the middle”风险安排顺序，预留生成与工具调用空间。输出契约：要求答案断言关联引用；证据不足或冲突时返回结构化的不确定状态。校验：检…

#字节#Prompt工程#RAG Generator Prompt

面试题·RAG· 百度

对话模型准确性怎么提?

匹配口述回答：…果，再让模型组织答案。ReAct等循环可以把推理与工具调用串起来，但必须处理超时、错误返回和多轮累积误差。知识库侧可以比较关键词与向量混合检索、重排和更新策略，记录每个模块对最终质量的实际贡献。我的实施顺序是先固定任务、评测集和预算，建立基线，再分模块比较事实正确率、引用支持率、延迟和成本。架构与训练的投入较高，RAG和Agent更方便按模块迭代，但也增加链路复杂度。选择要由测量结果决定，并持续跟踪失败样本。先明确目标：在固定任务与评测集上比较事实正确率、引用支持率、延迟…

#百度#对话模型准确性#模型架构优化

面试题·RAG· 字节

高精度RAG系统设计陷阱

匹配口述回答：…新的法规或指南。RAG正好补这块，知识变了你换文档就行，不用重新训练。检索也一样，纯关键词（[[BM25]]）匹配快但漏同义词，纯向量能理解语义但容易召回无关内容。所以我会**[[Hybrid Search]]**，把关键词和向量两条路结合起来，再加一层[[重排]]，把高置信度的结果顶上去。具体到业务，拿医疗场景举例。假设做一个辅助诊断的问答助手，知识库里得有临床指南、药品说明书、最新专家共识，还得按效力层级排：国家指南优先于地方共识，最新版本优先于旧版。检索时用户说“心梗…

#字节#高精度RAG#高精度 RAG

面试题·RAG· 字节

医疗 RAG 索引如何保合规?

匹配口述回答：…Embedding]]做语义召回，配合[[Hybrid Search]]，把关键词检索也拉进来。因为有些查询比如药品名、法条编号，向量可能不如精确匹配准。第二级是关键词索引，用Elasticsearch做精确匹配，专门处理这类结构化查询。第三级是[[知识图谱]]，用来做关联推理，比如查某个药的禁忌症，或者某个判例的引用链。三级索引一起上，检索时先并行召回，再用[[Rerank]]做融合排序。合规性保障是另一个大头。每个回答都必须强制溯源，附带原文片段、文档版本和页码，让用户…

#字节#医疗RAG合规#RAG 数据处理流程

面试题·RAG· 阿里

LangChain vs LlamaIndex 场景怎么选？

匹配口述回答：…rePoint、本地PDF，然后用它的分层索引或者[[知识图谱]]索引。它的强项是对检索过程的精细控制，比如[[混合搜索]]、[[重排序]]、子问题分解。同样客服场景，如果用户问“商家满减政策和订单异常怎么处理”，LlamaIndex可以做到：先拆成两个子问题，分别从不同文档检索，再合并答案。这里有个坑，就是如果你的文档质量差，比如[[OCR]]识别率低，或者格式混乱，那再好的索引也救不了。我会特别关注数据预处理阶段，上线前一定要用一批真实query跑一遍召回率，低于80%就…

#阿里云#AI框架选型#LangChain vs LlamaIndex

面试题·RAG· OPPO

多信号评分函数原理与陷阱

匹配正文：设计步骤定义目标与约束：明确相关性、点击、转化、停留、多样性或时效性，并区分预测目标与展示约束。构造信号：文本或向量相关度、质量、流行度、新鲜度、用户偏好和上下文等；检查缺失值、时间穿越和在线可用性。统一尺度：BM25、余弦、概率和计数不能直接相加。可使用分位数、z-score、Platt 或 isotonic 校准，也可在学习排序模型中共同学习。学习组合：数据少且需要解释时可用带约束线性或逻辑模型；有排序标签时可用 RankNet 或 LambdaMART；深度模型…

#OPPO#多信号排序#评分函数设计

面试题·RAG· 淘天

现代 RAG 架构怎么变?

匹配口述回答：…合那些需要动态推理、信息源多的场景，比如客服、金融分析。真正落地时，我倾向把两者结合起来，比如用[[混合检索]]，关键词召回保底，向量召回提高精度，再用一个[[重排]]模型把结果精排一下。不过说到联合训练，我其实更关心一个细节：检索器更新的频率。如果知识库每天都在变，检索器的编码器要不要跟着微调？如果不调，新文档的向量和旧文档的向量可能不在一个空间里；如果调，又可能破坏已有文档的表示。这块目前还没有特别成熟的方案，我觉得是个值得深挖的方向。一句话定位：从拼接式RAG到融合…

#淘天#RAG端到端训练#现代 RAG 架构

面试题·RAG· 小红书

ROI 问题怎么影响推荐效果?

匹配口述回答：…，也就是在训练阶段就引导模型生成多样化的输出。举个例子，在小红书场景，我们最怕的是同一博主刷屏和跨类目发现不足。所以一般是DPP重排加曝光过滤，再配合探索流量扶持，比如给新内容一些保底曝光。但DPP的相似度矩阵怎么定义很关键，用内容标签还是用向量相似度，效果差别很大，这个我后面可以展开聊。所以我的结论是，ROl问题没有银弹，我会把训练阶段的负采样优化和解码阶段的Top-p采样看作基础配置，然后根据业务特点叠加DPP或者MMR。核心思路是让模型在利用已有知识的同时，保留足够…

#小红书#推荐多样性#ROI 问题