匹配口述回答：…base）粗排到 Top-50，最后再用大模型精排 Top-10。这样既保证了精度，又把延迟控制在了可接受范围。这里有个坑，就是重排的候选集大小。如果 Top-K 取太大，比如 1000，重排的延迟会暴涨，而且很多噪声文档根本没必要排。如果取太小，比如 10，又可能漏掉好文档。我一般取 100 到 200 作为起点，然后根据实际召回的 Recall@K 曲线调整。另外，级联过滤是个很实用的策略：先轻量模型过滤掉明显不相关的，再重量级模型精排，这样能在成本和精度之间找到平衡。…

#字节#重排与优化#RAG Re-ranking

面试题·检索· 字节

RAG 为何需要重排序?

匹配口述回答：…，但实际用户需要的是“退款时效”。这时候就需要Rerank模型或者LLM来重新排序，把真正相关的文档提上来。但这里有个坑：LLM重排序不是万能的。前提是你的候选文档质量不能太差，如果向量检索召回的全是无关文档，LLM也救不回来。常见失败场景是Embedding模型领域适配不够，比如通用模型做医疗问答，专业术语向量化后语义偏移。上线我会特别关注候选集合的Recall@K，如果前20个里面没有正确答案，重排序再强也没用。所以落地时我会采用混合策略：先用[[BM25]]和向量检…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#字节#向量召回与重排#RAG 重排序

面试题·检索· 小鹏

RAG文本分段策略与重叠机制

匹配口述回答：…太碎，召回可能很准，但大模型拿到的信息是断的；切得太整，上下文是保住了，但噪音也进来了，反而可能拉低效果。所以没有银弹，得看场景选策略。先说三种常见策略的适用边界。固定长度分段，比如每256个token一刀切，优点是简单可控、上线快，适合那种对时效要求高、内容又比较规整的通用场景，比如新闻摘要。但缺点也很明显，它不管语义边界，很可能从句子中间切开，导致大模型收到半截话。语义分段就好很多，用 [[Embedding]] 做聚类或者检测主题转折点，能保住段落完整性，适合长文档、…

#小鹏#文本分块优化#RAG 文本分段

面试题·模型微调· 美团

Reranker 训练数据怎么构造?

匹配题目：在构建重排序（Reranker）模型时，如何系统地设计和构造用于微调的训练数据集？请详细说明正负样本的选择策略、标注方法、数据来源及其对RAG流程中检索质量的影响。

#美团#重排与优化#Reranker 训练数据

面试题·检索· 高德

向量数据库怎么支撑 Agent 记忆?

匹配正文：…摘要级，人工构造结构化描述 3. 时效性编码对时间敏感记忆，将时间戳、相对时间（"3天前"）显式注入文本或作为附加特征三、检索策略优化索引结构选择 HNSW：延迟敏感场景，图索引保证低延迟 IVF-PQ：内存受限场景，量化压缩降本 DiskANN：超大规模，内存-磁盘混合多阶段检索 pipeline 粗排（向量相似度，Top-K=100） → 元数据过滤（时间范围、会话ID、标签） → 精排（重排序模型/交叉编码器，Top-K=5） → 上下文组装（按时间序/相关度融…

#高德#重排与优化#文档处理

面试题·检索· 百度

RAG 瓶颈在哪一步

匹配正文：RAG完整工作流程四阶段架构：阶段核心任务关键组件索引构建文档→Chunk→Embedding→向量库分块策略、Embedding模型、索引结构检索召回 Query→Embedding→Top-K检索向量检索、关键词补充、混合检索精排过滤粗排结果→相关性打分→筛选重排序模型、多样性控制、阈值截断生成合成上下文+Query→LLM生成答案 Prompt工程、引用溯源、幻觉抑制关键瓶颈与优化策略瓶颈1：检索延迟高（P99>500ms）根因：向量…

#百度#重排与优化#RAG 系统瓶颈

面试题·检索· 字节

RAG 系统迭代优化方向有哪些?

匹配正文：…不同知识库索引侧优化：混合检索（向量+关键词BM25）、多粒度索引（文档/段落/句子）、Embedding微调（领域适配）召回策略：多路召回（向量+关键词+图谱）、MRR多轮迭代召回重排序环节优化精排模型：Cross-Encoder（精度高但慢）、ColBERT（延迟交互，效率平衡）多阶段漏斗：向量召回Top100 → BM25粗排 → Cross-Encoder精排Top10 动态重排：结合用户反馈的在线学习排序上下文融合优化上下文压缩：LLMLingua选择…

#字节#RAG迭代优化#RAG 优化

面试题·检索· 字节

RAG 系统怎么持续迭代?

匹配正文：…思路 RAG优化是个系统工程，需分模块迭代+数据驱动，避免单点优化陷入局部最优。一、检索层优化（源头质量）手段具体做法索引策略按语义/结构切分（如标题+正文），关键信息冗余存储；多粒度索引（段落+句子）查询改写 Query扩展（同义词、LLM生成变体）、意图识别后路由不同索引混合检索向量+关键词+结构化过滤联合召回，解决语义漂移和精确匹配需求二、重排序层优化（精排筛选） Cross-Encoder精排：用轻量模型（如bge-reranker）对召回Top-K…

#字节#RAG评估闭环#RAG 系统优化

面试题·检索· 360

RAG 召回准确性：三大失败场景

匹配正文：…区分检索阶段与生成阶段的评估差异掌握常用检索评估指标（Recall@K、MRR、NDCG）理解稠密检索与稀疏检索的优缺点及混合策略知道重排序模型的作用与典型实现能提出具体可落地的数据优化方案一、评估维度与指标检索阶段 vs 生成阶段检索评估：关注"找得准不准"，用Recall@K（答案是否在TopK）、MRR（首个相关文档排名）、NDCG（考虑相关度分级）端到端评估：用Answer Accuracy或RAGAS框架（context precision/reca…

#360#召回质量评估#RAG 召回优化

项目实战·RAG

RAG 智能问答系统

匹配正文：…模或上线效果。继续读完整版 · 第 1 章为什么做 RAG → 技术架构:四大模块 + 两条链路教学实现拆成文档处理、检索、重排、生成四个模块，并区分离线建库与在线问答两条链路。向量库只是检索组件之一，实际还要验证解析质量、切分边界、关键词召回、权限过滤、引用一致性与拒答策略。每个模块是否有效，都需要在固定评测集和明确约束下单独验证。继续读完整版 · 第 2 章 RAG 整体架构 → 用风险场景检验设计否定条件被切散教学风险演练:一段制度先陈述适用范围，随后用「但…

#项目实战#RAG 智能问答系统

面试题·RAG

Chunk Size 和 Overlap 怎么选？不要背 512 和 100

匹配正文：…对，也可能碰巧从错误证据生成正确表述。需要先看标准证据是否被召回、排名在哪里、内容是否完整，再看基于证据的回答质量。为什么要固定重排模型和 Top K？因为它们会改变候选进入最终上下文的方式。切分参数、候选数量和重排同时改变，实验就失去归因能力。先控制其他变量找到可解释结论，再做组合实验。线上出现某类问题，应该先调 chunk_size 还是 overlap？先定位错误发生在哪一层。正确内容在解析结果里不存在，是解析问题；自然结构被错误拆开，是边界策略问题；只在相邻边…

#RAG#切分与索引#Chunk Size

面试题·RAG

RRF 和加权求和怎么选？两路检索分数为何不能直接相加？

匹配正文：…不能只继续调融合参数把问题压住。回滚也要以完整配置为单位。索引版本、每路 Top N、归一化方法、权重、RRF 参数、去重键和 Rerank 候选数共同决定最终结果；只回滚其中一项会生成从未评测过的组合。发布记录应把这些配置与评测集、模型版本绑定，保证一次坏结果能够被重放。若两路召回返回的是同一来源的不同切片，融合前还要定义文档级与片段级去重顺序；否则重复证据会凭数量优势抬高名次，掩盖融合策略本身的效果。 RRF 还是加权融合，最终这样做选择 BM25 和向量检索的分数定…

#RAG#检索与重排#RRF

面试题·Agent

Agent 从海量记忆里怎么找对内容？相关性、时间性和重要性怎样组合

匹配正文：…项目、相似措辞、过期版本、冲突未解、权限不足和已删除条目。指标可以分层：硬过滤是否挡住越权与失效内容；候选召回是否包含正确条目；重排是否把正确条目放到预算内；注入后任务是否更正确；错误记忆是否造成污染。还要记录无记忆基线与不同检索策略的对照。消融可以依次去掉时间性、重要性、来源、条件匹配或混合检索，观察哪些样本受影响。权重和阈值应从这些标注与失败案例中得到，而不是先写死再寻找解释。端到端评估还要检查模型是否正确使用了记忆。检索正确但最终答案忽略，问题在上下文组织或生成；…

#Agent#记忆与存储#Agent 记忆检索排序

面试题·RAG

资料里没有答案时，RAG 怎么避免强行生成？

匹配正文：…相关但缺少关键条件、询问旧资料之外的新版本、需要的两份证据只存在一份。然后用同一套检索配置跑完两组问题，记录最高分、前几条候选、重排分数、关键词覆盖和最终动作。调门槛时要同时观察两类错误。一类是误拒绝。资料里明明有答案，系统却说没有依据。另一类是错误放行。资料里没有答案，系统仍然让模型生成。二者不会同时自动变好。从阈值取舍上看，门槛提高时，错误放行可能减少，误拒绝却可能增加；门槛降低时，回答率可能上升，无依据回答也可能一起上升。最终变化必须用同一批正反样本验证。用…

#RAG#生成与对话#RAG 无答案检测

面试题·Agent

Text2SQL 面对上百张表，怎样选对 Schema 并处理业务歧义

匹配正文：…要维度字段。敏感或无关列继续排除。召回阶段追求“正确表列在候选里”，但候选不能无限扩大。可以先按数据域和权限硬过滤，再语义召回和重排。阈值与候选数量需要根据评测集校准，不应在没有数据时给固定数字。找到表还不够，还要补齐 Join 路径用户问题常跨越事实表和维表。单独召回到订单、客户和地区表，不代表模型知道怎样连接。系统可以维护 Schema Graph：节点是表，边记录外键、候选连接键、基数关系、有效条件和方向。召回到目标表后，在图中寻找允许的最短或最可信连接路径，并…

#Agent#工具调用与安全#Text2SQL Schema 选择

面试题·项目与经历· 字节

大模型 vs 搜推小样本特征怎么融合?

匹配正文：…：用预训练语言模型编码query、商品、内容和用户文本，离线写入向量索引；双塔负责大规模召回，硬负样本和蒸馏提升领域适配。候选后重排：传统或双塔召回先缩小候选集，再让cross-encoder或LLM对小候选集重排、解释或抽取特征。通常不应先用昂贵LLM粗排全库、再用廉价模型精排；除非有明确缓存、规模和延迟证据。小样本迁移：冻结大部分基座，使用adapter、LoRA、多任务或对比学习；防止把用户ID等无语义稀疏特征硬转成文本。联合评测：离线看Recall、NDCG、校…

#特征工程#迁移学习#多模态融合

面试题·Agent· 小红书

生成式推荐系统有哪些改进方向？

匹配正文：…生成-判别协同" 方向具体思路判断依据 Diffusion+LLM混合 Diffusion负责候选集生成（多样性），LLM负责重排序（个性化）可作为候选生成研究方案；多样性、质量和延迟需与自回归及判别基线实测多模态统一生成图文视频统一token化，端到端生成推荐理由+封面+标题小红书内容形态丰富，模态对齐能提升种草转化率隐式反馈显式化将停留时长、滑动速度等连续信号编码为生成条件解决当前序列建模只依赖点击ID的稀疏问题 2. 训练策略：推荐专用的RL优化 Re…

#小红书#Agent#生成式推荐系统

面试题·文档处理· 字节

RAG 向量索引构建流程详解

匹配正文：…号语义连贯：处理跨页断句、表格换行，必要时用VLM提取图片/图表信息元数据保留：记录文档来源、章节标题、时间戳，用于后续过滤和重排序二、文本分块：粒度与上下文的权衡策略原理适用场景注意点固定长度按token/字符数切分，带重叠窗口通用场景，实现简单固定长度与重叠窗口都只作为候选配置，具体大小由文档结构、Embedding输入限制和同一评测集上的证据完整率、召回与成本共同决定递归分块先按段落/句子边界，再递归细分结构清晰的文档优先保证语义边界完整 …

#字节#文档处理#RAG 数据处理流程

面试题·文档处理· 字节

RAG 数据清洗与 Chunking 怎么选?

匹配正文：…量过滤：剔除过短片段（<50字符）、检测乱码/无意义文本语义预处理：统一术语、处理同义词、必要时做指代消解常见Chunking策略策略做法适用场景固定长度按token/字符数硬切（长度作为候选变量）通用场景，实现简单；适合均匀分布的文档递归字符切分优先按段落→句子→单词层级切分需要保持语义完整性；适合技术文档、文章语义切分用embedding模型检测语义边界对语义连贯性要求高；适合对话、叙事文本结构化切分按章节、标题、表格等文档结构切分 PDF…

#字节#文档处理#RAG 数据清洗

面试题·文档处理· 字节

专业领域文档怎么清洗?

匹配正文：…、章节边界、列表项，保留文档逻辑结构实体标注：预标注关键实体（产品名、法规条款、技术指标），辅助后续分块语义完整性三、智能分块策略文档类型分块方式技术手册按章节/功能模块切分，保持上下文完整论文按摘要、方法、实验等结构化切分问答对保留Q-A完整性，避免切断表格整表或按行切分，附加表头元数据动态分块：结合语义边界（如BERT-based分割）而非固定token数重叠窗口：比较无重叠、短重叠和较长重叠候选，验证跨块召回与冗余成本四、元数据与向量化增强…

#字节#RAG 文档清洗#文档预处理

面试题·文档处理· 百度

RAG 分块参数调优

匹配正文：…与较长窗口，用同一评测集验证边界证据完整性边界对齐优先在句号、换行处切割，避免截断句子元数据保留记录来源位置、标题等，用于重排序和答案溯源实践选型建议通用文档：递归分块 + 适度重叠，平衡效果与成本问答场景：比较多组粒度与重叠窗口，联合验证命中率和证据完整性长文摘要：比较较大块、父子索引与结构分块，验证上下文完整性和噪声混合策略：先结构化提取，再对长段落语义分块最终需通过检索召回率和端到端问答效果验证，无绝对最优，只有场景最优。

#百度#RAG 分块参数调优#RAG 分块大小和 overlap 怎么调？指标与实验方法

面试题·文档处理· 小鹏

RAG 分块长度与重叠如何取舍?

匹配正文：…界、父子关系和原文位置保障语义完整性所有参数都要在同一业务评测集上比较，不能把经验范围当结论核心思路文档分段会同时影响召回、重排、生成和引用。真正要优化的不是某个chunk_size，而是让问题能召回完整证据，同时控制噪声、延迟和存储成本。分块长度的权衡候选策略更适合观察的场景主要风险较短分块局部事实、错误码、条款定位上下文断裂、重复召回较长分块总结、比较、跨句推理无关内容增多、重排成本上升结构化或动态分块文档类型混合、章节层级明确实现与维护复…

#小鹏#RAG 文档分段#检索增强生成分段策略

面试题·文档处理· 安克科技

RAG向量化：分块与Embedding

匹配正文：…）、上下文长度（512-8k）、是否支持指令式嵌入（如BGE的Represent this sentence...）二、文本分块策略常见方法：固定长度分块：按token数切分，长度作为候选变量；实现简单但可能切断语义递归分块：先按段落/句子切，超长再细分，保持结构完整语义分块：用模型判断语义边界（如BERT-based分割器）优化技巧：比较零重叠、短窗口和较长窗口，用同一评测集验证是否减少边界信息丢失保留元数据（标题、章节、时间戳），用于重排序过滤三、向量归…

#安克科技#RAG 向量化#Embedding 模型

Prompt 优化策略有哪些?

RAG 重排序怎么选?

RAG 为何需要重排序?

RAG文本分段策略与重叠机制

Reranker 训练数据怎么构造?

向量数据库怎么支撑 Agent 记忆?

RAG 瓶颈在哪一步

RAG 系统迭代优化方向有哪些?

RAG 系统怎么持续迭代?

RAG 召回准确性：三大失败场景

RAG 智能问答系统

Chunk Size 和 Overlap 怎么选？不要背 512 和 100

RRF 和加权求和怎么选？两路检索分数为何不能直接相加？

Agent 从海量记忆里怎么找对内容？相关性、时间性和重要性怎样组合

资料里没有答案时，RAG 怎么避免强行生成？

Text2SQL 面对上百张表，怎样选对 Schema 并处理业务歧义

大模型 vs 搜推小样本特征怎么融合?

生成式推荐系统有哪些改进方向？

RAG 向量索引构建流程详解

RAG 数据清洗与 Chunking 怎么选?

专业领域文档怎么清洗?

RAG 分块参数调优

RAG 分块长度与重叠如何取舍?

RAG向量化：分块与Embedding