匹配正文：…询的知识库"，让生成过程有据可依。三大核心组件 1. 索引层（Indexing）文档切分（Chunking）：按语义或固定长度分块，通常512-1024 token Embedding编码：用BGE、M3E等模型将文本转为稠密向量向量存储：Milvus、Faiss、Elasticsearch等，支持ANN近似最近邻搜索 2. 检索层（Retrieval）相似度计算：余弦相似度或点积，召回Top-K候选重排序优化：Cross-Encoder精排，提升相关性混合检索：…

#京东#幻觉抑制#RAG 技术原理

面试题·检索· 字节

RAG 架构：检索到生成全链路

匹配正文：答案要点离线知识库构建流程（文档解析、分块、向量化、索引存储）在线检索生成流程（查询改写、向量检索、重排序、上下文拼接、LLM生成）关键设计决策（分块策略、检索top-k数量、上下文长度控制）系统优化点（混合检索、缓存机制、多路召回）一、整体架构：离线+在线双链路 ┌─────────────────┐ ┌─────────────────┐ │ 离线知识库构建 │ │ 在线检索生成 │ │ (Index Pipeline)│ │ (Query Pipeline)│…

#字节#RAG组件设计#RAG 系统架构

面试题·检索· 字节

领域 RAG 架构如何控幻觉?

匹配正文：…y → 查询理解 → 混合检索 → 重排序 → 上下文组装 → 领域生成 → 后处理 → 输出 ↓ ↑ 离线知识库构建（文档解析→分块→向量化→索引）一、数据预处理（以法律场景为例）文档解析层多格式支持：PDF/OCR识别表格、Word修订痕迹处理、扫描件版式还原结构化抽取：用LayoutLM或专用模型提取条款层级（章-节-条-款）、案件要素（案号、当事人、判决结果）质量与标准化领域术语对齐：建立法条同义词表（如"违约金"="滞纳金"需区分场景）时效性标记：标注…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

按学习路线查看教程、项目和面试题。

站内 RAG 在线实战

#字节#专业领域RAG#领域 RAG 架构

面试题·检索· 美团

RAG 检索器与知识库怎么搭?

匹配正文：…节。检索延迟、端到端延迟、准确率和幻觉率只能来自真实项目；通用架构示意不能包装成个人上线结果。回答框架知识库：数据来源、解析、分块、元数据、权限、版本与更新方式。检索器：稀疏/稠密模型、索引、Top-K、过滤、融合和查询改写。重排与上下文：候选规模、重排模型、去重、上下文预算、引用和冲突处理。生成与防护：模型版本、证据约束、拒答、输出校验和安全边界。评测与上线：分层指标、压测、消融、灰度、观测、回滚和成本。事实填空项目【】，语料【】，我负责【】。基线检索和生成…

#美团#知识库构建#RAG 检索器设计

面试题·检索· 商汤科技

RAG 两阶段架构：模块与数据流

匹配正文：答案要点清晰区分离线索引阶段和在线检索生成阶段准确描述文档解析、分块、Embedding、向量存储等离线模块准确描述Query理解、检索召回、重排序、上下文融合、LLM生成等在线模块能说明数据流转的完整链路 RAG两阶段架构核心模块与数据流转第一阶段：离线索引（Indexing）目标：将原始文档转化为可检索的向量知识库模块功能输出文档解析处理PDF/Word/网页等多格式，提取结构化文本原始文本文档分块（Chunking）按语义/固定长度/递归等方…

#商汤科技#两阶段文档处理#RAG 系统架构

面试题·检索· 美团

RAG 系统核心组件怎么搭?

匹配正文：…清洗页眉页脚与重复模板后，按结构、固定长度或递归策略产生候选块，并在目标查询集上比较证据完整性与成本。所谓语义或 Agentic 分块也要经过同一评测，不能因为使用 LLM 就默认更好。二、检索器使用向量检索、BM25、结构化过滤或多路召回生成候选。对不同分数做校准、RRF 融合或独立重排，避免直接相加不可比的原始分数。用 Cross-Encoder 或领域 Reranker 对候选精排，并保留召回器、索引和模型版本。查询改写、HyDE 和子查询分解只在离线与端到端…

#美团#RAG工程实现#RAG 系统实现

面试题·检索· 美团

RAG 检索器与生成器如何协同？

匹配正文：…aive RAG与Advanced RAG的差异 RAG核心架构：两阶段流水线第一阶段：离线索引构建文档切分：按语义/固定长度分块，控制chunk大小（通常256-512 tokens） Embedding编码：用BGE、M3E等模型将文本转为稠密向量向量存储：写入Milvus/Faiss/Elasticsearch，构建HNSW索引加速检索第二阶段：在线检索生成模块职责关键技术检索器从知识库召回相关文档稠密检索（向量相似度）+ 稀疏检索（BM25）混合 …

#美团#RAG架构#RAG 系统架构

面试题·检索· 美团

RAG 系统有哪些常见陷阱?

匹配正文：答案要点检索阶段：分块策略、embedding选型、多路召回、重排序优化上下文处理：窗口长度控制、冗余去重、相关性过滤生成阶段：prompt工程、引用溯源、幻觉抑制系统层面：延迟优化、缓存策略、离线评估体系一、检索质量分块策略按语义分块优于固定长度，可用LLM辅助判断边界块大小一般256-512 tokens，需保留上下文重叠（overlap）表格/代码等特殊内容需单独处理，不能粗暴切分 Embedding与召回领域数据务必微调embedding，通用模型…

#美团#RAG常见陷阱#RAG 系统陷阱

面试题·检索· 高德

RAG 系统实现流程怎么搭?

匹配正文：答案要点文档预处理与分块策略（固定长度/语义分块/递归分块） Embedding模型选择与向量索引构建检索策略（稠密+稀疏混合检索）重排序优化 Prompt工程与上下文窗口管理 1. 文档处理与分块核心目标：将原始文档转化为适合检索的粒度单元清洗：去除HTML标签、特殊字符、重复内容分块策略：固定长度分块（512/1024 tokens）+ 滑动窗口重叠语义分块：按段落/句子边界，保持语义完整性递归分块：先按大粒度分割，再细化处理元数据保留：记录文档来源、…

#高德#RAG结果融合#RAG 实现流程

面试题·检索· 高德

语义检索向量数据库构建流程

匹配正文：答案要点文本预处理的关键步骤（清洗、分块、元数据保留） Embedding模型选型依据（领域适配、多语言、维度权衡）向量索引算法选择（HNSW、IVF、PQ的适用场景）存储方案设计（向量+标量混合存储、分片策略）查询优化手段（查询重写、重排序、缓存策略） 1. 文本预处理清洗：去HTML标签、特殊字符、统一编码，保留语义关键信息分块策略：按语义段落切分（非固定长度），重叠窗口保证上下文连贯；高德场景可考虑POI名称、地址等结构化字段单独处理元数据关联：保留原始I…

#高德#评估与监控#向量数据库构建

面试题·检索· 百度

RAG 三阶段原理与失败场景

匹配正文：…能出错，因此整条链路要可评估、可追踪和可回滚。 1. 离线准备解析并清洗文档，保留来源、版本、权限和时间等元数据。按结构或候选分块策略生成 chunk，并维护到原文的映射。用固定版本的 embedding 模型编码，建立向量、关键词或混合索引。用标注查询集验证证据 Recall@K、重复率、过滤正确性和索引更新。 2. 在线检索对用户问题做规范化、权限过滤和查询改写，再进行向量、BM25 或多路召回。候选可以通过 RRF、规则或 Cross-Encoder 重排。A…

#百度#RAG三阶段#RAG 工作流程

面试题·检索· 字节

Embedding 怎么实现语义召回?

匹配正文：核心流程 1. 文档向量化（离线）文档分块：按语义/固定长度切分，控制chunk大小（通常256-512 tokens） Embedding编码：用预训练模型（如BGE、M3E、OpenAI-ada）将文本映射为稠密向量关键：领域数据建议微调Embedding模型，解决分布偏移 2. 向量索引构建存储：向量数据库（Milvus、Faiss、Pinecone）或近似最近邻索引（HNSW、IVF） HNSW：图索引，查询快、精度高，适合动态更新场景 3. 查询检索（在线） …

#字节#向量语义召回#Embedding 语义召回

面试题·检索· 字节

RAG 向量库怎么处理时间衰减?

匹配正文：RAG完整工作流程 1. 索引阶段（Offline）文档切分：按语义/固定长度分块，控制chunk大小（通常256-512 tokens） Embedding编码：用BGE、E5等模型生成稠密向量元数据存储：保留原始文本、时间戳、来源、类别等字段向量入库：写入Milvus/Pinecone/ES，建立HNSW索引 2. 检索阶段（Online） Query改写：扩展同义词、澄清指代向量检索：Top-K相似度召回重排序（Rerank）：Cross-Encoder精排，…

#字节#向量库时效性#RAG 工作流程

面试题·检索· 字节

RAG 向量检索怎么高效召回?

匹配正文：…E）融合关键影响因素层级核心因素典型问题表示层 Embedding质量领域术语理解差、长文本截断、多语言对齐索引层分块策略块过大（粒度粗）、块过小（上下文断裂）、边界截断语义检索层相似度度量内积vs余弦vs欧氏距离的选择，未归一化导致偏差系统层数据分布索引更新延迟、冷热数据分层、租户隔离实践调优要点动态检索：小模型预判所需token数，自适应调整top-k 结果重排：Cross-Encoder精排，或ColBERT轻量级交互反馈闭环：用户点…

#字节#向量数据库召回#RAG 向量检索

面试题·检索· 字节

Embedding + 向量数据库怎么搭?

匹配正文：…较检索质量、语言/长度支持、成本和延迟；维度并非质量保证，也不预设所有业务都按同一优先级排序。二、向量化流程原始文本 → 文本分块（Chunking） → 嵌入编码 → L2归一化 → 写入向量库关键细节：分块策略：按语义段落切分（200-500 tokens），重叠窗口保证上下文连贯编码方式：使用同一兼容模型的正确query/document模式，或经成对训练/蒸馏对齐的双编码器；不能任意用轻量query模型替换重型文档模型，即使维度相同也未必处于同一向量空间。 …

#字节#Embedding向量检索#Embedding 向量数据库

面试题·检索· 字节

RAG 技术实现怎么落地?

匹配正文：…架构 RAG = 检索模块 + 生成模块，用外部知识弥补大模型参数知识的局限。 1. 索引阶段（离线）文档切分：按语义/固定长度分块，控制chunk大小（通常256-512 tokens）向量化：用Embedding模型（如BGE、text-embedding-3）编码为稠密向量存储：写入向量数据库（Milvus、Faiss、Pinecone），可叠加倒排索引做混合检索 2. 检索阶段（在线） Query改写：扩展、澄清用户问题，提升召回率相似度计算：余弦相似度/IP…

#字节#RAG应用场景#RAG 技术实现

面试题·检索· 安克科技

RAG 知识库怎么存?

匹配正文：…_v2.3", # 来源追溯 "category": "payment", # 业务分类 "chunk_index": 3, # 分块序号 "timestamp": 1699123456, # 版本控制 "access_level": "internal", # 权限标记 "title": "退款流程" # 用于重排序 } 设计要点：支持预过滤（如where category='payment'），减少向量搜索空间保留原文存储位置，避免向量库膨胀索引结构设计向量索引：…

#安克科技#向量数据库选型#RAG 知识库存储

面试题·检索· 美团

Embedding 相似性检索怎么工作?

匹配正文：…量长度不敏感欧氏距离：关注绝对距离，适合归一化后的向量点积：计算快，但受向量模长影响工作机制离线阶段：索引构建文本 → 分块 → Embedding模型 → 向量 → 构建索引（HNSW/IVF-PQ）→ 存入向量库在线阶段：相似检索查询文本 → 向量化 → ANN搜索Top-K → 返回相似文档 ANN加速算法 HNSW：图索引，查询快、精度高，内存占用大，适合百万级 IVF-PQ：倒排+乘积量化，内存省、亿级规模，精度略降实际选型看数据规模和延迟要求 RA…

#美团#Embedding检索#Embedding 相似性检索

面试题·检索· 百度

向量检索基本原理是什么?

匹配正文：…心原理向量检索把文档和查询编码到同一表示空间，再按照与模型训练方式匹配的距离或相似度寻找近邻。效果不仅取决于索引，还取决于语料、分块、embedding 版本和距离度量是否一致。 1. 向量化文档块与查询通常使用同一 embedding 模型及同一预处理版本编码。领域、语言和查询长度会影响表示质量，应在目标查询集上验证，而不是用“语义接近”作主观判断。模型升级时要记录向量版本；不同模型产生的向量通常不能直接放在同一索引中比较。 2. 索引构建 Flat 做精确搜索，可…

#百度#向量索引#向量检索原理

面经·项目面试

面试官问：“RAG 表格怎么切块？”我：“按行切，带上表头。”他：“单位和备注，你让模型猜？”

匹配正文：…是4，都只能交代部分来源。因此，子块需要保留共同的父表身份，也需要保留具体内容的原页锚点。父表标识说明它属于哪张逻辑表；行标识与分块顺序说明它是其中哪一部分；页码和区域坐标说明这行、表头、单位、注释分别来自哪里。实验里，高温泵行的位置指向第4页中部，表头与单位各自指向第3页上方，两条注释分别指回第3页和第4页。沿这些位置回看，可以检查320是否落在加急列，耗材说明是否确实指向高温泵。一个跨页范围只能说表在哪里，具体锚点才能说依据在哪里。这也让上下文恢复有了边界。命中高温…

#RAG#表格切分#文档解析

面经·项目面试

流式工具调用，究竟等到哪一刻才能开始执行？

匹配正文：…这类检查。先确认块编号与参数片段怎样关联，再确认哪个内部事件代表输入已收齐，最后观察调用是否经过同一个受控执行入口。记录时还应区分块编号与工具调用编号：前者帮助适配器找到本轮的接收缓存，后者跟随调用进入执行和结果记录。两次调用可以使用相同工具名，仅凭名字对日志，很难确认你看到的参数结束和执行开始是否属于同一次请求。解释提前执行，要说清等的是什么项目面试里，被问“为什么工具能在模型还没输出完时执行”，可以沿设备查询这一张工单展开。工具名到达先登记，参数增量先缓冲，块结束后…

#Agent#流式工具调用#工具执行

面试题·模型架构· 海尔

Self-Attention 怎么计算 QKV?

匹配口述回答：…tention要形成所有token两两关系，主要计算随L平方增长，朴素实现还会显式存储L乘L分数。FlashAttention通过分块和在线softmax减少高带宽内存读写，数学上仍是精确全局attention，并没有把连接模式变稀疏。 KV Cache的边界也要说清。自回归decode每次只新增一个token，历史token的K和V不变，所以可以缓存，避免每步重新投影历史内容。但训练和prefill要同时处理整段输入，仍需计算整段QK关系。KV Cache降低的是解码中的重…

#Self-Attention#Transformer#注意力机制

面试题·模型架构· 海尔

Decoder-only 架构为何是主流?

匹配口述回答：…间，不能混成一句 O(1)。 FlashAttention 也经常被解释错。它是精确注意力的 IO-aware tiling，通过分块和在线 softmax 减少高带宽内存读写，并避免物化完整 attention matrix。它既能用于因果注意力，也能用于双向注意力。收益不是因为 causal mask 只保留下三角，更不能说注意力内存天然变成 O(1)。 Decoder-only 的另一个优势是输入中的示例和任务描述都能直接影响生成，适合 in-context learn…

#Decoder-only架构#自回归生成#因果注意力

面试题·推理优化· 字节

ZeRO 与 FlashAttention 各优化什么?

匹配口述回答：…长，所以第一类方法是在不改数学结果的情况下优化 kernel，例如 FlashAttention 和 fused SDPA。它们用分块、online softmax 和重计算减少 HBM 数据搬运与中间矩阵存储，计算的是 exact dense attention，不是近似注意力。主要 FLOPs 仍是二次量级，I/O 的理论界还与 head dimension 和片上存储有关。第二类是减少解码缓存，例如 MQA 和 GQA 减少 KV heads，从而降低 KV Cach…

#注意力优化#ZeRO#Flash Attention