匹配正文：…叉。离线语义编码：用预训练语言模型编码query、商品、内容和用户文本，离线写入向量索引；双塔负责大规模召回，硬负样本和蒸馏提升领域适配。候选后重排：传统或双塔召回先缩小候选集，再让cross-encoder或LLM对小候选集重排、解释或抽取特征。通常不应先用昂贵LLM粗排全库、再用廉价模型精排；除非有明确缓存、规模和延迟证据。小样本迁移：冻结大部分基座，使用adapter、LoRA、多任务或对比学习；防止把用户ID等无语义稀疏特征硬转成文本。联合评测：离线看Reca…

#特征工程#迁移学习#多模态融合

面试题·文档处理· 字节

文本块怎么转向量并建索引?

匹配正文：…的任务 OpenAI/text-embedding-3 大规模对比学习，支持matryoshka降维开箱即用，多语言，成本可控领域适配：垂直场景用LoRA微调或hard negative mining，避免 catastrophic forgetting。二、向量索引机制与数据库选型核心索引结构 HNSW：图索引，查询O(logN)，构建慢、内存高，精度最优，适合静态库 IVF：倒排文件，聚类后搜索，内存友好，适合大规模（>100M），需调nlist/nprobe P…

第 1 / 3 页下一页 →

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#字节#文档处理#向量检索

面试题·文档处理· 字节

RAG 文本分块与向量索引流程

匹配正文：…s/all-MiniLM-L6-v2（轻量，384维）中文场景：BAAI/bge-large-zh、智谱Embedding-2 领域适配：领域数据继续预训练或对比学习微调优化技巧：查询端与文档端使用不同prompt（如"为这个句子生成表示："）维度压缩：PCA或模型蒸馏降低存储成本三、向量存储与索引方案特点适用规模 FAISS 内存索引，HNSW/IVF算法，零成本百万级，单机 Pinecone 全托管，元数据过滤，自动扩缩容千万级+，生产环境 Milvu…

#字节#文档处理#向量检索

面试题·文档处理· 美团

RAG知识库构建流程详解

匹配正文：…-M3（支持多语言、长文本）、GTE-large 英文专用：OpenAI text-embedding-3-large、E5系列领域适配：金融/法律等垂直场景需微调（用领域数据对比学习）长文本：优先选支持8K+上下文的模型，或采用滑动窗口平均 4. 向量数据库选型数据库特点适用 Milvus/Zilliz 功能全、分布式、云原生大规模生产环境 Pinecone 托管服务、免运维快速上线、中小规模 Weaviate 混合搜索、GraphQL 需要关键词+向量混合检…

#美团#RAG 知识库构建#文档预处理

面试题·文档处理· 字节

专业领域文档怎么清洗?

匹配正文：…据保留：来源文档、章节层级、发布时间、版本号，用于检索过滤和重排序多向量表示：长文档同时存储文档级摘要向量 + 细粒度段落向量领域适配：用领域语料微调embedding模型，或训练领域特定的BGE/M3E 五、质量闭环建立清洗效果指标：分块语义完整性评分、术语覆盖率、信息密度通过检索命中率和生成事实性反向驱动清洗规则迭代学习建议建议系统学习该知识点

#字节#RAG 文档清洗#文档预处理

面试题·文档处理· 安克科技

RAG向量化流程：预处理到归一化

匹配正文：答案要点文本预处理策略（分块、清洗、元数据保留） Embedding模型选型依据（中英双语、上下文长度、领域适配）向量生成与批量优化归一化的作用（余弦相似度计算）实际工程中的注意事项（并发、缓存、版本管理）文本预处理核心目标：保留语义完整性，控制块大小文档解析：PDF用PyMuPDF/MinerU，HTML去标签，表格保留结构分块策略：按语义段落切分，并比较多组 chunk size 与 overlap 候选，用同一评测集验证边界召回和成本清洗降噪：去页眉页…

#安克科技#RAG 向量化流程#Embedding 模型选择

面试题·文档处理· 安克科技

RAG 文档怎么存储和向量化?

匹配正文：答案要点分块策略的选择依据（固定长度、语义分块、递归分块等）及边界处理 Embedding模型的选型考量（中英双语、上下文长度、领域适配）向量索引结构对比（Flat、IVF、HNSW）与选型场景完整数据流：解析→清洗→分块→向量化→元数据关联→入库完整流程：原始文本 → 向量数据库 1. 文档解析与预处理格式兼容：PDF/Word/Markdown/网页等统一解析，处理乱码、特殊符号结构保留：提取标题层级、段落边界，为语义分块提供依据清洗降噪：去除页眉页脚、重复…

#安克科技#评估与监控#RAG 文档向量化

面试题·文档处理· 安克科技

RAG文本向量化：分块与嵌入陷阱

匹配正文：答案要点分块策略的设计原则与粒度控制 Embedding模型的选型依据（中英双语、领域适配）向量维度与归一化的影响稠密向量与稀疏向量的混合方案实际落地中的质量评估方法完整流程概述 1. 文档预处理与分块策略粒度选择：按语义段落、结构边界、固定长度滑动窗口和句子级别提出候选关键参数：chunk_size与overlap都是候选变量，结合文档结构、模型输入限制和同一评测集上的召回、证据完整率与成本决定边界优化：优先在标点、段落处切割，避免句子中途截断 2. Emb…

#安克科技#RAG 文本向量化#分块策略

面试题·评估· 美团

RAG 缓解幻觉的机制

匹配正文：…强提示生成阶段：模型基于"检索证据"生成，答案被约束在提供的上下文中实际系统实现机制组件关键设计 Embedding模型领域适配（如用BGE、GTE替换通用模型）向量数据库 Milvus/Pinecone，需考虑索引类型（HNSW/IVF）与分片策略重排序（Rerank）交叉编码器精排，解决向量相似≠语义相关的问题上下文压缩长文档截断、摘要提取，适配模型上下文窗口查询改写 HyDE（假设文档嵌入）、Query Expansion提升召回率核心优势 vs…

#美团#事实锚定#RAG 缓解幻觉的机制

面试题·评估· 字节

RAG 评估指标与迭代陷阱

匹配正文：…合检索（BM25+向量）、重排序（Cross-encoder）用户问题表述模糊、专业术语对齐差检索精确率低稠密检索模型微调（领域适配）、元数据过滤、上下文压缩领域知识密集、噪声文档多生成幻觉/利用不足引用强制（要求标注来源）、检索内容前置、Self-RAG（生成时判断是否需要检索）对事实性要求高的场景长上下文处理差分层检索（摘要→细节）、递归检索、信息去重合并需要多文档推理的复杂问题三、迭代实践建议先诊断后优化：用错误案例分析定位是检索失败还是生成失败…

#字节#评估与监控#RAG 评估

面试题·评估· 字节

医疗法律RAG：评估陷阱

匹配正文：…排Top-K 交叉编码器微调关键设计：查询改写（Query2Doc）处理口语化输入，如"心跳快"→"心动过速" 三、生成模型层（领域适配）基座选择：专业领域优先选已预训练模型（如Huatuo、LawGPT），或通用模型+领域SFT 检索增强生成：检索结果作为上下文注入Prompt 引用溯源：强制模型输出参考来源编号，支持可解释性安全机制：添加拒答策略（超纲问题、无可靠来源时），医疗场景必须设置"请咨询专业医师"风险提示四、评估机制（多维指标）维度指标方法检索…

#字节#专业领域 RAG#RAG 系统设计

面试题·评估

检索准但生成差，怎么调优？

匹配正文：…rompt、微调模型、改进上下文格式长文档效果好、短文档差信息整合不足加CoT、多文档融合Prompt 部分问题好、部分差领域适配不足针对性SFT、RAG-Fusion策略

#上下文压缩#生成调优#RAG 效果诊断

面试题·模型微调· 京东

300-500意图怎么召回?

匹配正文：…层次化意图体系设计（意图聚类+二级路由）多路召回策略（粗排+精排+重排）上下文压缩与动态示例选择 Embedding模型微调与领域适配实时性能与准确率的平衡方案核心思路：三层架构解决"长上下文+多意图"困境一、层次化意图体系（解决300+意图爆炸）一级路由（10-20个意图簇）→ 二级分类器（每簇20-30个意图）聚类策略：基于业务语义+历史query共现，用K-Means/Spectral聚类构建意图树动态路由：先用轻量模型（TinyBERT级）做一级判断，…

#京东#大规模意图识别#上下文长度限制

面试题·模型微调· 美团

向量检索怎么保准又保真?

匹配正文：…果评估与迭代优化 1. Embedding层优化模型选型：根据领域特点选择模型（通用场景用BGE/M3E，垂直领域用微调模型）领域适配：用业务数据对Embedding模型做对比学习微调，缩小语义鸿沟动态更新：商品/内容Embedding随属性变化及时刷新，避免语义漂移 2. 多路召回策略召回方式适用场景向量召回语义相似，理解用户意图关键词/BM25 精确匹配，保证核心词命中倒排索引结构化属性过滤（价格、距离等）图召回用户行为相似推荐各路召回结果融合时…

#美团#向量检索准确性#向量检索相关性

面试题·模型微调· 字节

RAG Embedding 模型怎么选?

匹配正文：答案要点语义理解能力与任务匹配度上下文长度支持多语言与跨语言能力推理效率与成本权衡领域适配性与微调可行性核心选型维度 1. 语义能力与任务匹配区分度：同类文档能否拉开向量距离（如BGE、GTE在中文场景表现好）粒度匹配：句子级vs段落级检索，长文本需用支持长上下文的模型（如M3E、BGE-large支持512-8192 tokens） 2. 语言覆盖纯中文：BGE、GTE、M3E等国产模型更优多语言/跨语言：OpenAI text-embedding-3、…

#字节#向量检索#RAG Embedding 选型

面试题·模型微调· 百度

文本嵌入模型怎么选?

匹配正文：…的核心特点（如M3E、BGE、GTE、OpenAI等）理解模型选型需考虑的因素（语言支持、向量维度、上下文长度、推理成本）了解领域适配和微调策略能结合实际场景给出选型建议主流文本嵌入模型分类 1. 开源中文模型（国内首选）模型特点适用场景 BGE (智源) 中文SOTA，多尺寸（large/base/small），支持指令微调通用RAG、需要高性价比的场景 GTE (阿里) 长文本支持好（8K），中文效果优秀长文档检索、法律文书 M3E (开源社区) 轻量、…

#百度#文本嵌入模型#Embedding 模型对比

面试题·模型微调· 百度

Embedding 模型选型考虑哪些因素?

匹配正文：…握主流模型特点（BERT系、Sentence-BERT、M3E、BGE等）的优劣对比理解维度、上下文长度、多语言能力的权衡知道领域适配方法（微调、对比学习）能说出性能评估指标（MRR、Recall@K、NDCG）选型核心维度 1. 业务场景匹配语义检索（RAG）：选Sentence-BERT、BGE、M3E等专为句子相似度优化的模型聚类/分类：通用BERT即可，甚至可以用更小模型代码/多模态：需专用模型（如CodeBERT、CLIP） 2. 关键性能指标因素 …

#百度#向量检索#Embedding 模型选型

面试题·模型微调· 百度

RAG 向量模型怎么选?

匹配正文：答案要点语义表达能力与领域适配性向量维度与存储成本的权衡检索速度与推理延迟多语言支持与跨语言检索能力微调扩展性与模型生态核心选型维度 1. 语义质量指标 MTEB榜单排名：参考检索、重排序、聚类等任务的综合表现领域适配性：通用模型（如BGE、E5）vs 领域微调模型（如GTE-medical）上下文长度：支持512/2048/8k tokens，长文档需截断或分层处理 2. 工程性能指标向量维度：常见768/1024，维度↑精度微增但存储和计算成本线性↑ 推…

#百度#评估与监控#向量检索

面试题·模型微调· 美团

RAG 深度与局限怎么破?

匹配正文：… 上下文压缩：用更小模型提取关键句，缓解长上下文噪声 4. 系统层：反馈闭环用户点赞/点踩数据回流，微调Embedding模型（领域适配）检索失败检测：当置信度低于阈值，触发主动澄清或转人工技术边界与选型 RAG不是万能解，需与SFT、Agent协同：高频稳定知识 → SFT内化到模型参数动态/海量知识 → RAG外挂复杂任务执行 → Agent+RAG（检索作为工具之一）美团场景示例：外卖菜品知识用RAG实时更新，但下单对话策略用SFT固化，复杂售后链路用Ag…

#美团#RAG 局限性#RAG 优化方向

面试题·模型微调

RAG检索相关但生成差原因

匹配正文：…过载/碎片化问题提示工程层面：重排序、上下文压缩、指令明确性上下文建模：长上下文窗口利用、多文档融合策略、噪声过滤模型微调：领域适配SFT、检索感知训练、负样本挖掘系统性思维：端到端优化而非单点修复核心诊断：检索≠可用检索相关但生成差，本质是检索结果与生成需求不对齐。常见原因：信息过载：Top-K过多导致噪声淹没信号，或关键信息被截断碎片化：多个文档各含部分答案，模型缺乏整合能力格式混乱：原始文档结构破坏，表格/代码等丢失语义歧义冲突：检索结果相互矛盾，模…

#上下文压缩#生成调优#RAG 生成优化

面试题·模型微调

生成模型回答不准怎么调?

匹配正文：…问题：检索片段本身矛盾/冗余 → 上下文组织问题模型忽略检索内容、自由发挥 → 注意力对齐问题模型无法理解专业领域知识 → 领域适配问题分层优化策略 1. 提示工程（零成本）显式指令：强制要求"基于以下材料回答，禁止推测"，加入引用标记要求 Few-shot示例：给2-3个"检索片段→忠实回答"的正例角色设定：限定为"严谨助手"，降低创造性温度 2. 上下文组织（低成本）问题策略片段过长递归摘要、关键句提取多片段冲突重排序（RRF/学习式）、冲突检测后…

#生成模型调优#上下文利用#RAG 生成不准确

面试题·RAG· 字节

垂直领域 RAG 完整架构

匹配正文：…回（实体链接→子图遍历）精排阶段交叉编码器（领域数据微调）时效性/权威性加权用户画像过滤（科室/执业地域）四、生成优化：领域适配与可控性模型选择：基座模型+领域SFT（如Huatuo/LawGPT），非从零训练 Prompt工程：强制引用格式[来源:指南名称/条款编号]，便于溯源生成后处理：幻觉检测：检索内容与生成的N-gram重叠度校验置信度分级：高置信直接回答/中置信建议复核/低置信拒答五、安全合规体系维度机制权限隔离 RBAC：实习医生/主治/…

#字节#垂直领域RAG#垂直领域 RAG 完整架构

面试题·RAG· 字节

RAG 怎么提升生成准确性?

匹配正文：…AG方案知识幻觉参数化记忆，容易"编造" 检索提供事实依据，可溯源知识时效性训练后无法更新知识库动态更新，无需重训模型领域适配微调成本高零样本接入私有知识关键优化点检索质量：Embedding模型微调、混合检索（向量+关键词）、重排序（Rerank）上下文组织：片段截断策略、多轮检索、检索结果去重融合生成控制：提示词约束模型严格基于检索内容回答，拒绝无关Query 与微调对比 RAG优势在于知识可解释、更新即时、成本可控；适合知识频繁变更、需溯源的场景…

#字节#外部知识检索#RAG 原理

评测数据集怎么选?

大模型 vs 搜推小样本特征怎么融合?

文本块怎么转向量并建索引?

RAG 文本分块与向量索引流程

RAG知识库构建流程详解

专业领域文档怎么清洗?

RAG向量化流程：预处理到归一化

RAG 文档怎么存储和向量化?

RAG文本向量化：分块与嵌入陷阱

RAG 缓解幻觉的机制

RAG 评估指标与迭代陷阱

医疗法律RAG：评估陷阱

检索准但生成差，怎么调优？

300-500意图怎么召回?

向量检索怎么保准又保真?

RAG Embedding 模型怎么选?

文本嵌入模型怎么选?

Embedding 模型选型考虑哪些因素?

RAG 向量模型怎么选?

RAG 深度与局限怎么破?

RAG检索相关但生成差原因

生成模型回答不准怎么调?

垂直领域 RAG 完整架构

RAG 怎么提升生成准确性?