匹配正文：…功率，引入时间衰减成本项归一化后的延迟/费用，作为负向惩罚 2. 模型化打分（进阶）训练轻量级工具路由模型（如LoRA微调的BERT）：输入：任务上下文 + 候选工具元信息输出：各工具的概率分布优势：可捕捉"隐式偏好"，如特定场景下优先选内部API 关键优化策略动态置信度校准新工具采用乐观初始化（给予较高先验分），加速冷启动引入汤普森采样：在探索（试用新工具）与利用（选历史最优）间平衡反馈闭环工具执行后，将结果质量（是否需重试、下游任务是否成功）回流更新…

#高德#Agent#智能体工具选择

面试题·RAG· OPPO

查询文档相关性怎么算?

匹配题目：在搜索引擎的排序系统中，如何计算查询与文档之间的相关性得分？请说明基于语义匹配、关键词匹配、深度学习模型（如BERT）等方法的实现方式。

#OPPO#查询文档相关性#语义匹配

面试题·模型微调· 百度

文本嵌入模型怎么选?

匹配正文：…成本越大推理成本：边缘端选小模型（如bge-small），服务端可选大模型进阶优化：垂直领域建议用领域数据做对比学习微调重排序（Rerank）阶段可用Cross-Encoder提升精度一句话总结通用场景选BGE-large，长文本选GTE，成本敏感选M3E，中英混合做微调——没有最好，只有最适合业务约束的。

第 1 / 2 页下一页 →

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#百度

#文本嵌入模型

#Embedding 模型对比

面试题·检索· 字节

RAG 为什么需要 Rerank?

匹配正文：… 目标约束召回（Retrieval）高召回率、快速过滤必须快（毫秒级），允许牺牲精度精排（Rerank）高准确率、精准排序可以慢（百毫秒级），只处理Top-K Rerank的核心优势细粒度语义理解 Cross-Encoder将Query+Document拼接输入，通过Self-Attention计算深度交互捕捉词法匹配、语义关联、逻辑关系等复杂模式计算资源后置只对Top-K（如100→20）做重排，避免全库高成本计算用"便宜"的向量检索先剪枝，"昂贵"…

#字节#Rerank模型#RAG Rerank

面试题·检索· 字节

两阶段检索 vs 直接重排?

匹配正文：…心目标召回（Retrieval）百万~亿级文档轻量、快速（如向量相似度、BM25）快速筛选，从海量中捞出Top-K候选重排序（Rerank）百~千级候选重型、精准（如Cross-Encoder）精细排序，用复杂交互计算最终相关性重排序模型（如BERT-based Cross-Encoder）需要query和document拼接后过Transformer，计算复杂度O(n)，无法承受直接扫描百万级文档的延迟和成本。架构优缺点优点效率可控：召回阶段毫秒级响…

#字节#两阶段检索#RAG 重排序

项目实战·RAG

第 4 章:Embedding 选型与向量化

匹配正文：…索赔方法介绍"这次分数飙到最高,而"理赔流程说明"反而掉下去,因为现在共享的字变成了"索赔"。同一批文档,只因为问法换了个近义词,排序就全反了。再加一条文档 "出事故后能领多少钱"(和"理赔"是一个意思,但和保险理赔一个相同字都没有),你会看到它拿 0.00。意思最近,字面零重合,玩具向量直接判它"毫不相关"。这两个改动,就是 Embedding 模型存在的全部理由:让"意思近"压过"字面像"。 🧭 你刚才做的,等于真实系统的什么? 你写的 to_vector() …

#RAG#检索#项目实战

项目实战·RAG

第 7 章:Query 理解与改写

匹配正文：… ✓ 零基础也能跟着做:用一段零依赖代码,看到"重写"和"扩写"怎么把检索不到的问题救回来 ✓ 看懂意图识别的三条路线(规则 / BERT 分类 / LLM Prompt)及各自适用场景 ✓ 分清 Query 重写(求"准")和 Query 扩写(求"全")的区别 ✓ 理解 HYDE 这个反直觉的技巧:为什么"先让模型瞎答一个"反而能提升召回 ✓ 学会多轮对话里的指代消解:把"它/这个"补全成能独立检索的问题 ✓ 会写 LLM 意图识别的 prompt 模板,并知道 300-…

#RAG#检索#项目实战

面试题·文档处理· 字节

Chunk 向量化与索引怎么选?

匹配正文：…索引（Qdrant、Milvus）可接受100ms+：磁盘型IVF-PQ降低内存成本检索模式纯语义：任意向量库均可需过滤+排序：优先Weaviate、Qdrant的过滤下推能力成本结构自托管：人力成本高，硬件成本可控 SaaS：按量付费，适合波动负载字节场景的特殊考量：内部通常自研或基于Faiss二次开发，追求极致性能与成本控制，同时需要与推荐系统基础设施打通。学习建议掌握常见嵌入模型（如BERT、Sentence-BERT）和向量数据库（如FAISS、Mi…

#字节#向量检索#Chunk 向量化

面试题·文档处理· 字节

RAG 文本分块与向量索引流程

匹配正文：…ery) return weighted_fusion(dense_score, sparse_score, alpha) # 重排序（Rerank） cross_encoder = CrossEncoder('bge-reranker-base') candidates = vector_db.search(query, top_k=100) reranked = cross_encoder.rank(query, candidates)[:10] 关键指标：召回率@K、M…

#字节#文档处理#向量检索

面试题·文档处理· 字节

专业领域文档怎么清洗?

匹配正文：…摘要、方法、实验等结构化切分问答对保留Q-A完整性，避免切断表格整表或按行切分，附加表头元数据动态分块：结合语义边界（如BERT-based分割）而非固定token数重叠窗口：比较无重叠、短重叠和较长重叠候选，验证跨块召回与冗余成本四、元数据与向量化增强元数据保留：来源文档、章节层级、发布时间、版本号，用于检索过滤和重排序多向量表示：长文档同时存储文档级摘要向量 + 细粒度段落向量领域适配：用领域语料微调embedding模型，或训练领域特定的BGE/M3…

#字节#RAG 文档清洗#文档预处理

面试题·文档处理· 安克科技

RAG向量化：分块与Embedding

匹配正文：…，长度作为候选变量；实现简单但可能切断语义递归分块：先按段落/句子切，超长再细分，保持结构完整语义分块：用模型判断语义边界（如BERT-based分割器）优化技巧：比较零重叠、短窗口和较长窗口，用同一评测集验证是否减少边界信息丢失保留元数据（标题、章节、时间戳），用于重排序过滤三、向量归一化 # L2归一化：将向量映射到单位球面 import numpy as np vector_norm = vector / np.linalg.norm(vector) 作用：…

#安克科技#RAG 向量化#Embedding 模型

面试题·评估· 字节

医疗法律RAG：评估陷阱

匹配正文：…检索不够，需多路融合检索方式适用场景实现稠密向量检索语义相似、同义表达领域微调Embedding（如MedCPT、法律BERT）稀疏关键词（BM25）精确术语、药品名、法条编号 Elasticsearch 知识图谱检索关联推理、禁忌症、判例引用 Neo4j + 子图匹配重排序（Rerank）精排Top-K 交叉编码器微调关键设计：查询改写（Query2Doc）处理口语化输入，如"心跳快"→"心动过速" 三、生成模型层（领域适配）基座选择：专业领域优先…

#字节#专业领域 RAG#RAG 系统设计

面试题·模型微调· 高德

Agent 记忆怎么用向量库?

匹配正文：…如50个候选）时序衰减加权：score = similarity × exp(-λ·time_gap)，λ控制遗忘速度重要性重排序：用轻量模型打分，考虑：是否包含用户明确确认的信息（"对的""没错"）是否涉及后续对话引用是否跨会话被重复提及（长期偏好）重排序技巧：用对话历史做Cross-Encoder精排，或训练小型BERT做记忆相关性二分类。落地检查点记忆是否"可用"：检索结果在Prompt中能否真正帮助生成是否"可控"：支持显式删除/修改某条记忆（GDP…

#高德#Agent#向量检索

面试题·模型微调· 字节

领域 RAG 知识库构建

匹配正文：答案要点数据清洗与分块策略设计 Embedding模型选型与微调考量多路召回与重排序的检索架构大模型Prompt工程与上下文压缩端到端评估指标与迭代优化闭环一、数据准备：质量决定天花板数据清洗去重、去噪、格式标准化（PDF/Word/网页解析）领域术语词典构建，确保专业概念不被错误分词分块策略（关键！）按语义切分优于固定长度：用BERT-based句子嵌入判断边界领域特性：医学/法律需保留完整条款上下文，代码按函数/类切分块大小与重叠窗口都作为候选变量…

#字节#领域 RAG 知识库构建#领域 RAG 知识库怎么建？数据处理、索引与检索

面试题·模型微调· 百度

Embedding 模型选型考虑哪些因素?

匹配正文：答案要点明确业务场景需求（检索、聚类、分类）决定选型方向掌握主流模型特点（BERT系、Sentence-BERT、M3E、BGE等）的优劣对比理解维度、上下文长度、多语言能力的权衡知道领域适配方法（微调、对比学习）能说出性能评估指标（MRR、Recall@K、NDCG）选型核心维度 1. 业务场景匹配语义检索（RAG）：选Sentence-BERT、BGE、M3E等专为句子相似度优化的模型聚类/分类：通用BERT即可，甚至可以用更小模型代码/多模态：需专用模…

#百度#向量检索#Embedding 模型选型

面试题·知识图谱· 字节

医疗法律 RAG 合规追溯

匹配正文：…Embedding适配与微调方案答案生成的事实性校验与溯源机制一、整体架构设计用户查询 → 查询理解层 → 多路检索 → 重排序 → 上下文组装 → LLM生成 → 后校验二、关键组件详解 1. 领域知识处理（最核心）数据分层结构化：药品库、疾病编码、法条条款 → 构建知识图谱（Neo4j/自研）半结构化：病历模板、合同范本 → 抽取标准化字段非结构化：医学文献、判例文书 → 按语义切块（医疗按就诊流程切，法律按争议焦点切）领域Embedding微调用领域…

#字节#医疗法律 RAG 合规追溯#医疗和法律 RAG 怎么做安全合规与证据追溯

面试题·检索· 字节

医疗法律 RAG 架构关键环节

匹配正文：答案要点领域知识结构化与分层存储设计多路召回与重排序策略生成器领域适配与约束机制幻觉控制与可解释性保障系统全链路的评测与迭代闭环整体架构用户Query → 意图识别 → 多路检索 → 重排序 → 上下文组装 → 领域生成 → 后校验 → 输出一、数据预处理（领域知识工程）核心挑战：专业文档结构复杂、术语密集、时效性强层级处理策略文档解析医疗：DICOM/HL7标准解析、病历结构化；法律：合同条款拆分、法条引用识别 Chunk策略语义切分（基于BER…

#字节#领域RAG架构#专业领域 RAG

面试题·检索· 字节

RAG 中 Re-ranking 怎么用?

匹配正文：…细粒度语义丢失交互缺失：query-doc没有早期交互，难以捕捉复杂匹配关系重排模型正是弥补这个gap，在小范围候选集上做精准排序。两阶段检索架构 Query → 向量检索（召回Top-K，K=100~1000） → 重排模型（精排Top-N，N=5~10） → 生成第一阶段：追求召回率，用ANN快速过滤第二阶段：追求准确率，用重排模型精细打分常用重排模型类型代表模型特点 Cross-Encoder BERT-reranker、monoT5 query和do…

#字节#重排与优化#RAG Re-ranking

面试题·检索· 虾皮

RAG 流程优化：检索与重排陷阱

匹配正文：答案要点完整描述RAG的5个核心环节（文档处理、向量化、检索、重排序、生成）每个环节至少给出2个具体优化方法体现对实际工程问题的理解（如召回率vs精确率权衡）提及评估和迭代闭环 RAG系统可分为5个核心环节，每个环节的优化策略如下： 1. 文档预处理与分块核心问题：分块粒度决定语义完整性和检索精度优化策略：语义分块：用BERT等模型识别主题边界，而非固定长度层次结构：保留文档层级（标题-段落-句子），支持多粒度检索元数据增强：添加时间、来源、类别等标签用于过…

#虾皮#RAG全链路优化#RAG 流程优化

面试题·检索· 字节

领域 RAG 架构如何控幻觉?

匹配正文：…按条款边界切分，避免"第X条"跨块断裂二、检索优化混合检索方式实现适用场景稠密向量领域微调Embedding（如法律BERT）语义相似、概念匹配稀疏向量 BM25 + 法条编号精确匹配条款号、关键词命中知识图谱实体链接（当事人-案由-法条关联）复杂关系推理查询侧优化意图识别：区分"法条查询"/"类案参考"/"流程咨询" 查询扩展：用LLM生成同义表述（如"工伤认定"→"职业病鉴定"）重排序交叉编码器精排（如法律领域微调的ColBERT）时效…

#字节#专业领域RAG#领域 RAG 架构

面试题·检索· 字节

Embedding 怎么实现语义召回?

匹配正文：… 召回质量混合检索（向量+关键词BM25）、查询改写、多向量表示精度提升两阶段检索（粗排+精排/Cross-Encoder重排序）效率优化量化（FP32→FP16/INT8）、索引分区、缓存热点查询领域适配 Embedding微调、Hard Negative Mining 余弦相似度的选择逻辑归一化后等价于点积，计算高效对向量长度不敏感，适合语义匹配（关注方向而非幅度）替代方案：欧氏距离或内积；内积本身不要求归一化，只有用它模拟余弦时需把query和docu…

#字节#向量语义召回#Embedding 语义召回

面试题·检索· 美团

混合检索为什么优于单一检索?

匹配正文：…见词、专有名词召回差，且计算成本高混合检索的核心价值是互补召回：稀疏保证字面匹配精度，稠密覆盖语义泛化能力，最终提升整体召回率和排序质量。稀疏检索（Sparse Retrieval）原理：基于倒排索引的关键词匹配，计算query与doc的词项重叠程度。代表方法：BM25 score(D,Q) = Σ IDF(q_i) · [f(q_i,D)·(k1+1)] / [f(q_i,D) + k1·(1-b+b·|D|/avgdl)] IDF：词项区分度 k1/b：控制词频饱…

#美团#稀疏稠密检索#混合检索策略

面试题·检索· 小红书

BM25 vs 向量检索 vs 混合检索怎么选?

匹配正文：…i)+k1*(1-b+b*dl/avgdl)) 本质是精确关键词匹配，对高频词有惩罚，对文档长度做归一化向量检索（稠密检索）用BERT等编码器将查询和文档映射到同一语义空间通过余弦相似度或点积计算语义相关性能捕捉同义词、上下位词等语义关系，如"苹果手机"≈"iPhone" 混合检索并行执行BM25和向量检索，结果融合（常用RRF倒数排序融合或加权求和） RRF公式：score = Σ 1/(k + rank_i)，k通常取60，对排名敏感而非绝对分数关键维度对比 …

#小红书#检索方法对比#BM25 向量检索混合检索

面试题·检索· 美团

稀疏稠密与混合检索

匹配正文：…相关性优势：精确匹配能力强、可解释性好、无需训练、对关键词敏感稠密检索（Dense Retrieval）原理：通过编码器（如BERT、双塔模型）将文本压缩为低维稠密向量。维度通常 256-1024，向量稠密相似度度量：余弦相似度或点积，衡量语义空间中的距离优势：语义泛化能力强，能处理同义词、改写、跨语言等语义匹配为何采用混合检索？场景稀疏检索稠密检索专业术语/ID/人名 ✅ 精准 ❌ 可能失配语义改写/口语化查询 ❌ 字面不匹配 ✅ 语义捕获长尾低频…

#美团#稀疏稠密检索#稀疏稠密与混合检索