匹配正文：…投影、加入输出投影或FFN，会产生不同容量和成本。不同层也可能需要不同预算，AdaLoRA等方法尝试自适应分配。是否解冻norm、embedding或lm head同样是实验变量，不能按深层更重要的口号直接决定。若使用QLoRA，还要把量化误差、计算dtype、量化范围和普通LoRA区分开。QLoRA并不推出需要更大rank；模型能否恢复质量取决于基座、任务和目标模块。训练不稳时检查学习率、梯度、序列长度和数据，而不是用rank补偿所有问题。最终会同时比较prompt基线…

#LoRA#参数高效微调#故障排查

面试题·推理优化· 美团

VecEnv 怎么加速强化学习训练?

匹配正文：…环境侧压缩，但压缩又可能改变观测语义。训练脚本必须在主入口保护下创建SubprocVecEnv，避免不同操作系统的进程启动问题。调优完成后还要重复多次测量，报告置信区间，因为操作系统调度和episode长度都会造成墙钟波动。

#VecEnv#环境并行化#Stable-Baselines3

面试题·文档处理· 百度

RAG ANN 索引优化

匹配正文：先明确优化对象索引效率与召回率存在权衡，不能只调一个参数。应先建立精确搜索基线，再在真实向量分布、过滤条件和并发下测 Recall@K、P50/P95 延迟、QPS、内存、构建时间与更新成本。常见策略索引选择：HNSW 通常以较高内存换取低延迟和较高召回；IVF 通过聚类缩小扫描范围；PQ/OPQ 压缩向量以节省存储和带宽。选择取决于数据规模、更新模式、内存和目标硬件。参数调优：HNSW 的 M、efConstruction、efSearch，IVF 的 nlist、…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#百度#文档处理#RAG ANN 索引优化

面试题·文档处理· 美团

RAG知识库构建流程详解

匹配正文：… 大规模生产环境 Pinecone 托管服务、免运维快速上线、中小规模 Weaviate 混合搜索、GraphQL 需要关键词+向量混合检索 pgvector PostgreSQL扩展已有PG基础设施，数据量<100M Faiss 纯索引库、轻量实验环境、嵌入式部署 5. 索引构建与优化索引算法：HNSW（高召回、快查询，内存占用大）vs IVF（省内存、适合十亿级）参数调优：HNSW的M（连接数，通常16-64）、efConstruction（构建精度）增强策略…

#美团#RAG 知识库构建#文档预处理

面试题·检索· 阿里

RAG流程：检索到生成各阶段陷阱

匹配正文：…话历史融合质量影响：查询语义漂移直接导致检索偏差，是RAG失效的首要环节 2. 文档检索（召回阶段）方法适用场景实现要点向量检索（Dense）语义匹配、长尾查询 Embedding模型选择（BGE/M3E）、向量数据库（Milvus/Faiss）、HNSW索引关键词检索（Sparse/BM25）精确匹配、实体查询分词策略、词频权重调优混合检索通用场景 RR融合或线性加权，兼顾语义与精确匹配质量影响：召回率决定答案上限，需平衡速度与精度（Top-K通常取…

#阿里云#重排与优化#向量检索

面试题·检索· 字节

RAG检索方法如何优化？

匹配正文：…段（索引优化、重排序、缓存策略）体现工程权衡思维，而非单纯罗列技术常用检索方法对比方法核心机制优点缺点适用场景稠密向量检索 Embedding语义匹配语义理解强，容错性好对长尾/专业术语弱，计算成本高开放域问答、语义相似查询稀疏向量检索 BM25/TF-IDF关键词匹配精准匹配强，可解释性好语义鸿沟，同义词失效专业术语、ID类查询混合检索稠密+稀疏融合兼顾语义与精准系统复杂，融合策略需调优通用生产环境首选图检索实体关系遍历多跳推理…

#字节#RAG检索选型#RAG 检索方法

面试题·检索· 拼多多

ANN 索引怎么构建?

匹配正文：答案要点明确ANN索引构建的完整流程（数据准备→算法选择→参数调优→持久化部署）能对比主流算法（HNSW/IVF/LSH）的适用场景和trade-off 理解量化压缩（PQ/SQ）在内存与精度间的平衡知道索引更新的策略（增量vs重建）提及实际工具选型（FAISS/Milvus/Pinecone等） ANN索引构建完整流程 1. 数据准备阶段向量归一化：统一维度，处理缺失值，L2归一化（余弦相似度场景）数据分区：按业务维度分片（如按用户/类目），降低单次搜索规模采…

#拼多多#ANN索引构建#ANN 索引构建

求职指南·求职

后端工程师转大模型应用开发:已有经验怎么迁移

匹配正文：…步处理请求推理服务吞吐设计、请求批处理(batching)、协程与队列文档解析与数据管道 ETL、消息队列、批处理、增量更新向量数据库选型与调优存储选型、索引优化(HNSW/IVF 换个名字的 B+ 树直觉) 缓存设计向量检索结果缓存、语义缓存、Prompt 命中复用推理延迟与成本优化性能调优、连接池、批量化、异步降级可观测性 / 线上质量监控评估指标埋点、离线评测集、线上 badcase 采样与回归 Agent 工作流编排状态机、任务调度、重试与幂等、D…

#求职#职业转型

面试题·Agent· 高德

Agent记忆分层与RAG检索

匹配口述回答：…关系链找到间接相关的记忆。比如用户之前问过A商品的优惠，后来问B商品，如果A和B同属一个品类，图结构就能把A的优惠信息关联过来，而向量检索可能因为语义不直接匹配而漏掉。所以整体上，我会把记忆管理看成一个分层存储加[[混合检索]]的工程系统，核心是平衡上下文窗口利用率和信息密度。前提是LLM的摘要和打标能力要可靠，否则下游检索和更新都会受影响。常见失败场景是摘要丢失关键细节，或者重要性打分不准导致重要记忆被遗忘，这些都需要通过可观测链路持续调优。一句话点题：本质是平衡上下文…

#高德#Agent#向量检索

面试题·Agent· 字节

Agent 记忆衰退：为何与如何实现

匹配正文：… 明确必要性：历史信息确实会干扰决策，尤其是动态环境中列举2-3种具体实现机制（时间衰减、重要性评分、主动遗忘）说明与RAG/向量检索的结合方式提及实际落地中的权衡（衰减参数调优、计算开销）必要性判断有必要，尤其在两类场景：动态环境：工具API、业务规则频繁变更，旧记忆会误导决策长会话Agent：上下文累积后，早期无关信息稀释有效信号但注意区分：事实性知识（用RAG外挂）vs 交互记忆（会话上下文），后者才是衰减机制的主战场。三种实现方式机制核心思路具…

#字节#Agent#Agent 记忆衰退

面试题·文档处理· 字节

RAG 数据处理与索引流程?

匹配口述回答：…是工程上可持续的做法。本质是信息保真度与检索效率的平衡解析与清洗：结构保留与噪声剔除的边界分块：语义完整性与检索粒度的取舍 Embedding与索引：模型选择与索引参数调优落地风险与优化方向约4分钟增量更新时，删除操作不能原地动图索引，否则召回质量会崩，要用软删除加异步重建。这个延伸点会引向面试官追问增量更新的具体实现细节，比如软删除的标记策略、双缓冲索引的切换时机和一致性校验方法。

#字节#文档处理#向量检索

面试题·文档处理· 美团

RAG 知识库搭建流程?

匹配口述回答：…是在问流程，而是在问你怎么在检索质量、存储成本和响应延迟之间做取舍。搭建[[RAG]]知识库，我一般会按预处理、[[分块]]、[[向量化]]、索引构建、检索优化这几个环节来走，但每个环节都有很多坑，我重点说几个。先说文档预处理。这一步核心是格式解析和清洗。比如PDF，如果是文本型的，用PyPDF2或者python-docx直接提取就够；但如果是扫描件，那就必须走[[OCR]]，我会用PaddleOCR或者EasyOCR。这里有个坑，OCR识别率不是100%，尤其表格和数字，…

#美团#RAG 知识库搭建#文档预处理

面试题·文档处理· 蔚来

RAG分块策略：粒度、重叠与写入

匹配口述回答：…布某个token数最好。接着我会准备几组候选方案。块较小时，局部事实可能更容易命中，但上下文也更容易断；块较大时，论证链更完整，向量却可能混入无关语义。重叠同样不是固定比例：我会比较零重叠、短窗口和较长窗口，用同一批真实问题回放，观察Recall@K、证据完整率、最终答案正确性、延迟与索引体积。只有答案跨边界的bad case明显改善，而且冗余成本可以接受，才保留重叠。写入流程上，原始文档先清洗和结构化解析，提取标题、表格、代码块与页码；然后执行候选[[分块]]并生成来源…

#蔚来#文档处理#RAG文本分块

面试题·评估· 字节

RAG 三大瓶颈与迭代策略

匹配正文：… 核心问题：检索延迟高、吞吐不足、成本高索引分层：热数据HNSW内存索引、温数据磁盘索引、冷数据按需加载缓存策略：Query embedding缓存、热门问题答案缓存，命中率通常能到30-50% 异步流水线：检索与生成解耦，检索走异步批量，生成流式输出，降低TP99 量化加速：向量INT8量化、模型KV Cache优化，牺牲1-2%精度换2x吞吐四、迭代路径建议实际落地建议分阶段：先保证召回率（别漏）→ 再优化精确率（别错）→ 最后效率调优。监控看板要跟踪检索命中率、…

#字节#评估与监控#RAG 性能瓶颈

面试题·评估· 字节

RAG 上下文不准确怎么诊断?

匹配正文：…库本身存在过时、矛盾或错误信息第二层：快速复现用固定query在开发集复现，确认是系统性问题还是case级问题对比BM25、向量检索、混合检索的结果差异数据集类型类型用途构建要点开发验证集迭代调优覆盖高频场景，人工标注黄金答案对抗测试集压力测试故意构造易混淆、边界、多跳推理case 线上回流数据持续监控用户反馈（点赞/点踩/未采纳）、A/B测试日志数据质量控制方法采集阶段源文档准入：权威来源优先，设定时效性阈值（如知识库只保留2年内文档） …

#字节#RAG 上下文不准确#RAG 诊断

面试题·评估· 同花顺

多Agent系统优化策略

匹配正文：… 资源层面：动态负载均衡、弹性扩缩容、优先级调度系统层面：容错机制、监控观测、性能瓶颈分析通信效率优化消息层面语义压缩：用embedding或结构化摘要替代原始长文本，减少带宽占用增量更新：只传输状态变更（delta），而非全量状态批量聚合：小消息合并发送，降低网络往返开销拓扑层面从全连接改为分层/分簇结构，限制单节点连接数引入消息总线或Pub-Sub中间件，解耦直接依赖通信模式异步非阻塞替代同步等待，避免级联延迟设置TTL和优先级，丢弃过期低优消息 …

#同花顺#Agent#多Agent系统优化

面试题·模型微调· 美团

Reranker 训练数据怎么构造?

匹配正文：…习的是当前业务对“相关”的定义，训练候选必须接近线上召回器实际产生的分布。正负比例、难负样本占比和一致性阈值都需要按任务与损失函数调优，不存在通用的 1:3、30% 或 Kappa 0.6 门槛。 1. 先定义标签明确直接支持答案、部分支持、仅主题相关和不相关的边界，并规定时效性、权限、来源质量和冲突证据如何标注。多证据问题可以使用分级相关性或列表式标签；若最终训练采用二分类，再说明如何映射。用双人标注、仲裁和抽样复审估计一致性；目标值应结合任务难度和误标成本设定。 2…

#美团#重排与优化#Reranker 训练数据

面试题·模型微调· 字节

领域 RAG 知识库构建

匹配口述回答：…里的信息准确找出来，再让大模型读明白、说人话。它不是微调模型学知识，而是查文档加读文档的工程化。先说数据准备。很多人一上来就[[向量化]]，其实质量天花板在数据清洗和[[分块]]。清洗不难，去重去噪、统一格式就行，但领域数据有个坑：专业术语容易被通用[[分词器]]切碎。比如医学里的“非小细胞肺癌”，拆成“非”“小细胞”“肺癌”就丢语义了。所以前提是建一个领域词典，把这类复合词保留。分块才是真正的难点。固定长度切分最简单，但容易把一个完整条款砍成两半，比如法律合同里“甲方有…

#字节#领域 RAG 知识库构建#领域 RAG 知识库怎么建？数据处理、索引与检索

面试题·模型微调· 商汤科技

RAG 技术流程怎么跑?

匹配口述回答：…知识。RAG解决的不是模型能力问题，而是知识边界问题。流程上分三块：索引、检索、生成。我先说索引。离线阶段，我们把文档切碎、[[向量化]]、存进 [[Vector Database]]。这里有个常见的坑：[[分块]]策略。固定长度切分简单，但容易切断语义；语义切分效果好，但计算成本高。我的做法是混合：先用段落级粗切，再对超长块做递归切分，控制块大小在256到512 tokens之间。Embedding模型我倾向用 BGE 或 M3E，兼顾中文效果和推理速度。检索阶段，用户…

#商汤科技#检索生成流程#RAG 技术流程

面试题·Prompt· 阿里

Prompt 优化方法有哪些?

匹配正文：…rning） Few-shot：提供2-5个输入-输出示例，引导模型理解任务模式；关键在示例分布覆盖边缘case 动态示例检索：用Embedding从示例库召回相似case，比静态示例更精准（RAG+Prompt结合）三、推理增强 CoT（思维链）：在示例中展示"Let's think step by step"的推理过程，激发模型逐步思考，适合数学、逻辑题 Self-Consistency：对同一问题采样多条推理路径，投票取多数答案，降低单条CoT的随机性 ToT（思维树…

#阿里#Prompt工程#Prompt 优化方法

面试题·RAG· 美团

分布漂移下外接数据库怎么增强模型?

匹配口述回答：…增益。这里有个延伸点：当知识库规模很大时，比如百万级，全量重建成本高，但增量更新又可能影响索引质量。我倾向的做法是分层存储，把热向量常驻内存，长尾向量按需加载，这样平衡内存和召回。但具体阈值怎么定，需要结合业务数据分布来调。最后总结一下，我更愿意把动态增强看作一个持续调优的系统，而不是一次性方案。前提是能快速感知漂移，并且有可靠的更新和回滚机制。常见失败场景是只关注更新速度而忽略了一致性，导致模型效果反而变差。所以我会特别关注效果闭环，确保每次更新都有可量化的收益。本质…

#美团#分布漂移#外接数据库增强

面试题·检索· 字节

RAG检索方法选型原因？

匹配正文：…景解释选型原因提及重排序（Rerank）在检索流程中的作用核心检索方法 1. 密集检索（Dense Retrieval）基于Embedding模型（如BGE、M3E）将query和文档编码为稠密向量优势：语义理解能力强，能捕获"汽车"和"轿车"的语义关联适用：开放域问答、语义相似度高的场景 2. 稀疏检索（Sparse Retrieval）传统BM25或TF-IDF，基于词项匹配优势：精准匹配专有名词、ID、代码片段；可解释性强适用：关键词明确的查询、长尾实体…

#字节#评估与监控#RAG 检索方法

面试题·检索· 虾皮

RAG 流程优化：检索与重排陷阱

匹配正文：…，而非固定长度层次结构：保留文档层级（标题-段落-句子），支持多粒度检索元数据增强：添加时间、来源、类别等标签用于过滤 2. Embedding与向量化核心问题：领域适配和表征质量优化策略：领域微调：用对比学习在业务数据上微调Embedding模型多向量表征：一个文档生成多个向量（摘要、关键词、详细内容）稀疏-稠密混合：结合BM25和向量检索的优势 3. 向量检索核心问题：召回率和延迟的权衡优化策略：索引优化：HNSW参数调优（ef_constructio…

#虾皮#RAG全链路优化#RAG 流程优化

面试题·检索· 美团

推荐结果多样性怎么控制?

匹配正文：答案要点温度采样与Top-p/Top-k采样的参数调优重复惩罚机制（Repetition Penalty）的实现多样性重排序（MMR、DPP等）的应用多目标优化在训练阶段的引入后处理过滤与去重策略生成式推荐控制多样性的核心思路是**"解码干预 + 后处理重排 + 训练优化"三层架构**：一、解码阶段：采样策略调参温度采样（Temperature）：T>1增加随机性，T<1更确定；推荐场景通常T=0.7~1.2试探 Top-p（Nucleus）+ Top-k：限…

#美团#多样性控制#推荐多样性