匹配正文：…避免同一实体跨集合造成泄漏。如果任务存在时间演化，应按时间切分：用过去训练、较新的时间窗验证、更晚的时间窗测试。如果要声明跨域泛化能力，可以有意让验证集或测试集来自新地区、新设备或新业务域。三个集合的关系训练集用于拟合参数；验证集用于方案选择；测试集只用于最后一次或受控次数的泛化声明。验证集可以与训练集不同分布，但必须贴合要优化的部署目标。测试集是否与验证集同分布取决于最终声明范围；二者同分布本身不是泄漏，只有把测试样本、标签或测试结果用于调参和方案选择才是测试污染。…

#数据划分#类别不平衡#分布偏移

面试题·RLHF与对齐· 美团

环境训练方法怎么选?

匹配正文：…、差评场景）提高采样权重结合真实日志回放与模拟器生成，解决长尾问题一句话总结环境驱动训练的本质是用工程手段降低样本成本、提升泛化能力——课程学习解决"学什么顺序"，随机化解决"如何抗干扰"，模拟器回放解决"怎样少犯错"。

#环境交互采样#课程学习#域随机化

面试题·模型微调

SFT vs RAG 知识更新

匹配正文：答案要点明确对比四个维度（知识更新灵活性、推理准确性、部署复杂度、泛化能力）分析各自的性能上限瓶颈给出典型适用场景的判断标准能结合业务场景做选型建议核心对比维度 SFT RAG 知识更新灵活性差。需重新训练，成本高、周期长优。知识库热更新，分钟级生效推理准确性依赖训练数据质量，易幻觉可控。检索结果可溯源、可干预部署复杂度相对简单，单模型推理复杂。需向量库+检索+重排序+生成多模块泛化能力强。内化知识，复杂推理更连贯弱。依赖检索质量，知识片段间…

#SFT#RAG 知识更新#SFT vs RAG 知识更新

面试题·RAG· 小红书

生成式推荐的序列原理

匹配正文：…关键优势与挑战优势：天然融合内容信息（标题、图文），缓解ID冷启动统一框架支持多任务（推荐+解释+对话）利用预训练LLM的泛化能力挑战：推理延迟：自回归生成 vs 向量内积检索 ID词汇表爆炸：百万级物品需高效Token化（如Semantic ID、分层编码）位置偏差：生成顺序影响多样性小红书场景的思考笔记推荐适合生成式范式——内容属性丰富（标题、标签、图文），可生成"为什么推荐"的解释增强信任。但需解决：① 十亿级笔记的ID压缩 ② 在线P99延迟<100…

#小红书#Item Tokenization#生成式推荐的序列原理

面试题·RAG· 小红书

ROI 问题怎么影响推荐效果?

匹配正文：…生成的短视性 Overfitting（过拟合）对训练集中的热门物品过度拟合，长尾物品召回困难表现：冷启动用户/物品推荐质量差，泛化能力不足 Lack of diversity（多样性不足）推荐结果同质化严重，覆盖的类目、风格、话题狭窄用户视角：信息茧房；平台视角：流量分配失衡对推荐效果的影响问题核心损害 Repetition 用户体验疲劳，点击率虚高但满意度下降 Overfitting 马太效应加剧，创作者生态恶化 Lack of diversity 长期留存下…

#小红书#推荐多样性#ROI 问题

面试题·检索· 字节

RAG Retriever 工作机制详解

匹配正文：…DF 精确匹配，可解释强，适合关键词查询稠密检索双塔编码器，语义向量相似度 DPR、Contriever、BGE 语义理解好，泛化能力强，需GPU推理关键技术组件向量数据库与索引存储：FAISS、Milvus、Pinecone 存储文档Embedding 索引结构：HNSW（图索引，快但内存大）、IVF-PQ（磁盘友好，略慢）量化：FP16/INT8降低存储，平衡精度与速度与Generator的协同 Query → [Retriever] → Top-K Doc…

#字节#Retriever#RAG Retriever

面试题·检索· 美团

混合检索为什么优于单一检索?

匹配正文：…密检索：对训练数据分布敏感，罕见词、专有名词召回差，且计算成本高混合检索的核心价值是互补召回：稀疏保证字面匹配精度，稠密覆盖语义泛化能力，最终提升整体召回率和排序质量。稀疏检索（Sparse Retrieval）原理：基于倒排索引的关键词匹配，计算query与doc的词项重叠程度。代表方法：BM25 score(D,Q) = Σ IDF(q_i) · [f(q_i,D)·(k1+1)] / [f(q_i,D) + k1·(1-b+b·|D|/avgdl)] IDF：词…

#美团#稀疏稠密检索#混合检索策略

面试题·检索· soul

召回阶段怎么选方法?

匹配正文：…群体智慧冷启动差、稀疏性问题、热门 bias 成熟业务、行为丰富的场景向量召回（双塔）用户塔+物品塔分别编码，向量内积近似泛化能力强、支持任意相似度、可增量更新训练成本高、负采样关键、可能过度泛化大规模、需要语义匹配的场景图召回构建用户-物品异构图，用GNN传播高阶信号捕获多跳关系、缓解稀疏性、可融合多源信息计算复杂、图构建成本高、实时性挑战社交关系强、需要挖掘间接关联的场景（如Soul）规则/策略召回人工定义策略（热门、新品、运营干预）可控可解释…

#soul#多路召回#召回方法对比

面试题·检索· 美团

稀疏稠密与混合检索

匹配正文：…）将文本压缩为低维稠密向量。维度通常 256-1024，向量稠密相似度度量：余弦相似度或点积，衡量语义空间中的距离优势：语义泛化能力强，能处理同义词、改写、跨语言等语义匹配为何采用混合检索？场景稀疏检索稠密检索专业术语/ID/人名 ✅ 精准 ❌ 可能失配语义改写/口语化查询 ❌ 字面不匹配 ✅ 语义捕获长尾低频词 ✅ 稳定 ❌ 学习不充分实际做法：并行召回：BM25 + 向量检索各取Top-K 融合排序：线性加权 score = α·BM25_scor…

#美团#稀疏稠密检索#稀疏稠密与混合检索

面试题·检索· 美团

混合检索为什么用 Sparse+Dense?

匹配正文：…擅长精确匹配关键词，但无法理解同义词、语义变体 Dense检索：擅长语义理解，但对罕见词、专有名词容易失配混合检索=精确性+语义泛化能力，是生产RAG系统的标配。 Sparse检索（稀疏检索）原理：基于倒排索引的词频统计方法，典型代表BM25 BM25(q,d) = Σ IDF(q_i) · [f(q_i,d)·(k1+1)] / [f(q_i,d) + k1·(1-b+b·|d|/avgdl)] 只关注查询词是否出现在文档中，向量极度稀疏（维度=词表大小）相似度度量：…

#美团#Hybrid Retrieval#混合检索

面试题·项目与经历· 美团

信息抽取：规则 vs LLM

匹配口述回答：…“模型更聪明”，而是让每一层承担可验证、可回滚的职责。用任务边界与错误成本决定方案说明规则的稳定性与维护成本说明 LLM 的泛化能力与概率风险解释 Few-shot 的真实 token 成本以混合链路和金标评测收尾 30秒速答 + 90秒主答 + 完整展开 Few-shot 示例增加输入上下文，是否降低总成本取决于一次成功率、重试和维护工时。可继续设计规则、零样本、少样本和混合链路的统一成本与质量基准。

#规则引擎#LLM应用#成本优化

面试题·模型训练· 阿里

SFT prompt 模板设计原则与结构

匹配口述回答：…如果只配一个output，模型学到的映射太单一。我会配多个高质量的output，比如不同的表达方式或风格，这样数据丰富度更高，模型泛化能力更强。说到输出多样性，其实引出一个更深入的问题：如果output质量参差不齐，反而会引入噪声。所以我会在数据清洗环节做一致性校验，确保多个output在语义上等价，并且符合任务要求。所以整体上，我会把SFT prompt模板看作一个受控接口，核心是角色分离、结构化、对齐基座模型，同时留好扩展性。这样模型才能稳定输出，也方便后续迭代。一…

#Prompt Engineering#指令微调#数据格式设计

面试题·Agent· 百度

Agent 核心模块怎么协同?

匹配口述回答：… 所以整体上，我更倾向于把Agent看作一个编排框架，而不是让LLM直接解决问题。它的价值在于通过模块化分工和闭环反馈，把LLM的泛化能力和外部工具的精确性结合起来。上线前我会重点测试边界情况，比如工具超时、记忆检索为空、规划步骤过多，确保系统能优雅降级。本质是LLM做调度中心的闭环系统规划模块：任务拆解与策略选择记忆机制：短期与长期上下文管理工具调用与反馈闭环落地风险与工程师取舍约4分钟 Multi-Agent系统的通信协议和冲突仲裁机制是当前探索方向面试官可…

#百度#Agent#Agent 工作原理

面试题·文档处理· 字节

Embedding+向量库怎么做语义匹配?

匹配口述回答：…用户问“订单号12345”，这种精确匹配场景，向量检索往往不如[[BM25]]关键词检索准。反过来，用户问“退款流程有哪些”，语义泛化能力强，向量检索就占优。所以真正落地我倾向**[[混合检索]]**，把向量检索和关键词检索的结果按权重融合，比如用倒数排名融合，互补覆盖。再举个例子，比如电商客服场景，用户问“满减和优惠券能叠加吗”。如果文档里只有“满减规则”和“优惠券规则”两个独立块，向量检索可能只召回其中一个。这时候分块策略就要优化，比如用[[Parent Documen…

#字节#文档处理#向量检索

面试题·文档处理· 字节

Embedding 模型选型 vs 落地流程?

匹配口述回答：…驱动。通用语义检索场景，比如客服问答，我会优先考虑MTEB高分的[[双塔]]模型，像BGE、E5这些，它们在大规模语料上预训练过，泛化能力不错。但如果是代码或技术文档场景，比如企业内部SOP查询，我会换成CodeBERT这类在代码上预训练的模型，因为通用模型对代码语义的理解会差一些。多语言场景，比如跨国公司的合规文档，那就得上multilingual-e5或者BGE-M3。这里有个重要的边界划分：不是非此即彼，真正落地常常是几个模型一起上。比如订单异常检索，我会用BGE做通…

#字节#Embedding 模型选型#RAG 向量化流程

面试题·评估· 字节

Query改写怎么训练与评估?

匹配口述回答：…那些PV低但高价值的Query，比如历史上失败的会话、多轮交互里用户反复改口的情况。这些用聚类或者不确定性采样挑出来，能提升模型的泛化能力。第三层是边界和负样本层，大概15%，专门构造一些容易让模型翻车的场景，比如“取消订单”和“退款”这种易混淆的意图对，或者改写后语义漂移的bad case。这里有个前提，就是要做质量过滤，人工标注改写对的一致性，剔除那些表面相似但意图不同的伪等价样本，否则模型会学到错误关联。模型上线后怎么评估？我分两块。离线的话，核心是改写的准确率，就是…

#字节#评估与监控#Agent

面试题·多模态· 美团

AI Agent 自主智能体实现陷阱

匹配口述回答：…规律的东西，让Agent具备因果推理能力，而不是纯靠统计关联。另一个是神经符号结合，像AlphaGeometry那样，把LLM的泛化能力和符号系统的严谨性结合起来。举个例子，一个复杂的调度任务，LLM负责理解用户意图，符号引擎负责做约束求解，这样既灵活又靠谱。但这里有个大坑：技术再好，落地时可控性和评估是硬门槛。完全自主的Agent在业务场景里是不可接受的，因为不可预测。你需要它知道什么时候该问人，什么时候能自己做。比如一个客服退款Agent，如果它自主判断要退款…

#美团#Agent#AI Agent 发展路径

面试题·Prompt· 百度

意图识别 Prompt 最佳实践?

匹配口述回答：…样’，反例是‘明天上海会下雨吗’，这个其实也是查天气，但带着时间地点偏移，算边界。示例要覆盖口语化、省略主语这些常见变体，这样模型泛化能力更强。说到推理，引导模型走推理步骤特别重要。我通常会在prompt里写一个分析步骤：先提取关键词和实体，再匹配最相近的意图定义，检查槽位是否满足，最后输出结果和置信度理由。这样模型就不是瞎猜，而是有逻辑链条。你可以理解为让模型‘先想再答’，效果比直接输出好很多。边界情况必须处理。我会显式定义一个‘未知意图’兜底类别，并在prompt里说…

#百度#Prompt工程#Agent

面试题·Prompt· 字节

判别式转生成式模板怎么选?

匹配口述回答：…型用，上限有限。然后是自然语言指令，比如‘请判断以下文本的情感：{文本}→{标签}’。这种方法跟预训练分布更对齐，[[零样本]]泛化能力很强，而且多任务可以统一成一个模板。但它的坑在于指令设计很依赖经验，指令太短容易有歧义，比如只说‘判断情感’模型可能不知道输出格式。最后是思维链，也就是CoT，让模型先分析再给答案。可解释性强，复杂任务比如数学推理、逻辑分类准确率提升明显。但推理成本高，简单任务上反而可能‘过度思考’引入错误，比如一个明显的正面情感，模型分析半天给出个中性…

#字节#生成式建模#判别式转生成式

面试题·RAG· OPPO

内容热门度怎么量化?

匹配口述回答：这道题其实是在问，怎么用一个数字把内容的热度量化出来，同时还要平衡时效性和泛化能力。如果只盯着一个指标，很容易出问题。先说基础指标，无非是点击、互动、转化这几类。但单独用它们都不够，比如纯看点击量，老内容永远占优，新内容上不来。所以核心是加时间衰减。我通常会用一个指数衰减模型：H(t) = Σ(w_i × behavior_i) × e^(-λ·Δt)。λ是关键参数，新闻类λ要设大，几个小时就冷下来；UGC内容像博客、视频，λ小一点，热度能持续几天。这个模型简单，但有个问题…

#OPPO#热门度量化#搜索排序指标

多模态大模型有哪些技术挑战?

验证集和测试集为何要分开?

多模态融合与对齐怎么改进?

Prompt vs Seq2Seq，怎么转？

验证集分布：以部署目标为准

环境训练方法怎么选?

SFT vs RAG 知识更新

生成式推荐的序列原理

ROI 问题怎么影响推荐效果?

RAG Retriever 工作机制详解

混合检索为什么优于单一检索?

召回阶段怎么选方法?

稀疏稠密与混合检索

混合检索为什么用 Sparse+Dense?

信息抽取：规则 vs LLM

SFT prompt 模板设计原则与结构

Agent 核心模块怎么协同?

Embedding+向量库怎么做语义匹配?

Embedding 模型选型 vs 落地流程?

Query改写怎么训练与评估?

AI Agent 自主智能体实现陷阱

意图识别 Prompt 最佳实践?

判别式转生成式模板怎么选?

内容热门度怎么量化?