匹配追问：…大段废话。这种情况怎么让模型想想就出结果，不啰嗦？层层追问你会用CoT让模型一步步推理……但推理过程太长了，用户没耐心看。如果训练数据只有答案对错，没有中间步骤，你怎么让模型自己学会精简推理？直球架构只有分类标签，没有中间推理标注，你怎么设计训练方法或提示策略，让大模型生成简洁有效的思维链，避免冗余步骤？

#网易#Agent#Chain-of-Thought 训练

面试题·Prompt· 美团

匹配口述回答：…东西不断循环，直到得出最终答案。你可以这么理解：假设我问你‘《繁花》导演还拍过哪些获国际奖项的电影’，如果你只是纯推理，你可能靠训练数据里的知识回答，但万一你的知识截止了或者记错了呢？如果你只是纯行动，比如直接搜‘导演国际奖项’，可能搜出一堆无关信息。ReAct的做法是：先想一步，‘我得先知道导演是谁’，然后搜一下，得到‘王家卫’；再想一步，‘王家卫有哪些获奖作品’，再搜一次；最后观察到结果，总结答案。这个交替的过程，让模型能动态获取外部信息，避免[[幻觉]]，也避免盲目尝…

#美团#Agent#ReAct 框架

面试题·RAG· 百度

对话模型准确性怎么提?

匹配追问：…构、训练到推理层面改进，让模型输出更准？层层追问对话模型经常瞎编答案，你觉得根源在哪？……模型架构上有什么手段能减少幻觉？……训练数据怎么处理？……推理时有什么策略？……如果还不够，是不是要接外部工具？直球架构从模型架构、训练策略、推理优化和外部工具集成四个维度，具体说说如何提升对话模型输出的准确性？每个维度至少讲两个可落地的技术方案，并提一下各自的适用场景和权衡。

← 上一页第 6 / 6 页

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#百度#对话模型准确性#模型架构优化

面试题·RAG· 淘天

RAG 核心架构与工作流程

匹配追问：场景切入假设你的客服机器人要回答用户关于公司最新产品的售后问题，但模型训练数据里没有这款产品。你怎么让机器人既能知道产品细节，又能保证回答准确、不瞎编？层层追问大模型直接回答容易产生幻觉，这个你怎么看？……如果给它外挂一个知识库呢，具体怎么结合？……那检索回来的信息怎么跟问题拼在一起，流程上每一步怎么做？直球架构请解释RAG的核心架构和工作流程，包括检索器和生成器如何协同。相比纯参数化模型，它解决了哪些关键问题？在什么场景下RAG有绝对优势，举例说明它的优点和局限。

#淘天#阿里#RAG 架构

面试题·RAG· 字节

RAG 怎么提升生成质量?

匹配追问：场景切入假设你在做一个智能客服系统，用户问“你们公司总部在哪”，你希望模型回答时能引用官网上的最新地址，而不是靠它自己的训练数据。你会怎么设计这个流程？层层追问大模型生成答案时，你怎么保证它不胡说八道？……如果让它先查资料再回答呢？……具体来说，资料怎么存、怎么查、怎么和生成结合？直球架构说说RAG的核心思想。它怎么通过检索外部知识来提升生成的事实准确性？请从索引、检索、生成三个阶段展开，并指出每个阶段的关键技术点。

#字节#大模型幻觉#RAG 原理

面试题·RAG· OPPO

查询文档相关性怎么算?

匹配口述回答：…上，BM25 可能就漏了。但双塔有个大坑：离线建索引快，在线检索也快，但训练和调优成本高，而且对长尾 query 效果不稳定。如果训练数据覆盖不全，比如新出的促销活动，向量召回可能直接跑偏。所以工业界通常不会只用向量，而是 [[混合检索]]，BM25 和向量两条路都走，结果合并或加权，保证召回率高。再精排阶段，用深度学习模型做交互式匹配。最典型的就是 [[Cross-Encoder]]，把查询和文档拼成 [CLS] query [SEP] doc [SEP] 输入 BERT…

#OPPO#查询文档相关性#语义匹配

面试题·RAG· OPPO

推荐不精准怎么诊断?

匹配口述回答：…接反映体验问题。举个例子，离线AUC很高，但在线CTR一直上不去，那大概率是特征或样本分布发生了漂移，比如线上用户画像变了，离线训练数据没覆盖到。或者CTR高但CVR低，说明排序目标和业务目标错位了，用户点了但没转化，可能是商品详情页和推荐预期不符，或者价格、库存有问题。具体诊断，我比较常用的是漏斗分析和人群细分。漏斗分析就是从曝光到点击到加购到支付，看哪一步流失异常。比如点击率高但加购率低，说明详情页内容或者商品信息没接住用户的预期，可能是图片和实物差距大，或者描述不准…

#OPPO#推荐精度诊断#推荐不精准诊断

面试题·RAG· 快手

人工干预怎么控制 LLM 生成?

匹配口述回答：…。用正则或关键词匹配高风险内容，再用独立的安全模型做二分类判定。如果模型自己的置信度低，比如只有0.6，就进入人工标注队列，回流到训练数据里。这里有个关键闭环：人工反馈。反馈分两类。一类是实时干预，比如直播或客服对话中，运营人员可以一键打断模型输出，或者注入预设话术，比如‘请稍等，我帮你转接人工’。另一类是离线标注，在内容审核平台，用主动学习筛选高价值样本，然后做[[RLHF]]训练，让模型长期对齐安全规范。但落地时有很多坑。过度规则化会导致模型变成复读机，比如问个简单问…

#快手#人工反馈控制#人工干预 LLM 生成

面试题·检索· 字节

RAG 重排作用与实现

匹配口述回答：…合，先用ColBERT粗排到Top-50，再用Cross-Encoder精排到Top-5。这里有个坑：重排模型一定要和召回模型在训练数据分布上对齐，否则重排可能把本来对的候选打低。举个例子，召回用的向量模型是在通用语料上训练的，重排模型如果只在QA对数据上微调，遇到企业SOP这种长文档就会误判。上线前我会特别关注候选集的覆盖率和重排分数的分布，如果发现重排后Top-10里召回阶段的高分文档被大量丢弃，就要排查是不是重排模型有偏见。另外，最近也有用大模型直接做重排的尝试，比…

#字节#Cross-Encoder重排#RAG 重排作用与实现

面试题·检索· 高德

RAG增强与生成如何衔接？

匹配口述回答：这道题问[[RAG]]的工作流程，其实本质是在问怎么把大模型的知识边界扩展出去，让它能回答训练数据里没有的东西。我理解RAG不是单一技术，而是一套工程组合拳，核心就三件事：先把外部知识存成索引，再根据问题准确定位到相关片段，最后让模型基于这些片段生成答案，同时还要避免它胡编。先说离线建库。这一步很多人只关注选哪个[[向量数据库]]，但我认为真正的难点在[[分块]]和[[向量化]]。分块不是简单按512 token切，要结合业务场景。比如客服退款场景，一个订单的完整上下文往往…

#高德#RAG#RAG 工作流程

面试题·检索· 网易

BM25+向量+Cross-Encoder 怎么组合?

匹配口述回答：…边界 RRF融合的工程优势 Cross-Encoder精排的瓶颈与优化落地风险与最终取舍约2分钟 Cross-Encoder的训练数据构造，特别是负样本采样策略，会影响模型对难分样本的判断力。面试官可能会追问负样本的具体采样方法，比如随机负采样与难负采样的差异，或者如何利用线上点击日志构造训练数据。

#网易有道#BM25向量Cross-Encoder#BM25 向量召回 Cross-Encoder

面试题·检索· 美团

RAG 检索器与生成器如何协同？

匹配口述回答：这道题其实是在问，怎么让大模型不靠训练数据里的记忆，而是实时从外部知识库里查东西来回答问题。说白了，就是给模型配一个外挂知识库。整体流程分两步走，先离线建索引，再在线跑检索加生成。先说离线索引。原始文档不能直接喂给模型，得先[[切块]]。切多大？我一般控制在256到512个token，太小上下文不够，太大噪声多。然后用 [[Embedding]] 模型转成稠密向量，存到 [[Vector Database]] 里，常用 [[Faiss]] 或 Milvus，建 [[HNSW…

#美团#RAG架构#RAG 系统架构

面试题·检索· 美团

稀疏稠密与混合检索

匹配口述回答：…的汉堡”和“美味汉堡”其实是一个意思，甚至跨语言也能做。但这里有个坑：稠密检索对长尾、低频词覆盖不好。比如某个很冷门的专业术语，训练数据里出现的次数少，向量表达就不够准确。另外，它对精确标识符、ID这类东西天生不敏感，比如搜“订单号12345”，它可能把12345当成语义的一部分，反而匹配到不相关的内容。所以你看，两者正好互补。稀疏检索擅长精确匹配和长尾词，稠密检索擅长语义泛化和同义改写。那在实际系统里，比如美团做POI搜索，用户既会搜“麦当劳”这种精确品牌，也会搜“附近…

#美团#稀疏稠密检索#稀疏稠密与混合检索