匹配口述回答：…就没辙了。所以我会把它当兜底策略，保证延迟可控，再往上叠其他方法。然后是语义重写，这个就用上模型了。比如用户说「那个红色的」，用LLM或者T5这种模型改写，变成「红色连衣裙」，或者「苹果」这个词，根据上下文判定是手机还是水果。这个方法的优势是能处理口语化和不完整的Query，劣势是延迟高、成本高。所以我不会所有流量都走语义重写，而是只对长尾Query或者对话场景做重写，或者用个小模型先过滤一遍。再一个就是对话历史融合，这个在[[RAG]]系统里特别重要。用户多轮对话里经常…

#京东#Query改写#Query 改写

面试题·检索· 快手

RAG 延迟与准确率优化

匹配口述回答：…-off，再加上后面还要做[[重排]]，耗时很容易飙到几百毫秒。另一个是[[Agent]]的多轮调用，每次[[ReAct]]循环里LLM想一步、调一个工具，串行下来用户感知的延迟会累积。还有一个是生成阶段，上下文一长，[[KV Cache]]的计算量就上来了，首token延迟明显变高。正确率这边，常见问题有三类。先说检索不准，用户的query和文档的表述往往有语义gap，比如用户问“退款多久到账”，文档里写的是“资金返回周期”，向量相似度高但语义不直接匹配。接着说上下文噪声…

#快手#RAG延迟优化#RAG 延迟与准确率优化

面试题·检索· 字节

RAG 架构组件与失败场景

匹配口述回答：这道题问[[RAG]]的架构和流程，其实本质是问你怎么把外部知识可靠地注入到大模型生成里，同时控制[[幻觉]]和成本。我理解RAG的核心就三个环节：先把知识切成块并[[向量化]]存起来，然后根据用户问题把相关的块捞回来，最后让模型基于这些块来回答。但真正落地的时候，每个环节都有很多坑要踩。先说索引模块。[[分块]]这一步很多人随便按固定长度切，但实际业务里，比如客服退款场景，用户问的是“我退货了但没收到退款”，相关文档可能是一整段流程说明，如果切碎了，模型只拿到半截，答案就…

← 上一页第 9 / 9 页

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#字节#RAG组件协同#RAG 系统架构

面试题·检索· 字节

RAG 架构：检索到生成全链路

匹配口述回答：这道题问的是[[RAG]]的实现架构，其实本质上是在问：你怎么让大模型在回答时能拿到最新、最准确的外部知识，而不是完全依赖它训练时记住的那些东西。RAG和微调的区别就在这里，微调是往模型脑子里塞知识，但更新成本高、容易遗忘；RAG是把知识挂在外面，需要时再查，这样知识更新和模型解耦。整体架构分两条线：离线把知识库建好，在线做检索和生成。先说离线部分，核心就是把文档变成可检索的向量。文档解析这块，PDF、网页、Word格式不一样，我一般会保留标题层级和表格位置，因为这些对后面…

#字节#RAG组件设计#RAG 系统架构

面试题·检索· 美团

RAG 检索器与生成器如何协同？

匹配口述回答：…引。还要看查询改写成本：用户 query 经常很短或者有歧义，比如“怎么退”，需要先让模型扩写成“退货流程是什么”，但这会多一次 LLM 调用，延迟和成本都要考虑。其实 [[Naive RAG]] 和 Advanced [[RAG]] 的核心区别不在于索引，而在于检索策略。比如 [[Self-RAG]] 让模型自己判断是否需要检索、检索结果是否够用，不够就迭代检索多次。这个方向我觉得比单纯优化 Embedding 模型更有价值，因为它解决了“什么时候该查、查几次”这个根本问…

#美团#RAG架构#RAG 系统架构

面试题·RLHF与对齐· 美团

Environment-based 训练怎么用?

匹配追问：如果模拟环境与真实环境存在较大gap，如何解决sim-to-real transfer问题？在LLM的RLHF中，为什么通常不用真实环境交互，而是用偏好数据集进行离线训练？场景切入假设我们在做外卖订单调度系统，骑手实时接单、送餐，环境不断变化，你会怎么训练一个调度策略？是让它在仿真环境里跟模拟骑手交互迭代，还是直接拿历史订单数据离线学？层层追问强化学习里，智能体是怎么学会做决策的？……那它怎么获得训练数据？……如果数据是跟环境实时交互得来的，跟用预先录好的数据训练有…

#环境交互训练#在线学习#模拟器训练

面试题·项目与经历· OPPO

运筹学最优化 vs 机器学习最优化

匹配追问：如果让你用神经网络替代传统运筹求解器，你觉得可行吗？什么场景适合，什么场景不适合？在大模型推理优化中，哪些运筹优化的思想可以用上？你实际用过哪些求解器（Gurobi/CPLEX/OR-Tools）？遇到过什么坑？场景切入假设你负责一个电商订单派单系统的优化，需要决定每个订单由哪个仓库发货、走哪条路线，同时要最小化总运输成本。这个场景下，你会想到用什么数学建模方法来描述和求解？层层追问你了解运筹学里那些最优化方法吗？……比如线性规划、整数规划这些，它们一般用在什么地…

#运筹优化#数学规划#凸优化

面试题·Agent· 淘天

LangGraph 构建 Agent 有几种方式?

匹配口述回答：…作消息，框架自动处理消息传递。说白了，就是快速搭一个链式或简单循环的对话Agent，不用操心复杂的状态管理。比如你想验证一个简单的LLM调用工具链，MessageGraph几行代码就能跑起来。但它有个局限，就是状态太薄，一旦流程复杂，比如需要持久化或者多分支，就不好用了。所以它的适用场景就是快速原型和简单循环。最后是 Pregel底层API，这个用得少，但特别灵活。它让你直接操作图计算引擎，自定义channel和reducer，甚至控制并行执行策略。有点像Apache Be…

#淘天#LangGraph Agent 构建#StateGraph vs MessageGraph

面试题·文档处理· 安克科技

RAG向量化流程：预处理到归一化

匹配口述回答：…都有取舍，不是一个模型一套流程走到底的。先说文本预处理。很多人觉得就是切切文档，但这里有个挺关键的边界：固定长度切分和语义切分的区别。固定切分简单，但照搬一个固定长度很容易把一句话或者一个逻辑断成两半，检索的时候召回的内容不完整。语义切分就好很多，比如按段落、按标题层级来分，甚至可以用LLM辅助判断自然断点。但语义切分也有代价，就是计算开销大，而且有些文档结构不清晰，反而切不好。所以真正落地的时候，我倾向混合策略：对结构清晰的文档用语义切分，对纯文本或结构混乱的，也要把多组…

#安克科技#RAG 向量化流程#Embedding 模型选择

面试题·Prompt· 商汤科技

ReAct 范式核心思想与工作流程

匹配口述回答：这道题其实是在问，当我们想让大模型像人一样去调用工具、完成任务的时候，怎么让它既能推理规划，又能实时获取外部信息，还能根据反馈调整。[[ReAct]]就是目前最主流的方案，它的核心思想很简单：推理和行动是交错循环的，而不是先想完再做或者边做边想。具体来说，它的工作流程就是 Thought → Action → Observation 这样一个循环。Thought 是模型在内部推理，规划下一步；Action 是调用外部工具，比如查天气、搜数据库；Observation 是拿到…

#商汤科技#Agent#ReAct 范式

面试题·Prompt· 商汤科技

ReAct 之外还有哪些规划方法?

匹配口述回答：…n-and-Execute，这个很直观：先做一个全局规划，分解成步骤，然后按顺序执行，执行过程中不重新规划。跟 ReAct 最大的区别是，ReAct 是思考-行动-观察循环，每一步都基于反馈调整；而 Plan-and-Execute 是一锤子买卖，规划完就不改了。所以它适合步骤明确、执行效率优先的场景，比如旅行规划，或者生成一个固定流程的文档。最后是 [[Reflexion]]，它强调事后反思：执行完任务后，如果失败了，把失败原因写进记忆，下次遇到类似问题就能避免。而 Re…

#商汤科技#Agent#ReAct 替代方案

面试题·检索· 美团

RAG 架构怎么搭?

匹配口述回答：我觉得这道题其实就是在问一个核心问题：当大模型知识跟不上业务变化时，怎么低成本给它配个外脑。[[RAG]]就是这套方案，它不像微调那样要动模型参数，而是把外部知识塞进上下文里，让模型基于检索结果回答。所以它的架构可以拆成三个环节：先把知识存好，再从里面捞相关片段，最后让模型读着这些片段生成答案。我先说索引。离线阶段最容易被忽视的一个细节是[[切块]]。很多人上来就用固定长度切，比如256个token一刀切，但业务文档往往有自然段落，比如客服退款政策里，「退货条件」和「退款时长…

#美团#检索器生成器协同#RAG 架构