匹配正文：人工干预的三层架构 1. 输入层：前置过滤与引导敏感Query识别：基于规则+小模型做意图分类，拦截违规请求 Prompt改写：自动注入安全约束（如"请确保回答符合法律法规"）上下文注入：RAG场景下动态插入合规知识片段 2. 生成层：过程控制解码策略干预：调整temperature、top-p，或对特定token降权动态停止条件：检测到风险模式时触发early stopping 工具调用约束：Agent场景下限制可调用的工具白名单 3. 输出层：审核与修正规则拦截…

#快手#人工反馈控制#人工干预 LLM 生成

面试题·RAG

LLM 封闭标签方法对比

匹配口述回答：…其实问的是，怎么把一个通用生成模型硬掰成分类模型，让它只输出我们想要的那几个标签。我做过一些落地，聊一下我的思路。先说最简单的，提示工程加输出解析。就是在Prompt里把可选标签全列出来，告诉模型只能选一个，然后后面用正则或者规则把输出兜住。这个方案的好处是零改造成本，你甚至不用微调，拿个Prompt就能跑。但说实话，它非常不可靠。模型可能自己造个标签出来，或者格式乱七八糟，你解析的时候就得各种兜底。所以它只适合快速验证或者Demo，真正上线我不太敢只用它。真正生产环境我…

#封闭集合分类#约束解码#LLM 封闭标签方法对比

面试题·检索· 阿里

RAG流程：检索到生成各阶段陷阱

匹配正文：…口，非固定长度上下文压缩：LLMLingua选择性压缩、摘要式压缩引用标记：为生成内容附加来源，便于溯源 5. 生成与后处理提示工程：明确指令（"仅基于以下文档回答"）、Few-shot示例约束格式生成控制：温度参数、重复惩罚、结构化输出（JSON模式）质量影响：幻觉抑制依赖上下文相关性与指令遵循能力的平衡各环节协同关系检索质量是天花板，生成能力是地板——检索不准则生成必错，检索准确但生成指令不清则答案冗余。实际系统中需建立检索-生成联合评估闭环，持续优化Emb…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#阿里云#重排与优化#向量检索

面试题·检索· 小红书

RAG检索不准的失败场景与优化

匹配正文：…合检索、查询扩展检索召回但排序低查看正确答案的原始排序位次重排序优化、特征工程检索正确但生成错分析上下文窗口、指令遵循提示工程、RAG-specific微调实际优化需结合具体bad case分析，避免盲目堆技术。学习建议深入理解RAG架构，掌握检索与生成模块的协同机制，学习常见失败模式及优化策略。

#小红书#美团#重排与优化

面经·项目面试

子 Agent 有独立上下文，为什么还要认真写交接？

匹配正文：…便条新循环只收到一条显式输入在这份本地 cc-python 实现里，父模型通过 AgentTool 派生子任务。工具接收任务 prompt，还可以指定模型和运行方式。它随后组装子工具集，进入一个新的 query_loop。前台执行路径创建的初始消息很短：一个 UserMessage，内容就是传入的 prompt。这里没有把父循环的 messages 复制过去，也没有根据任务描述自动挑出父会话里的相关片段。子任务使用的系统提示词也来自预设的 DEFAULT_AGENT_…

#Agent#子Agent#上下文交接

面试题·推理优化· 京东

vLLM vs TensorRT-LLM 怎么选?

匹配正文：…PU 混合支持远不止 Llama，但具体算子、模态与量化需查模型列表框架不能脱离模型和硬件排名。应固定 checkpoint、prompt/output 长度、dtype/量化、并发和质量门槛，分别测冷启动、TTFT、TPOT、吞吐、P95/P99、峰值内存与能耗。任何“固定 50ms”都缺少模型、batch、上下文与硬件前提。

#vLLM#TensorRT-LLM#推理引擎

面试题·评估· 百度

大模型应用怎么保障可靠性?

匹配口述回答：…。若数据本身过期或来源不明，模型输出再流畅也不可靠。进入检索和生成阶段后，要保留query改写、召回候选、重排分数、最终上下文、prompt版本、模型版本、解码参数和工具调用trace。对关键事实要求能回指证据片段，并检查证据是否真的支持结论，而不是只看有没有引用。金额计算、库存、权限和规则判断应尽量交给确定性程序或受控API，输出则用JSON schema或语法约束减少格式错误。验证可以组合业务规则、单元测试、代码执行、数据库查询和独立模型，但验证器自身也会犯错。要用独…

#数据验证#输出校验#反馈闭环

面试题·Agent· 美团

多智能体系统核心技术难点

匹配口述回答：…集中式更简单。再说数据构造。[[多智能体]]系统的训练数据很难搞。仿真自动生成能快速覆盖大规模场景，但仿真和现实有 gap，行为模式单一；人工专家轨迹质量高、可解释，但成本高、覆盖不了长尾。我的策略是：仿真生成预训练数据，人工标注关键决策点做 [[SFT]] 或 [[RLHF]]，最后用在线 A/B 测试验证。这里有个坑：LLM 合成数据虽然能快速扩展场景多样性，但可能继承模型偏见，比如让骑手总是选择最短路径而忽略商家出餐时间，导致实际效率反而下降。所以对合成数据一定要做过…

#美团#Agent#多智能体系统

面试题·Agent· 美团

ReAct vs Plan-and-Execute 怎么选?

匹配正文：…、状态与产物；恢复上，前者可局部调整，后者可在检查点重试、回滚或重规划；效率取决于交互步数、规划成本和并行机会。长任务常采用混合模式：可修改的任务图管理全局约束，子任务内部使用观察—动作循环。系统保存目标、已验证事实、工具输入输出、依赖和错误码，而不是公开原始隐藏推理。还应设置幂等键、超时、重试上限、补偿操作和人工升级，并以成功率、尾延迟、调用成本与恢复率比较。图解 ReAct vs Plan-and-Execute 怎么选?图解

#美团#Agent#ReAct vs Plan-and-Execute

面试题·Agent· 商汤科技

Agent 架构落地看哪些组件?

匹配口述回答：…hema、参数校验、权限、超时、幂等、重试和熔断；记忆与 RAG 分开管理，并按租户隔离；高风险动作进入人工审批；观测层记录模型、Prompt、工具调用、状态变化、token、延迟和错误。假设设计一个数据分析 Agent：用户问题先被路由到数据域，系统检索真实 schema 和指标口径，再生成查询计划与 SQL。SQL 必须经过语法、表权限、扫描量和只读检查，执行结果还要做空值、量纲和一致性校验，最后才生成解释。删除或写入操作不能由模型直接执行。失败模式也要分层处理。sc…

#商汤科技#Agent#AI Agent 架构

面试题·Agent· 百度

为何拆解任务给多Agent协作?

匹配口述回答：…时，比如写一个复杂的SQL查询，如果让一个Agent从头干到尾，它常常在中间步骤就忘记前面的约束条件。这其实就是[[ReAct]]模式的典型局限：工具调用越多，决策越不稳定。所以多Agent架构的价值就出来了。核心是两个：专业化分工和故障隔离。专业化分工很好理解，比如代码生成场景，我可以让一个Agent专门写代码，另一个专门做代码审查，第三个负责测试。每个Agent只关心自己的领域，可以针对性地优化提示词和工具集，质量自然更高。故障隔离也很关键，单一Agent如果某个环节出…

#百度#Agent#多Agent架构

面试题·评估· 蚂蚁

Agent 系统哪些模块最易出问题?

匹配正文：…依赖定位瓶颈，再用相同输入、模型版本和工具快照进行可重复回放。混沌测试可注入工具超时、限流和返回格式变化，但应在隔离环境或无副作用模式下进行。结论：可观测性的核心是还原输入、结构化决策、工具调用和状态变化，而不是暴露模型的私有推理过程。图解 Agent 系统哪些模块最易出问题?图解

#蚂蚁#Agent#AI Agent 稳定性

面试题·评估· 小红书

RAG 有哪些主要缺陷?

匹配口述回答：…记忆里矛盾时，它可能固执己见，也可能随机选一个，这就是 [[Hallucination]]。我的做法是让模型显式引用来源，比如在 prompt 里要求“只根据以上文档回答，如果文档没有，就说不知道”，同时做置信度校准，把检索结果分太低的直接丢掉。还有一个常被忽略的点：Lost in the Middle 现象，模型对长上下文中间位置的信息容易遗忘。我会把关键文档放到 prompt 首尾，或者先压缩再喂给模型。系统层面，延迟和成本是逃不开的。检索加重排加生成，链路很长，首 t…

#小红书#RAG 局限性#RAG 缺陷

面试题·评估· 小鹏

RAG 失败场景诊断

匹配正文：…控：线上先卡检索Recall，再优化生成质量构建评估集：从真实日志采样，覆盖高频Query和边界Case A/B测试：检索策略、Prompt、重排序模型的对比实验

#小鹏#评估与监控#RAG 失败场景诊断

面试题·评估· 蚂蚁

大模型客服评估：伪代码与指标

匹配正文：…sults.violations ) class EvaluationAgent: """大模型评估Agent，带自检机制""" PROMPT_TEMPLATE = """ 你是客服质检专家。请对以下对话进行{dimension}维度评估。对话摘要：{summary} 关键片段：{evidence_quotes} 要求： 1. 给出1-5分评分，并说明3条具体依据（引用原文） 2. 检查是否有幻觉：判断依据是否真实存在于对话中 3. 若置信度<0.7，标记为"需人工复核" …

#蚂蚁#客服质量评估#大模型评估系统

面试题·评估· 美团

RAG 解决了哪些问题?

匹配口述回答：…是RAG最核心的价值，知识可实时更新，不需要重新训练模型。但RAG也不是万能的，它和微调是互补关系。微调适合让模型学习固定的行为模式或风格，比如让客服语气更亲切；而RAG适合处理频繁变化的知识，比如价格、政策、库存。真正落地时，往往是两者一起上：微调定调子，RAG给事实。那具体怎么做呢？我重点讲三个关键点。先看召回策略，不能只用向量检索。比如用户问“订单号12345的状态”，向量检索可能匹配到语义相似的句子，但关键词检索精确匹配订单号更靠谱。所以我会用[[Hybrid S…

#美团#混合检索#RAG 技术

面试题·评估· 百度

RAG 架构怎么工作?

匹配口述回答：…Faiss]]或Milvus。第二段是在线流程，用户提问来了，同样向量化，到库里搜最相似的Top-K片段，然后把这些片段和问题拼成Prompt，喂给LLM生成答案。核心优势其实很实在。先说缓解幻觉，因为生成的内容有出处，可以溯源验证，这在金融、医疗这些合规要求高的场景特别重要。再一个是知识时效性，知识库一更新，答案就跟着变，不用重新训练模型，成本低得多。还有就是成本可控，比起全量微调，RAG几乎没什么训练开销，换知识库就行。但落地的时候坑也不少。最关键的瓶颈是检索质量。如…

#百度#评估与监控#RAG 架构

面试题·模型微调· 百度

RAG 端到端工作流程

匹配口述回答：…分可以离线跑。在线查询时，用户问题先向量化，到向量库做[[近似最近邻]]搜索，取 Top-K 块，然后把这些块和原始问题拼成一个 Prompt，喂给大模型生成答案。这里有个常见失败场景：检索回来的文档质量差，或者和问题不相关，模型就会基于错误上下文胡编。所以我会在检索后加一道置信度过滤，如果 Top-K 的相似度分数普遍低于阈值，就降级处理，比如告诉用户“知识库没有相关答案”，而不是硬生成。相比纯生成模型，RAG 的优势很明显。最核心的是知识实时更新，知识库改一条记录，下次…

#百度#RAG 端到端工作流程#RAG 从查询到答案怎么工作？完整流程与可靠性边界

面试题·模型微调· 商汤科技

RAG 技术流程怎么跑?

匹配口述回答：…Encoder]] [[重排序]]。这一步能显著提升召回相关性，尤其当知识库有大量相似文档时。生成阶段，把检索到的文本和问题拼成Prompt，让LLM基于证据回答。Prompt结构很关键：先给检索内容，再给问题，明确要求模型引用来源。这里有个风险：如果检索内容有噪声或冲突，模型可能会混淆。所以我会设一个置信度阈值，低于0.6的块直接丢弃，避免污染上下文。举个例子，电商客服场景。用户问“我买的手机降价了，能退差价吗？”系统先检索知识库，找到“7天价保”政策文档，然后LLM基…

#商汤科技#检索生成流程#RAG 技术流程

面试题·模型微调· 美团

RAG 深度与局限怎么破?

匹配正文：…可信度，满足合规审计需求成本可控：相比全量SFT，RAG的边际成本极低，适合频繁变更的业务知识技术深度体现不仅是"向量检索+Prompt拼接"，而是涉及查询理解→多路召回→精排融合→上下文压缩→生成约束的全链路优化关键局限性局限类型具体表现典型场景检索质量瓶颈语义匹配≠相关性，Top-K可能漏关键信息专业术语、多义词上下文碎片化长文档切块导致逻辑断裂技术文档、法律条款推理能力边界弱于多跳推理、数值计算、跨文档归纳财报分析、科研综述系统耦合复杂…

#美团#RAG 局限性#RAG 优化方向

面试题·模型微调· 快手

Agent 系统怎么调优优化?

匹配口述回答：…预训练阶段学完通用能力之后，怎么让它真正用起来、用得好，而不仅仅是会调用API。我觉得核心就是三件事：[[监督微调]]、强化学习和Prompt工程，但真正落地的时候，这三样不是选一个，而是混着来的。先说监督微调。这一步主要是让模型学会工具调用的格式和流程，比如[[ReAct]]那个模式：先想，再选工具，填参数，看结果。数据构造很关键，得是真实的调用轨迹，包括中间思考过程，不能光给输入输出。但这里有个坑：纯SFT做出来的Agent容易死板，遇到没见过的场景就卡住。所以SFT更…

#快手#Agent#Agent 调优

面试题·多模态· 字节

Agent 优势与局限怎么分析?

匹配正文：…步骤任务 2. 关键能力拆解能力说明任务分解将复杂目标拆解为可执行的子步骤动态规划根据中间结果调整执行路径（ReAct模式）工具编排灵活组合多源工具，而非固定pipeline 多轮决策具备状态记忆，支持长程交互主要局限性可靠性瓶颈规划错误会级联放大，单步失误导致全流程失败工具调用参数易出错（JSON格式、参数边界）工程痛点延迟：多次LLM调用+工具执行，RT难以控制在秒级成本：Token消耗随步骤指数增长，商业化承压安全：Agent自主行为边…

#字节#Agent#Agent 优势与局限

面试题·RAG· 淘天

RAG vs 传统检索生成怎么选?

匹配正文：…索器固定或独立训练，生成模型无法反馈优化检索联合训练，生成loss可回传优化检索编码器知识存储检索结果作为硬提示（hard prompt）拼接检索向量通过注意力机制软融合（soft fusion）核心区别：RAG将检索从"前置预处理"转变为"模型内部运算"，典型如Dense Passage Retrieval + BART/GPT的联合优化。二、信息融合机制传统方法检索Top-K文档直接拼接到输入上下文问题：上下文长度爆炸、文档边界干扰、无法区分信息重要性 …

#淘天#RAG信息融合#RAG与传统检索生成对比

面试题·RAG· 字节

医疗法律RAG架构怎么搭？

匹配口述回答：…。但它的可靠性还需要验证，比如模型误判了该检索却没检怎么办。所以整体上，我会把 RAG 看成一种「知识库在前、模型在后」的协作模式，核心是让模型做它擅长的事，理解和生成，而把事实性交给检索。前提是检索质量要足够高，否则模型再强也是白搭。我更倾向在检索层多下功夫，而不是在生成层硬约束。一句话定位：本质是知识库与LLM的边界划分检索模块：多路召回+重排，边界与前提生成模块：Prompt约束与引用溯源知识更新：增量与软删除，风险点收尾：取舍与可延伸点约4分钟 Sel…

#字节#专业领域RAG#RAG 系统设计