匹配追问：…个电商客服agent，用户问“帮我查一下上周的订单”，然后又说“退款吧”。这时候你需要让模型调用查订单和退款两个工具，通常你会怎么设计这个流程？层层追问模型怎么知道该调用哪个工具？……如果模型输出格式不对，比如参数写错了，你怎么办？……那如果模型连续调用失败，你会考虑换一种实现方式吗？比如微调一个专用模型？直球架构请列举当前大模型实现工具调用的主流方法，包括实现机制、适用场景和优缺点，比如原生Function Calling、ReAct Prompt、微调方案等，你倾…

#百度#Agent#Tool Use 实现方法

面试题·Agent· 商汤科技

Tool Calling 失败处理

匹配口述回答：…rvation 循环，适合复杂多跳任务。实际落地时，我一般会把 Prompt-based 和 ReAct 结合起来用：简单工具靠 prompt 搞定，复杂场景走 ReAct 做多步推理。这里有个坑，就是参数合法性。模型生成的参数可能不符合 schema，比如类型不对、缺字段。所以我会用 JSON Schema 加采样约束，比如 outlines 库，在生成时就限制输出格式。另外错误处理也很关键，工具调用可能超时或失败，我会设计 fallback 逻辑，要么重试一次，要么告诉…

#商汤科技#Agent#Tool Calling 失败处理

面试题·文档处理· 字节

医疗法律文档切块

匹配正文：…的标题、章节、条款编号完全保留文档逻辑结构、支持精确引用溯源依赖文档解析质量（如OCR、版式分析）法律合同、病历、监管文件智能体切块（Agentic） LLM先读全文，按主题/事件主动划分最贴合人类理解、可提取跨段落关联成本高、延迟大、需设计prompt 超高价值文档、需要深度推理的场景医疗/法律领域的实践要点 1. 优先保结构法律：以"条款→款→项"为最小单元，而非固定长度医疗：以"主诉-现病史-检查-诊断"等病历章节为边界 2. 元数据增强 chunk …

← 上一页第 9 / 9 页

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#字节#医疗法律文档切块#医疗和法律文档怎么切块？结构、语义与引用边界

面试题·评估· 蚂蚁

大模型客服评估：伪代码与指标

匹配正文：…案要点明确质检维度设计（服务态度、专业能力、问题解决、合规风险）大模型评估与规则引擎的混合架构幻觉风险控制机制可解释性输出设计实时性与成本平衡策略核心设计思路 1. 质检维度分层基础层（规则可检）：敏感词、响应时效、挂机规范语义层（模型评估）：情绪识别、共情表达、主动追问业务层（模型评估）：方案准确性、一次性解决率、升单合规性 2. 混合架构：规则引擎 + 大模型Agent ┌─────────────────────────────────────┐ │ …

#蚂蚁#客服质量评估#大模型评估系统

面试题·模型微调· 字节

RAG 技术原理与架构怎么搭?

匹配正文：…沟→用Query改写或HyDE缓解上下文窗口：多文档拼接超限→Rerank精筛+递归摘要知识冲突：检索内容与模型参数知识矛盾→设计冲突消解Prompt 时效性：知识更新后向量未同步→增量索引+版本管理多跳推理：单轮检索无法回答→ReAct循环检索或构建知识图谱五、进阶方向 Agentic RAG：检索作为Tool，由Agent决策何时检索、检索什么 GraphRAG：用知识图谱显式建模实体关系，解决多跳问题 RAG+微调：用检索数据构造SFT数据，提升模型对检索内容的…

#字节#RAG 最佳实践#RAG 技术原理

面试题·RAG· 字节

垂直领域 RAG 完整架构

匹配正文：一、整体架构：四层分离设计用户层 → 网关层（权限/审计）→ 编排层（Agent/Router）→ 服务层（检索+生成+知识管理）核心原则：检索与生成解耦、领域知识分层管理、全链路可追溯二、数据源与知识库构建层级内容处理方式更新频率权威库诊疗指南/法典/药品说明书结构化抽取+人工审核月度案例库判例/病例/专家经验向量化+元数据标注实时实时库最新文献/政策/新闻爬虫+轻量审核小时级关键处理：医疗：ICD编码对齐、药品相互作用图谱构建法…

#字节#垂直领域RAG#垂直领域 RAG 完整架构

面试题·RAG· 阿里

LangChain vs LlamaIndex 架构差异？

匹配正文：核心定位差异维度 LangChain LlamaIndex 设计目标通用LLM应用编排框架数据驱动的检索增强框架核心抽象 Chain（链式调用）、Agent（自主决策） Index（索引结构）、Retriever（检索器）、QueryEngine（查询引擎）优势领域复杂工作流编排、多工具Agent 大规模文档索引、结构化检索关键功能对比 LangChain强项 Agent系统：ReAct、Plan-and-Execute等推理模式，支持工具调用与多轮决策模块化…

#阿里云#LangChain与LlamaIndex#LangChain vs LlamaIndex

面试题·RAG· 淘天

RAG 模型分类有哪些?

匹配正文：RAG 的三代演进架构 1. Naive RAG（基础架构）架构：离线建索引 → 向量检索 → 直接拼接Prompt → LLM生成核心特征：检索与生成硬耦合，一次检索即生成无反馈机制，检索错误直接传导到输出代表：早期DPR+GPT-3方案适用：事实性问答、内部文档查询等单跳、确定性场景 2. Advanced RAG（优化架构）架构：检索前（查询改写/扩展）→ 检索中（重排序/混合检索）→ 检索后（上下文压缩/摘要）→ 生成核心改进：查询优化：HyDE（假…

#淘天#RAG架构分类#RAG 分类

面试题·RAG· 快手

人工干预怎么控制 LLM 生成?

匹配正文：人工干预的三层架构 1. 输入层：前置过滤与引导敏感Query识别：基于规则+小模型做意图分类，拦截违规请求 Prompt改写：自动注入安全约束（如"请确保回答符合法律法规"）上下文注入：RAG场景下动态插入合规知识片段 2. 生成层：过程控制解码策略干预：调整temperature、top-p，或对特定token降权动态停止条件：检测到风险模式时触发early stopping 工具调用约束：Agent场景下限制可调用的工具白名单 3. 输出层：审核与修正规则拦截…

#快手#人工反馈控制#人工干预 LLM 生成

面试题·Agent· 美团

ReAct vs Plan-and-Execute 怎么选?

匹配追问：场景切入假设你在做一个电商客服机器人，用户问一个复杂订单问题，比如退款进度、物流异常和商品瑕疵一起问。你会怎么设计agent的推理流程？是让模型边想边调用工具，还是先整体规划再一步步执行？层层追问 Agent处理长任务时，你觉得是边推理边行动好，还是先做计划再执行好？……那当上下文越来越长、接近token上限时，这两种方式各自会出什么问题？……比如早期的一个错误观察，哪种架构更容易恢复？直球架构直接比较ReAct和Plan-and-Execute两种框架在长上下文任务…

#美团#Agent#ReAct vs Plan-and-Execute

面试题·评估· 字节

专业领域 RAG 链路怎么搭?

匹配口述回答：…和覆盖度之间找平衡，不能像通用聊天机器人那样瞎编。医疗、法律这种场景，错了就是人命关天或者法律纠纷，所以整个链路都得围绕「可信」来设计。先说文档处理。专业文档不是排版漂亮的网页，很多是扫描件、表格、手写批注。我会先用 [[OCR]] 加 [[Multimodal]] 模型，比如 LayoutLM，把图文混排的内容抽成结构化文本，同时保留章节层级，比如病历里的主诉、检查、诊断这些段落。切分的时候不能按固定字数切，那样会把关键上下文切断。我会按语义边界来切，比如法律条文按条款切…

#字节#RAG 全链路#RAG 技术链路

面试题·多模态· 淘天

截图组件功能怎么用 RAG 解释?

匹配口述回答：…，如果小图标没识别到，后面检索和生成就白搭。第二步是建知识库。光有截图不行，得把每个组件的功能说明配对存起来。我会收集产品手册、设计规范、甚至内部Wiki，然后把组件截图和对应的功能描述做成图像-文本对。这里有个关键点：不能用纯文本[[Embedding]]，得用[[多模态]]模型，比如[[CLIP]]或者专门做UI的UIBert，把图像和文本映射到同一个向量空间。这样后面检索时，用户截图可以直接用视觉Embedding去匹配知识库里的组件。第三步是检索。用户截图进来后，…

#淘天#多模态#多模态 RAG

面试题·RAG· 华为

逻辑引导怎么用？

匹配口述回答：这道题问的是逻辑引导，我觉得它的本质是：当模型本身在推理上还不够可靠时，我们怎么通过外在的流程设计帮它走稳每一步。换句话说，这不是模型自己的事，而是我们搭的那个推理框架该不该、以及怎么给它加一些辅助线。先说什么时候需要。我归纳了三类场景。第一类是那种需要多步推理的任务，比如数学题、逻辑谜题、或者因果推断。模型很容易跳步，中间算错一步，后面全错。第二类是工具调用和 [[Agent]] 决策，比如 [[ReAct]] 模式，思考、行动、观察必须按顺序来，模型有时候会跳过观察直接…

#华为#逻辑推理引导#逻辑引导

面试题·检索· 百度

RAG 工作流程与关键技术组件

匹配正文：…用ANN算法（HNSW、IVF）重排序（Rerank）：用Cross-Encoder精排，提升相关性上下文组装：将检索结果注入Prompt模板，限制在上下文窗口内 LLM生成：模型基于检索上下文作答二、关键技术组件组件作用常用方案 Embedding模型语义编码 BGE-large、GTE、OpenAI text-embedding 向量数据库高效相似度搜索 Milvus、Weaviate、PGVector Reranker 精排提升准确率 BGE-Reran…

#百度#RAG技术架构#RAG 工作流程

面试题·检索· 美团

RAG 检索器与生成器如何协同？

匹配口述回答：…一堆退款政策文档，但真正需要的是该笔订单的处理状态，这时候 Rerank 能把带订单号的文档顶上来。然后生成。把召回的结果拼成 prompt，格式大概是“基于以下资料回答问题：文档1...文档K。问题：xxx。答案：”。这里有个前提，就是 prompt 模板要设计好，明确告诉模型只能基于资料回答，不然模型容易自由发挥，产生 [[Hallucination]]。而且我会要求模型输出引用标记，比如 [1][2]，方便事后溯源。再说说落地时我特别关注的几个风险。先看噪声敏感：如…

#美团#RAG架构#RAG 系统架构

面试题·评估· 淘天

RAG 怎么减少幻觉?

匹配口述回答：…NN]]检索可能变慢，需要做索引优化，比如用[[HNSW]]或[[IVF-PQ]]。三是生成质量，检索到的信息可能冗余或冲突，需要Prompt设计或Rerank来整理。另外，单纯RAG处理多跳推理问题比较吃力。比如问'2023年双十一满减规则和去年比有什么变化'，需要先检索2023年规则，再检索2022年规则，然后对比。这时候我会考虑[[Agentic RAG]]，让模型自主决定检索步骤，或者用[[ReAct]]框架把推理和检索交替进行。所以整体上，我会把RAG看成一种低…

#淘天#事实准确性#RAG 减少幻觉

面试题·检索· 淘天

Naive RAG vs Advanced RAG 区别?

匹配口述回答：…没有改善目标切片，就删除它。所谓 Advanced，不是组件更多，而是每个组件都有清楚的错误对象、消融证据和停止条件。我先从工程设计角度回答，再用一个假设场景说明。假设一个政策问答既有自然语言问题，也有订单号和生效时间。Naive 基线可以暴露单路向量召回对精确实体的不足；如果 bad case 集中在订单号，就加入 BM25 或字段检索，而不是直接上 Agent；如果正确政策已经召回但版本排错，再引入时间过滤或重排；只有问题需要跨多个系统补信息时，才考虑受控工具链。每次只…

#淘天#重排与优化#Naive RAG

面试题·检索· 字节

RAG 系统实现：组件与流程

匹配口述回答：…回来之后，我会加一道 [[重排]]，用一个 [[Cross-Encoder]] 模型重新算一遍相关性，把最相关的3到5条挑出来拼到prompt里，最后丢给LLM生成答案。说到优化，我比较常用的是上下文压缩。检索回来的片段里可能有噪声，直接拼进去会干扰模型。我会先用一个小模型过滤一遍，只保留确实相关的句子。还有一个方向是 [[Self-RAG]]，让模型自己判断要不要检索，如果知识库里没有就直接说不知道，避免 [[Hallucination]]。举个例子，企业SOP合规场景…

#字节#RAG系统实现#RAG 实现