匹配追问：场景切入假设你要做一个AI订票助手，用户说‘帮我订明天去北京的机票，然后订个酒店’，它得先拆任务、调API、再根据反馈调整。你觉得基础大模型在架构或训练上要怎么改，才能更好支持这种工具调用和任务规划？层层追问现在大模型做Agent主要靠提示词驱动，你觉得够用吗？……如果不够，模型本身需要做什么变化？……比如输出格式、训练数据，或者模型结构上有什么要优化的？直球架构要让大模型原生支持Agent能力，比如任务分解、工具调用、环境交互，你觉得在模型架构、训练目标和输出格式…

#得物#Agent#Agent 大模型优化

面试题·Agent· 阿里

主流 LLM 应用产品怎么选?

匹配正文：…星火核心架构 RAG为主，轻量Agent能力 Agent为主，深度RAG融合技术侧重搜索增强生成（实时信息）任务规划+工具调用（办公自动化）典型能力联网搜索、文档解析、代码生成插件生态、API编排、多轮任务执行关键差异：通义的RAG强调"知识广度"（覆盖全网+上传文档），星火的Agent强调"行动深度"（理解意图→拆解步骤→调用工具→完成闭环）。二、场景与体验分析通义千问场景：通用问答、学习辅助、内容创作体验优势：响应快、支持1000万字长文档、中文理…

#阿里#科大讯飞#Agent

面试题·Agent· 美团

大模型输出怎么做真实性验证?

匹配正文：…）对每个声明独立检索权威知识源使用NLI模型判断"检索证据→支持/反驳/无关"生成结论典型工具：RARR、FAC2框架工具调用验证对可验证实体（时间、数值、人物）调用API/Wikipedia查询结构化数据比对，直接判定真伪 2. 引用溯源（Attribution）生成时约束（更优）训练阶段引入引用标记，强制模型输出<cite>doc_id</cite> 推理时限制只能从提供的上下文选择引用后处理匹配使用句子级嵌入，计算生成内容与源文档的相似度设定阈值，…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#美团#Agent#大模型真实性验证

面试题·Agent· 快手

Agent 框架 vs LLM 怎么选?

匹配正文：…gent的核心组件（规划、记忆、工具、行动） LLM的静态知识局限与Agent的动态能力扩展单次推理vs多步交互的本质区别工具调用与外部系统集成的必要性 Agent系统的基本组成 Agent架构通常包含四个核心模块：规划（Planning）：将复杂任务拆解为可执行的子步骤，支持多步推理记忆（Memory）：短期记忆（对话上下文）+ 长期记忆（知识库存储）工具（Tools）：外部API、数据库、计算资源等的调用接口行动（Action）：执行具体操作并获取环境反馈，形…

#快手#Agent#Agent 框架

面试题·评估· 美团

LLM 幻觉治理方法对比

匹配口述回答：…处理校验我把它当作最后一道防线。最简单的是 [[Self-Consistency]]，多采样几次，选最一致的答案。更重一点的做法是调用外部工具验证，比如对数字用计算器，对日期查日历，对实体做 [[NER]] 后去知识库核对。但后处理的成本很高，尤其是调用搜索引擎或者 API，延迟会明显增加。所以我会根据场景做取舍：在客服退款这类高准确率要求的场景，我会对关键实体做工具验证；在闲聊场景，我可能只做一次 Self-Consistency 就够了。说到这，其实还有一个方向我最近在…

#美团#幻觉治理#LLM 幻觉治理方法对比

面试题·评估· 快手

LLM 如何集成外部工具与记忆?

匹配正文：核心设计理念：可组合的LLM应用架构 LangChain的本质是**"乐高式"编排框架**——将LLM调用、数据处理、工具执行拆分为原子组件，通过标准化接口自由组合。五大核心组件组件职责典型场景 Model I/O 统一封装各厂商LLM接口，管理Prompt模板与输出解析切换GPT/Claude/文心无需改代码 Retrieval 文档加载、切分、向量化、检索全流程 RAG知识库问答 Chains 预定义的工作流（如LLMChain、SequentialChain）…

#快手#评估与监控#Agent

面试题·评估· 字节

大模型 Agent 优缺点怎么分析?

匹配口述回答：…期和长期，短期就是对话上下文，长期靠[[向量数据库]]或者[[知识图谱]]。工具这块靠 [[Function Calling]] 调用外部API，但有个坑：工具描述写不好，调用成功率会直线下降。行动就是执行结果反馈，形成闭环。工程上，我特别关注错误恢复机制。比如工具调用超时、异常、或者模型产生 [[Hallucination]] 导致错误结果，必须有兜底。常见做法是设超时重试，或者让Agent主动承认“我不确定”，而不是硬给一个答案。说白了，架构谁都能画，但能不能在边界条件…

#字节#Agent#大模型 Agent 优缺点

面试题·模型微调

LLM 封闭标签如何强约束?

匹配正文：…截断、超时和分类语义错误另行处理。 3. Function Calling / JSON Schema（工程标准）核对具体模型/API，启用其支持的strict schema模式；普通工具调用并不一律保证schema匹配，JSON mode也不保证枚举。 API可封装约束解码，但不要据接口名称推断所有厂商的内部实现或保证。可附标签与理由；模型自报置信度不等于已校准概率，应另做校准评估。 4. 微调/SFT（能力强化）构造指令-标签数据对，训练模型指令遵循能力配合LoR…

#Agent#LLM 输出限定#封闭标签集

面试题·模型架构

Token 是什么?为什么大模型按 Token 计费?

匹配正文：答案要点 Token 是大模型处理文本的最小单位,由分词器(Tokenizer)切出来,可能是一个词、半个词或一两个汉字模型的输入输出、上下文窗口、计费全部以 Token 计量,而不是字符或单词中英文差异:主流词表偏英文,1 个英文单词约 1~1.3 token,1 个汉字常需 1~2 token 按 Token 计费是因为计算量与 Token 数直接成正比,每生成一个 token 都要完整跑一遍前向计算估算成本先估 Token:输入和输出都收费,输出单价通常更贵核心…

#入门#基础概念#token是什么

面试题·Prompt· 字节

LLM 输出格式如何强校验?

匹配追问：…而不是自由文本？层层追问你平时怎么保证模型输出是你要的格式？……那如果Prompt里写了要求，它还是偶尔输出乱的呢？……再比如API调用场景，格式错了整个流程就断了，你会怎么兜底？直球架构聊聊大模型输出的格式过滤机制。从Prompt、模型层到后处理，你一般怎么设计？有哪些关键技术和权衡？

#字节#Prompt工程#大模型输出过滤

面试题·RAG· 字节

大模型输出怎么检测和过滤?

匹配口述回答：…ode 来强制模型按指定 schema 输出。举个例子，客服退款场景下，我需要模型输出退款金额、原因、订单号这几个字段，那我会在 API 调用时把工具定义传进去，模型只能按那个结构返回。这样格式错误基本就杜绝了。当然，Prompt 里也要加 few-shot 示例，明确说“不要加 markdown 代码块标记，直接输出合法 JSON”。但这里有个坑：结构化约束不是万能的，它对模型的理解能力有要求，如果模型本身不强，或者任务太复杂，它可能硬套 schema 但内容填错。所以这只…

#字节#大模型输出过滤#大模型输出检测

面试题·RAG

LLM 封闭标签方法对比

匹配口述回答：…解码，关键路径还要做失败分支和业务校验，避免重复堆叠同一机制。或者对于一些高频但简单的分类，我会用微调好的小模型，只有复杂情况才调大模型。这里有个坑，就是大规模枚举可能触及具体API的schema限制、编译成本或分类难度。strict正常完成时不应越出被支持的枚举；请求被拒、截断和语义错分要分别统计。所以我会做分层，先粗分类再细分类，或者用[[检索增强]]的方式，让模型只从候选子集里选。另外，约束解码通常在采样前调整logits，不会仅因限制候选token就使同一已生成前…

#封闭集合分类#约束解码#LLM 封闭标签方法对比

面试题·评估· 百度

LLM 准确性提升四大路径

匹配口述回答：…查计算，不能靠一条统一prompt解决。外部增强方面，RAG能把回答连接到可更新语料，但仍可能召回错误、忽略证据或错误引用。工具调用可以把搜索、计算和数据库查询交给外部系统，同时新增权限与注入风险。检索质量、证据支持率、答案忠实度和拒答都需单独评测。我的实验会先建立无增强基线，再分别加入数据改进、偏好优化、推理提示、检索或工具，每次只改变有限变量。按事实、推理、帮助性、安全、延迟和成本分桶比较，并保留人工盲评。最终选择的是满足目标风险的组合，而不是给DPO、RLHF、Co…

#数据质量#训练策略#推理优化

面试题·Agent· 百度

Agent 规划记忆工具调用机制

匹配口述回答：…ReAct，如果一步搞不定或者工具返回了异常，再触发重规划。这里有个坑，重规划不能太频繁，否则模型会原地打转，我见过一个案例，模型调用航班API返回超时，结果它不重试，反而重新规划出一个完全不同的行程，用户差点订错票。所以我会加一个失败计数器，超过阈值就降级为人工确认。记忆系统我分成三层。工作记忆就是当前上下文，直接靠窗口承载；短期记忆存最近几轮对话摘要，我用[[滑动窗口]]加LLM压缩，只保留用户意图和关键实体；长期记忆存用户画像和领域知识，用 [[Vector Data…

#百度#Agent#Agent 系统设计

面试题·模型微调· 百度

大模型知识库怎么构建?

匹配正文：…选择（HNSW/IVF）检索策略优化（重排序、混合检索）知识库更新与维护机制一、数据收集阶段来源分类结构化数据：数据库、API、Excel表格非结构化数据：PDF、Word、网页、聊天记录半结构化数据：Markdown、JSON、XML 关键原则优先收集高频查询场景的数据建立数据版本管理和溯源机制二、数据清洗与预处理核心步骤格式统一：PDF转文本（处理扫描件需OCR）、HTML去标签噪声过滤：去除页眉页脚、广告、重复内容语义分段：按主题或段落切分…

#百度#大模型知识库构建#知识库向量化

面试题·Prompt· 百度

大模型智能体系统架构设计思路

匹配追问：…个电商客服智能体，用户问‘帮我查一下上周的订单’，然后又说‘顺便把那个退款申请提交了’。你会怎么设计这个系统，让它能理解用户意图、调用订单API和退款接口，还要记住上下文？从头说说你的思路。层层追问你觉得一个智能体系统最关键的能力是什么？……那规划能力怎么实现？比如用户说‘帮我订机票，再订个酒店，要便宜的’，系统怎么一步步执行？……好，那工具调用怎么保证安全？……记忆方面呢，短期和长期怎么设计？直球架构让你从零设计一个大模型智能体系统，说说你的分层架构、记忆系统、工具…

#百度#Agent 系统架构#大模型智能体设计

面试题·Agent

Function Calling 到底怎么跑？模型不会执行函数，完整工具结果循环怎么实现

匹配正文：面试官可能会问：“Function Calling 是模型直接调用了后端函数吗？从用户提问到最终回答，中间完整链路是什么？” 这道题最常见的错误，是把模型画成一个会访问数据库、会执行 Python、会请求外部 API 的黑盒。实际上，模型通常只能看到工具说明，然后输出一个结构化调用请求。解析参数、鉴权、执行函数、处理异常和回传结果，全部由宿主程序负责。模型下一轮能否基于真实结果回答，还取决于程序是否把工具请求和工具结果按协议加入上下文。更准确地说，Function Call…

#Agent#工具调用与安全#Function Calling 完整流程

面试题·Agent

Agent 工具怎么设计和注册？Tool Schema、Registry 与执行器如何解耦

匹配正文：…数怎么填”；Tool Registry 解决“程序怎样找到真实执行器，并读取权限、超时、副作用和版本等元数据”；工具网关解决“真正调用时怎样统一校验、限流、日志和容错”。把三层拆开，新增工具才不需要修改 Agent 主循环，敏感工具也不会因为出现在 Prompt 里就被任何用户调用。先给出 30 秒回答我会把 Agent 工具拆成三部分：给模型看的 Tool Schema、给程序用的 Tool Registry、真正执行的后端适配器。Schema 包含稳定名称、明确描述、…

#Agent#工具调用与安全#Agent Tool Registry

面试题·Agent· 高德

Function Calling vs Toolformer 本质差异?

匹配正文：…n Calling（以OpenAI/GPT-4为例）推理时注入工具Schema（JSON Schema描述参数）模型输出结构化调用指令 → 系统执行 → 结果回注 → 继续生成关键：模型只负责"决定调用什么"，执行在系统层 Toolformer（Meta, 2023）预训练阶段：用启发式规则从语料中挖掘潜在工具调用位置，构造<API>标签的伪数据继续预训练：让模型学会在合适位置插入API调用标记推理时：模型自发生成<API>name(args)</API>，系统拦…

#高德#Function Calling vs Toolformer#Agent 工具调用

面试题·Agent· 百度

Function Calling 消息流

匹配正文：…l_order(12345)，生成确认话术关键设计要点 Schema设计：参数描述要清晰，必填/可选明确，避免模型幻觉参数并行调用：支持单次请求多个tool_calls，提升效率错误处理：工具执行失败时，将错误信息回传模型让其重试或调整策略安全隔离：模型只生成调用意图，实际执行在沙箱环境，防止Prompt注入攻击学习建议建议先掌握大模型基础交互流程，再学习JSON Schema和API调用原理，通过动手实现一个简单的Function Call代理来加深理解。

#百度#Agent#Function Calling 消息流

面试题·Agent· 商汤科技

Agent 核心组件与工作流程?

匹配正文：答案要点 Agent的定义：大模型作为"大脑"，具备感知、规划、行动、记忆四大能力核心组件：规划模块、记忆模块、工具调用模块、行动执行模块典型架构：ReAct推理-行动循环、Reflexion自我反思实际工作流程：任务理解→拆解规划→工具调用→观察反馈→迭代优化与RAG的区别：Agent强调动态决策和工具交互，RAG侧重静态知识检索基本概念大模型Agent = LLM作为"大脑" + 外部工具/环境交互能力。区别于单次问答，Agent能自主决策、多步执行、动态调整…

#商汤科技#Agent#Agent 核心组件

面试题·Agent· 百度

Tool Calling 机制详解

匹配口述回答：这道题其实是在问，怎么让大模型从一个只会说不会做的聊天机器，变成一个能真正干活的[[智能体]]。核心就是通过工具调用把模型的能力边界扩展到外部世界。先说工具定义。你不能指望模型凭空知道怎么调用API，必须把每个工具的结构化描述给它。我一般用JSON Schema来描述，包括工具名称、功能描述、参数列表、参数类型和约束，比如枚举值、必填项。注入方式有两种：一种是通过[[系统提示]]直接塞进去，另一种是像OpenAI的tools参数那样用专用字段。系统提示方式对模型理解要求更高…

#百度#Agent#Tool Calling 机制

面试题·Agent· 百度

Agent 核心组件有哪些?

匹配正文：…、中间结果滑动窗口、KV Cache 长期记忆历史经验、领域知识、用户偏好向量数据库（如Milvus）、知识图谱 3. 工具调用（Tool Use）功能：扩展LLM能力边界，执行外部操作核心机制：Function Calling / Toolformer范式，JSON格式定义工具Schema 常见工具：搜索引擎、代码解释器、数据库、API接口 4. 行动执行（Action）功能：将规划转化为实际输出，与外部环境交互循环模式：观察（Observation）→ 思考…

#百度#Agent#Agent 核心组件

面试题·Agent· 字节

Tool Calling 工具集设计原则

匹配正文：…["keyword"] } } 关键要点： description必须包含使用场景触发条件（when to use），减少LLM误调用参数类型明确，枚举值给出可选项，复杂对象扁平化处理支持动态工具发现：运行时根据用户权限/场景过滤可用工具列表三、错误处理机制分层容错策略层级处理策略示例参数校验前置拦截，返回结构化错误必填字段缺失 → MISSING_PARAM: "keyword is required" 执行异常重试+降级，Agent可感知 API超时…

#字节#Tool Calling 设计#工具集设计原则