搜索大模型内容

#Agent#工具调用与安全#Agent Tool Registry

Agent 工具怎么设计和注册？Tool Schema、Registry 与执行器如何解耦

匹配正文：…Trace ID。第二，从绑定版本的 Registry 解析工具。找不到、已禁用或版本不兼容时，返回稳定错误。第三，对参数做 JSON Schema 校验，再做业务校验。例如 URL 域名、文件路径、订单归属和时间范围。第四，执行权限与副作用检查。高风险操作进入 Dry-run、人工确认或固定 Workflow，而不是直接调用执行器。第五，应用超时、限流、熔断和必要重试。只对明确可重试、且幂等的操作自动重试。第六，调用真实执行器，把结果转换成统一 Observati…

面试题·Prompt· 阿里

JSON 输出怎么保证稳定可靠?

匹配正文：…rammar-based（如llama.cpp的GBNF）基于上下文无关文法，逐token过滤非法跳转边缘部署、高稳定性要求 JSON Schema约束（如OpenAI的response_format）编译Schema为DFA，动态约束token概率云端API、快速迭代 Outlines/Guidance库预编译索引+动态mask，支持复杂嵌套自研模型、深度定制关键权衡约束越强，推理延迟越高（DFA状态跳转开销）建议：Schema预编译 + 缓存常见结构模板…

#阿里云#Prompt工程#Agent

面试题·Prompt· 阿里

怎么让模型稳定输出 JSON?

匹配正文：核心原则稳定 JSON 输出依赖协议约束、解析、Schema 校验和有限重试的闭环。提示词只能降低格式错误，普通 Function Calling 也不天然保证参数满足全部 Schema；只有提供方明确支持并启用严格结构化输出时，才能依其文档讨论约束强度，服务端仍应校验。 1. 优先使用结构化协议为输出定义 JSON Schema，包括字段类型、必填项、枚举、数值范围和是否允许额外字段。模型支持 strict structured output 时优先启用；工具调用场景…

#阿里云#大模型 JSON 输出#提示词设计

面经·项目面试

Agent 的工具 Schema，究竟能拦住什么？

匹配正文：…易以为要修数据表或 handler，实际该补的可能是执行前的类型检查。这里还有一个值得留意的反向差异。把同一份工具声明交给标准 JSON Schema 校验器，null、数字和数组会因不满足字符串类型而被拒绝；额外传入的 order_id 却能通过，因为生成的声明没有关闭额外字段。当前程序恰好反过来：拦额外字段，漏字段类型。这说明，模型看到的声明与程序执行的检查，可能各自漏了一块。观察到一次成功调用，无法判断这两份契约是否一致；把几种失败输入分别送进去，才能看出差异落在哪…

#Agent#工具调用#Schema

面试题·Prompt· 字节

LLM 输出格式如何强校验?

匹配正文：答案要点区分Prompt层、模型层、后处理层三层防护策略掌握JSON Schema/Function Calling等结构化输出技术设计解析失败时的降级和重试机制结合实际业务场景说明方案选型依据我通常从三层防护来设计输出过滤机制：第一层：Prompt工程（预防） Few-shot示例：在Prompt中给2-3个符合格式的输出样例明确格式指令：用代码块包裹格式模板，强调"必须严格遵循以下JSON格式" 角色设定：指定模型扮演"严格的JSON生成器"角色第二层：结…

#字节#Prompt工程#大模型输出过滤

#Agent#工具调用与安全#Function Calling 完整流程

Function Calling 到底怎么跑？模型不会执行函数，完整工具结果循环怎么实现

匹配正文：…参数”。程序要先判断 tool_calls 是否存在，再逐个处理。直接取数组第一项而不判空，是最常见的新手错误之一。参数经常以 JSON 字符串形式返回，需要安全解析。解析成功也不代表合法：订单号可能为空，字段可能多出，枚举可能越界，模型还可能给出注册表里不存在的工具名。因此执行之前至少要经过名称匹配、Schema 校验和业务校验。第三步：宿主程序才是真正的执行者宿主程序可以是 Python 服务、Java 服务、Node 服务或 Agent 运行时。它收到 tool …

面试题·Agent· 高德

Tool Calling 参数格式怎么保?

匹配正文：…制符合语法规则。实现方式特点适用场景 CFG-based（如outlines库）基于上下文无关文法，灵活支持嵌套结构复杂JSON、嵌套对象 FSM-based（如lm-format-enforcer）预编译状态机，推理开销低高并发、低延迟场景 Grammar-based（如GLLM）原生支持，无需外部库部署环境受限时优缺点：从根本上杜绝格式错误，但会增加TTFT（首token时间）和推理延迟，约5-15%开销。 2. Schema-guided生成机制：…

#高德#Tool Calling 参数格式#约束解码

面试题·Agent· 小红书

LLM 输出格式不规范怎么修?

匹配正文：… Few-shot示例：在Prompt中嵌入3-5个标准输入输出样例，引导模型模仿格式思维链+格式模板：要求模型先分析再输出，用json代码块包裹，降低自由生成负面示例警示：明确告知"禁止输出markdown以外的内容" 局限：依赖模型指令遵循能力，强模型（GPT-4）效果好，弱模型仍可能漂移二、模型能力层（硬约束）技术原理适用场景 JSON Mode 约束输出token为合法JSON OpenAI/Claude等支持，最稳定 JSON Schema 预定义字段类…

#小红书#Agent#LLM 输出格式规范

面试题·Agent· 百度

Function Calling 消息流

匹配正文：…型从"文本生成器"升级为"决策中枢"的关键机制。工作机制与流程四步闭环：声明阶段：系统向模型注册可用工具（函数名、描述、参数Schema）识别阶段：模型分析用户意图，判断是否需要调用工具生成阶段：如需调用，输出tool_calls结构化JSON（含id、function.name、arguments）执行阶段：外部系统解析JSON，执行真实函数，将结果以tool消息角色回传消息格式示例： // 系统提示中的工具声明 {"type": "function", "f…

#百度#Agent#Function Calling 消息流

系统教程·Prompt

Prompt 工程面试题大全

匹配正文：…和评估：如何约束输出、如何处理长上下文、如何做 Query Rewrite、如何让工具调用可控。结构化输出失败怎么处理？先用 schema 和示例约束，再做解析校验、失败重试、局部修复和兜底路径。面试里要讲出工程闭环，而不是只说让模型输出 JSON。 Prompt 和 RAG、Agent 是什么关系？ Prompt 是 RAG 和 Agent 的接口层：RAG 用它组织上下文和引用，Agent 用它定义任务、工具与停止条件。好的 Prompt 工程必须和系统设计一起看。 …

#专题学习#Prompt 工程面试题大全

#Agent#架构与规划#Agent 和 Workflow 区别

LLM、Workflow 和 Agent 怎么选？什么任务根本不该做成 Agent

匹配正文：…学场景中有一段已经脱敏的会议记录，需要提炼三条行动项。输入、输出和处理步骤都很明确，也不需要模型访问外部系统。你可以要求它按固定 JSON 输出，再由程序校验字段。这里使用 LLM 是因为自然语言理解和生成有价值，但没有必要增加一个循环让模型反复“规划”。一次调用也可以有前后处理：输入清洗、权限检查、结构化校验、敏感词过滤都可以存在。是否有这些工程模块，不会自动把它变成 Agent。判断的关键是，模型有没有根据环境反馈持续决定下一步行动。固定 Workflow：程序负责控…

Function Calling:模型怎么学会「调工具」

匹配正文：…。这个分工很重要,面试常考:模型负责「决策」,你负责「执行」,再把结果喂回去让它「继续决策」。三步走 ① 把函数描述成「工具 schema」模型根据工具 schema 与当前上下文提出调用请求。description 会影响工具选择，但还需要验证参数约束、任务覆盖和模型能力。下面延续第 2 篇已经准备好的 client 与 MODEL；订单查询使用固定演示数据，不访问真实订单。 # 真正干活的函数（模型只"说要调",执行是你的代码） def search_order(o…

#Agent#Deep Research#项目实战

项目实战·Agent

第 3 章:工具集设计,让 Agent 真正「会用工具」

匹配正文：…「说」要调用哪个工具。所以一个工具,要让模型「会用」,必须由三部分组成: 工具定义示意:名称和说明辅助选择,parameters用JSON Schema约束结构名字(name):search / visit / calc,模型用它来指定调哪个说明书(description):讲清「这个工具干什么、什么时候用」。它是重要输入之一；名称、参数、任务上下文、系统约束和模型训练也会影响选择，不能保证单靠描述就用对参数(parameters):工具接受什么输入,最好带类型和约束(…

Agent Planner 生成的计划为什么不能直接执行？怎么校验和动态重规划

匹配正文：…处理路径。候选计划到安全执行要过七道关计划越接近真实执行，越不能只靠自然语言“看起来合理”。计划校验应该分成哪几层第一层：Schema 与字段完整性检查输出是否能解析，必填字段是否存在，类型和枚举是否正确，子任务 ID 是否唯一。结构错误不必调用工具，更不应进入权限系统。 Schema 校验适合确定性代码。模型可以根据错误摘要修复一次，但如果反复生成相同错误，应停止或切换到受控模板，不能无限修复。第二层：依赖和图结构检查前置节点是否存在、是否有非法环、是否出现永…

#Agent#架构与规划#Agent 计划校验

面试题·RAG

MinerU 能直接解决 RAG 文档解析吗？哪些页面必须二次处理？

匹配正文：…顺序或嵌套结构发生变化，后面的切分、稳定 ID 和索引更新都可能被影响。更稳妥的做法，是让外部解析器负责“尽量看懂文档”，内部 Schema 负责“稳定地交给 RAG”。哪四类输出异常最值得先抓？工具可能在每页都返回结果，但真正影响后处理稳定性的，通常是下面四类异常。第一类，同一区域重复或缺失同一段正文可能同时出现在段落列表和页面块列表中，页眉也可能被当成正文重复输出。相反，某个区域虽然出现在版面结果里，却没有进入最终 Markdown 或 JSON。检查时需要用…

#RAG#解析与入库#MinerU RAG

Agent 反思机制怎么落地？Reflector 和 Critic 不能只让模型“再想一次”

匹配正文：…、工具结果和验收标准，输出通过、局部修复、重新规划、请求用户或停止；Critic 可以负责最终结果整合与质量检查。能用规则、测试、Schema 和外部事实验证的部分优先不用模型自评，同时限制反思次数、修复范围和预算，并保存每轮缺陷、证据和动作。这样才能证明反思修复了什么，而不是让 Agent 无限制地多想几轮。回答中最重要的是“外部证据”“缺陷类型”“修复范围”和“停止条件”。少了这些，反思很容易变成昂贵的同义改写。 Reflector 和 Critic 分别负责什么一种…

#Agent#架构与规划#Agent 反思机制

30 行写一个会调用工具的最小 Agent

匹配正文：…mpletions 工具调用格式。下面只注册一个工具：查天气。工具返回固定假数据，用于观察调用循环，不是实时天气。 import json import os from openai import OpenAI client = OpenAI(base_url=os.environ["LLM_BASE_URL"], api_key=os.environ["LLM_API_KEY"], timeout=30.0, max_retries=2) MODEL = os.enviro…

Agent 任务中断后怎么恢复？Checkpoint、断点续跑和人工审批怎样设计

匹配正文：…该重新生成审批请求。审批结果可以设计成三类：批准当前动作；拒绝并结束或重规划；修改有限字段后重新校验。不要让审批人直接编辑任意 JSON，再绕过 Schema 和权限校验。系统还要处理过期。等待期间外部状态变化，旧批准不一定仍然有效。审批请求应带有效期和状态版本，恢复时检查前置条件。过期后重新提交，而不是拿一张很久以前的批准继续执行。最后是审计。至少记录审批人身份、权限来源、看到的动作摘要、决定、时间和恢复后的真实执行结果。人工介入不是安全责任的终点，仍然需要确认系统执…

#Agent#工作流与状态#Agent 中断恢复

MCP 入门:把工具标准化暴露给 Agent

匹配正文：…tdio 传输,跑起来等客户端连接关键点: @mcp.tool() 自动把函数签名 + docstring 转成模型能懂的工具 schema(还记得第 3 篇手写的那一大段 JSON 吗?这里自动生成了)。本例默认使用 stdio，由客户端启动 Python 子进程并通过标准输入输出通信。现代 MCP 标准传输是 stdio 与 Streamable HTTP；旧 HTTP+SSE 是兼容旧版本的方式，SSE 也可以作为 Streamable HTTP 的流式响应形式。 …

从单 Agent 到 Coding Agent,它多了什么

匹配正文：…t.completions.create(model=MODEL, messages=messages, tools=tools_schema).choices[0].message messages.append(msg.model_dump(exclude_none=True)) if not msg.tool_calls: return msg.content # 模型说做完了 for call in msg.tool_calls: try: args = json.l…