搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「大模型 JSON 输出」找到 104 条内容
按专题浏览 →匹配口述回答:…型根据错误信息决定重试还是放弃。 这些工具怎么被模型调用?核心是[[Function Calling]]机制。我们把每个工具定义成JSON Schema,包括名字、参数、返回值。模型收到用户问题后,先判断需不需要调工具,如果需要,就输出一个结构化的调用请求,系统去执行,把结果塞回给模型,模型再组织回答。选择哪个工具是模型自己决定的,一般用[[ReAct]]模式,让模型边推理边行动。 落地时有个坑:工具数量一多,全塞进上下文会爆掉。所以我会做工具检索,先把所有工具的[[embe…
匹配正文:… } 3. 调用机制核心设计 环节 关键策略 意图识别 用prompt明确工具选择逻辑,或训练专用router模型 参数填充 严格JSON Schema校验,缺失参数时主动追问 执行隔离 沙箱环境运行,敏感操作需人工确认 结果回传 结构化输出,支持错误码与部分结果 4. 错误处理与迭代 工具失败时返回错误信息给LLM,由其决定是否重试、换工具或终止 设置超时熔断,防止级联阻塞 5. 上下文管理 工具结果需压缩/摘要后注入上下文,避免token爆炸 保留工具调用轨迹(thoug…
…作类型就五种:thought、tool_call、tool_result、response、terminate。thought用来输出推理过程,便于监督学习;tool_call要严格用JSON Schema约束参数格式;tool_result是环境返回,只读;response是面向用户的自然语言;terminate带成功或失败标记。这里有个坑,工具描述必须用[[Few-shot]]强化,参数校验用代码硬约束,不然模型很容易编造参数。 学习策略分两阶段。第一阶段是模仿学习冷启动…
学习内容与项目面试,在同一条路上。