搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「推理控制」找到 3 条内容
按专题浏览 →匹配正文:…层:清洗去重、提高来源质量、标注时间与出处;用监督和偏好数据训练引用、澄清与拒答。它能改变行为倾向,但不会把参数变成实时事实库。 推理控制:要求基于证据并使用结构化输出;将计算交给代码、数据库和确定性工具。降低温度只减少采样随机性,不能修复错误知识。 知识增强:RAG 提供可更新、可引用证据,并配合混合检索、重排、权限过滤和引用定位。检索错误、文档冲突、提示注入或模型忽略证据时仍会失败。 后处理:拆分可验证声明,用权威数据源、规则、专用模型或人工复核。验证器也会出错,并增加延…
匹配正文:…对应目标 token 被错误 mask。 这些现象只能提示排查方向,不能单独定因。最终仍要回到具体样本的消息血缘、labels 和推理控制器重放。 怎样验证 Mask 没有做错? 第一层是结构单测。 构造一条只有用户、一次 tool call、一次 observation 和 final answer 的最小轨迹,逐 token 打印文本、角色和 label 状态。人眼应能确认工具调用与答案参与监督,用户和 observation 被忽略。 第二层是边界用例。 覆盖空 obs…
学习内容与项目面试,在同一条路上。
匹配正文:大模型工具调用主要有三类实现路径,核心差异在于结构化程度与推理控制权的分配: 1. Function Calling(函数调用) 原理:模型原生输出结构化JSON(如{"name": "search", "arguments": {"query": "..."}}),由外部系统解析执行后,再将结果注入上下文。 适用:需要精确参数传递的场景(计算器、数据库查询) 优点:可靠性高、延迟低、易于校验参数schema 缺点:需模型专门训练(或SFT),灵活性受限;不支持开放式工具描述…