页面加载中…
搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「解码控制」找到 2 条内容
按专题浏览 →匹配正文:…after_sales", "confidence": 0.95, "slots": {"type": "refund"}} 二、解码控制层面 核心思路:用采样参数和API特性约束输出空间 策略 具体做法 降低随机性 temperature=0~0.3,top_p=0.9,减少格式变异 JSON Mode 强制模型输出合法JSON(OpenAI/GPT-4等支持) Function Calling 预定义schema,模型只填充参数,不生成自由文本 约束解码 用logit_b…
匹配正文:…御体系 动态Prompt驱动的策略生成面临"提示漂移→行为失控"的风险,需从生成前约束、生成中控制、生成后校验三层构建防护。 一、解码控制层(生成中) 技术 作用 约束解码 用CFG/正则约束输出结构(如JSON Schema),拒绝非法格式 Logits处理器 动态屏蔽危险token(remove_tokens)、强制安全前缀 Speculative Decoding + 安全草稿 小模型快速生成,大模型校验安全后再确认 关键:将安全策略编码为可组合的约束规则,而非依赖Pr…
学习内容与项目面试,在同一条路上。