搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「Chain-of-Thought 训练」找到 38 条内容
按专题浏览 →匹配正文:答案要点 区分"显式CoT"与"隐式CoT/压缩推理"的技术路线 掌握STaR、Quiet-STaR等自举方法的核心思想 理解如何通过长度惩罚或KL散度约束控制推理长度 能结合RLHF/DPO进行推理风格对齐 提出可落地的提示策略(如"先想关键词再回答") 核心思路:先建立可核验推理,再控制输出长度 一、训练方法(无需中间标注) 1. 区分两种自举方法 STaR:用少量带推理示例提示模型生成推理与答案,筛选答案正确的样本,再训练其生成推理与答案;对失败题可给正确答案作提示重新…
匹配正文:…概率评分,不是普通自由生成后的字符串排序。 Text-to-text重构:T5把分类、匹配、抽取统一为文本输入到文本输出,可多任务训练。 指令与上下文示例:自然语言描述任务并提供示例;是否更新参数要区分in-context learning和instruction tuning。 推理提示与Self-Consistency:适用于确实需要多步且结果可验证的任务。Self-Consistency从随机采样的多条推理路径聚合答案,不适用于temperature=0的单一路径;产品…
…强化,参数校验用代码硬约束 四、两阶段学习策略 阶段1:模仿学习(冷启动) 来源:人工标注轨迹、规则引擎历史日志、GPT-4蒸馏 训练:SFT + 思维链监督,重点学习工具选择时机和参数填充 数据配比:成功轨迹70% + 失败恢复案例30% 阶段2:在线强化学习 奖励模型:结果奖励(任务完成)+ 过程奖励(格式合规、不重复调用) 算法选择:PPO初期稳定,DPO后期高效迭代 关键技巧:引入"拒绝采样"过滤低质量轨迹,减少探索成本 五、评估机制 离线评估:单元测试(单工具准确率…
学习内容与项目面试,在同一条路上。