页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「奖励设计」找到 10 条内容
按专题浏览 →匹配标题与标签：Agent 工具调用奖励设计 工具调用 Agent 的结果奖励、过程奖励、约束与防投机 RLHF与对齐 奖励函数设计 强化学习 Agent训练 稀疏奖励 奖励塑形 2026真题 Agent 工具调用奖励设计 Agent 工具调用奖励怎么设计？结果、过程与约束 Agent 奖励函数设计 RLHF 奖励函数 强化学习 Agent 训练 强化学习与RLHF 美团
匹配正文：奖励设计先分清四类信号 ORM（Outcome Reward Model）：对完整输出或终局结果评分。 PRM（Process Reward Model）：对中间步骤给出过程监督。 Value model：估计给定状态后未来累计回报的期望。 搜索：MCTS 等方法使用策略、价值或环境模型选择分支；搜索本身不会自动把稀疏奖励变成稠密奖励。 关键设计维度 可验证性：能用单元测试、规则或环境结果验证时，优先使用可验证奖励；主观质量再用人工偏好模型补充。 稀疏与延迟：终局奖励可配合 …
匹配正文：奖励设计从目标、时间尺度和可被钻空子的边界出发 稀疏终局奖励直接对应任务成功，但探索与信用分配困难；密集过程奖励提供学习信号，却可能把代理行为变成目标。Potential-based shaping 在相应马尔可夫假设和形式 F(s,a,s')=gamma*Phi(s')-Phi(s) 下具有策略不变性结论，任意人工加分没有这个保证。HER 通过重标目标利用失败轨迹，主要适用于 goal-conditioned、可重新定义 achieved goal 的 off-policy…
学习内容与项目面试，在同一条路上。