页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「Agent 评估」找到 231 条内容
按专题浏览 →匹配正文：…己也是模型。 它可能偏爱更长的答案、某个展示位置和与自己风格相近的文本。更危险的是，当 Judge 分数被用于训练 reward，Agent 会逐渐学习“怎样让这个裁判满意”，而不一定真的更准确。 这就是 Goodhart 风险：指标一旦成为优化目标，就可能失去原本代表的质量。 所以面试官真正想问的是： LLM Judge 有哪些系统性偏差，怎样设计 rubric、盲评、换位、多 Judge 和人工校准，如何发现模型在堆引用、拉长度或迎合裁判，又怎样给评估与训练之间加一道防火…
匹配正文：答案要点 区分外在奖励与内在奖励的设计 理解因果推断在子任务评估中的作用（如反事实推理） 掌握分层RL中的状态价值分解方法 能举例说明实际Agent系统中的具体实现方案 认识到稀疏奖励与延迟奖励带来的挑战 核心思路 分层Agent的关键难点是信用分配问题——子任务完成得好，不代表对最终目标有用。需要从三个层面解决： 一、奖励塑形（Reward Shaping） 问题：稀疏的最终奖励无法指导子任务学习 方案： 势能奖励：基于子任务完成前后状态的价值差设计塑形奖励，保证最优策略不…
在智能体系统中，当多个可用工具均可完成同一子任务时，如何实现工具选择的决策机制？是否设计了评分、排序或置信度评估模块？请描述其实现逻辑与优化策略。
学习内容与项目面试，在同一条路上。