自动 vs 人工评价怎么选?

自动评测按证据类型分类

• reference-based：BLEU、ROUGE、BERTScore 等将输出与参考答案比较，适合翻译、摘要或有参考文本的任务，但会受参考覆盖和表述多样性限制。
• reference-free：perplexity、质量/安全分类器、groundedness 检查或某些 reward model 可不依赖标准答案，但依赖模型假设、训练域和校准。
• execution-based：代码单元测试、SQL 执行、工具或规则验证直接检查可执行结果，信号清晰但覆盖受测试用例限制。
• model-as-judge：按 rubric 让评审模型比较或打分，扩展性好，但存在位置、长度、自偏好、提示和版本偏差，需要与人工校准。
• 任务指标：accuracy、F1、检索 recall、引用正确率、任务成功率按具体任务定义。

人工评测应给出 correctness、relevance、faithfulness、completeness、style、safety 等可操作 rubric，随机化样本与答案顺序，培训评审者，报告一致性和置信区间。自动工具可以检测一部分安全问题，例如毒性或越狱分类器、静态规则与红队基准；它们不是完全不能检测安全，也不能覆盖所有攻击。

图解

放大查看图解 ↗