训练数据来源怎么选?

数据来源、质量与合规要分别建立证据

常见来源包括自有业务交互与人工反馈、专家或众包标注、公开数据集、获得许可的第三方数据、合成数据、工具执行轨迹和模型生成数据。每条数据应能追溯到来源、采集时间、版本、许可、用途、处理链和删除要求；网页可访问不等于允许抓取、再分发或用于商业训练。合规结论依赖许可文本、合同、个人信息处理目的和适用司法辖区，技术团队不能给出无地区边界的笼统法律保证。

质量评估从相关性、覆盖、正确性、一致性、唯一性、时效性、毒性与偏差、隐私、污染和可学习性展开。事实性应使用权威来源对照、可执行结果、数据库约束或专门核验任务；普通 RLHF 奖励模型学习的是给定偏好数据上的相对偏好，可能偏爱风格、长度或迎合，不应当作通用事实正确性评估器。合成数据要保留生成模型、提示、过滤和人工抽检记录，防止错误自举和分布变窄。

落地时为数据集建立 datasheet 或 dataset card，按来源和风险分层抽样，去重后再划分 train、validation、test，避免同源泄漏。发布前运行许可证白名单、敏感信息检测、内容安全、基准污染和人工评审；训练后按来源做消融，发现某来源只增加规模却降低目标指标时应降权或移除。法务意见、数据主体请求、供应商撤回和版本变更都要可落实到样本级删除与重训决策。