LLM 准确性提升四大路径

提升类似ChatGPT模型的准确性，先要把准确性拆开。事实回答要看引用和事实一致，数学与代码要看最终结果和执行验证，指令任务要看约束遵循，产品还要同时考虑帮助性与安全。一个方法在某一维提升，不代表其他维度同步改善。

数据侧应处理重复、污染、标签错误和目标领域覆盖，并保留独立评测。SFT让模型学习任务格式与示范行为，但示范若带错事实，模型也会复制。继续预训练可补领域分布，却可能带来遗忘。每次数据变更都要在目标、通用与安全集合上做回归。

偏好优化主要学习回答之间的相对偏好，可以改善帮助性、风格或拒答边界，但偏好标注若没有核验事实，不能自动提高事实准确率。RLHF和DPO的数据闭环不同，也没有无条件胜负。需要同时报告偏好胜率、事实指标、长度偏差和安全行为。

推理侧的CoT或多采样可帮助某些组合推理任务，也会生成看似合理的错误步骤。自一致性只说明多个采样同意，不等于事实正确。解码参数、验证器和工具执行应按任务选择，代码用测试，数学用可检查计算，不能靠一条统一prompt解决。

外部增强方面，RAG能把回答连接到可更新语料，但仍可能召回错误、忽略证据或错误引用。工具调用可以把搜索、计算和数据库查询交给外部系统，同时新增权限与注入风险。检索质量、证据支持率、答案忠实度和拒答都需单独评测。

我的实验会先建立无增强基线，再分别加入数据改进、偏好优化、推理提示、检索或工具，每次只改变有限变量。按事实、推理、帮助性、安全、延迟和成本分桶比较，并保留人工盲评。最终选择的是满足目标风险的组合，而不是给DPO、RLHF、CoT和RAG排一个通用名次。

上线后还要监控增强组件各自的失效。检索索引可能过期，工具权限或API会变化，偏好模型也可能随用户群漂移。日志应记录证据、工具结果、模型版本和最终决策，让错误能回放。若准确率提升依赖高成本路径，还要报告单位正确答案成本与延迟，避免只优化离线分数。

事实任务还可以要求输出可核验引用，并测引用是否真的支持结论，而不是只看有没有链接。若模型在证据不足时仍强答，应把可选择的拒答纳入准确性设计。支持率、答案正确率和覆盖率需要同时报告，避免靠大量拒答获得表面高精度。