LlamaFactory 怎么构造训练数据?

LLaMA Factory 通过 Alpaca、ShareGPT 与 dataset_info 映射数据

以官方 data/README.md 当前格式为准。LLaMA Factory 支持 json、jsonl、csv、parquet、arrow，并在 dataset_info.json 登记文件、formatting、ranking 和 columns。Alpaca 是默认格式。SFT 样本使用 instruction、可选 input、output；框架把 instruction 与 input 组合成用户提示，output 是模型回答。若自定义列名，在 columns 中映射 prompt、query、response。

Alpaca 偏好数据不是直接只有 prompt/chosen/rejected 的固定 schema。官方示例使用 instruction、可选 input、chosen、rejected，并在 dataset_info 中设置 ranking:true，再映射 prompt:instruction、query:input、chosen 和 rejected。ShareGPT SFT 使用 conversations 消息列表；偏好数据使用 conversations 作为上下文，chosen 与 rejected 通常是包含 from/value 的更优和更差消息，并设置 formatting:sharegpt、ranking:true 与列映射。

OpenAI messages 格式在官方文档中被视为 ShareGPT 的特例：formatting 仍设 sharegpt，把 messages 映射到 messages，并用 tags 将 role/content 与 user/assistant/system 对齐。训练前还要选择与基础模型匹配的 chat template，检查角色交替、特殊 token、tool/observation、图片占位与 loss mask。数据能被加载不代表语义正确，应抽样渲染最终 prompt，验证 chosen/rejected 共享同一上下文并防止 train/eval 泄漏。