完整题目
在大模型监督微调（SFT）过程中，常用的prompt模板有哪些设计原则？请举例说明一个有效的SFT prompt结构，并解释其组成部分的作用。
本文目录
核心设计原则
1. 角色分离原则
system：设定全局行为约束（人设、安全策略、输出格式）user：承载具体任务指令assistant：模型需学习的标准输出
2. 指令结构化
- 明确区分任务指令(instruction) 与输入上下文(input)
- 避免信息混杂导致模型理解偏差
3. 输出可控性
- 通过模板预设输出格式（JSON、Markdown、特定标记）
- 减少生成不确定性
典型SFT Prompt结构（以Alpaca格式为例）
{
"instruction": "将以下中文句子翻译成英文",
"input": "大模型微调是提升特定任务能力的关键技术",
"output": "Fine-tuning large language models is a key technique for enhancing task-specific capabilities"
}实际对话模板封装（Llama-2-chat风格）：
<s>[INST] <<SYS>>
You are a helpful assistant. Provide concise, accurate responses.
<</SYS>>
Translate the following sentence to English:
{input} [/INST] {output} </s>组成部分解析
| 组件 | 作用 |
|---|---|
<<SYS>> | 系统指令锚点，定义模型基础行为 |
[INST] / [/INST] | 用户输入边界符，明确指令起止 |
<s> / </s> | 序列起始/结束标记，控制生成边界 |
{input}占位符 | 动态注入具体数据，保证模板复用性 |
工程实践要点
- 严格对齐基座模型的chat template：不同模型的特殊token差异很大（如Qwen的
<|im_start|>、ChatGLM的[Round]） - 预留system字段的扩展性：便于后续通过system prompt做动态能力切换
- output字段的多样性设计：同一input配多个优质output，提升数据丰富度
继续追问 · 3 个问题
- 如果业务场景需要多轮对话能力，prompt模板需要如何调整？
- 如何设计prompt模板来减少模型在SFT后的幻觉问题？
- 不同基座模型（如Llama、Qwen、ChatGLM）的chat template差异对SFT数据构建有什么影响？
换一种问法，检查是否真正理解
场景切入
假设我们要给电商客服微调一个模型，用户问‘订单怎么还没到’，我们想让它先查物流再回复。你设计SFT的prompt模板时，会怎么把‘查物流’这个指令和用户的输入分开？
层层追问
你平时怎么做SFT的prompt模板？……一般会放哪些字段？……那如果模型总是不按格式输出，你觉得是模板哪部分设计有问题？
直球架构
直接说吧，SFT的prompt模板设计原则有哪些？给我一个典型结构，拆开讲每个组件的作用，比如system、user、assistant怎么分工。
练习口述回答 · 约4分钟
- 一句话定位：SFT prompt模板本质是给模型一个受控的交互协议
- 核心原则：角色分离和指令结构化，避免信息混杂
- 典型结构举例：Alpaca格式和Llama-2-chat模板，解释各组件作用
- 落地风险：模板必须对齐基座模型的chat template，否则token错乱
- 工程师判断：我更倾向预留system字段做动态切换，并注意output多样性
这道题问的是[[SFT]] prompt模板的设计，其实本质是在问：你如何给模型设计一个受控的交互协议，让它能准确理解任务、稳定输出。不是随便写个句子就行，而是要考虑角色、边界和扩展性。
核心原则我重点讲两个。先说角色分离。说白了就是把system、user、assistant三个角色划清楚。system设定全局行为，比如人设、安全策略、输出格式；user承载具体指令和输入；assistant就是模型要学习的标准输出。如果混在一起，模型容易混淆到底该听谁的。再一个是指令结构化，也就是把任务指令和输入上下文明确分开。比如翻译任务，instruction是“将以下中文句子翻译成英文”，input是具体句子，output是译文。如果混在一起写，模型可能把部分输入当成指令，导致理解偏差。
举个例子，Alpaca格式就是典型的结构化模板，它用三个字段把instruction、input、output分开。实际对话里，像Llama-2-chat风格会封装成带特殊标记的模板：用<<SYS>>包系统指令，[INST]和[/INST]标出用户输入边界，<s>和</s>控制生成起始和结束。这些组件各有作用：系统指令锚点定义基础行为，边界符让模型知道指令从哪开始到哪结束，占位符保证模板复用。