完整题目
如何系统设计和优化 Prompt，并证明它在真实输入、异常与攻击条件下稳定改善任务结果？
本文目录
把 Prompt 当成有版本的程序接口
Prompt 优化的目标不是让文字更像“咒语”，而是在固定模型、工具和数据条件下提高任务正确性，并让失败可检测、可回退。先定义输入、输出契约、允许使用的数据、拒绝条件和错误代价，再写提示。角色句、指令位置或重复约束没有跨模型保证，必须用目标模型实测。
1. 消息与数据边界
- 系统/开发者消息描述应用政策、可用工具和任务边界；
- 用户消息表达请求，但不是授权来源；
- 检索文档、网页、文件和工具结果是可能含提示注入的不可信数据；
- 服务端权限、金额上限和资源归属不能只写在 Prompt 中。
用明确分隔和字段标记数据来源，要求模型不要把数据中的指令提升为系统规则。但防注入不能靠一句“忽略恶意指令”，还需要工具白名单、参数校验、最小权限、用户确认与输出处理。
2. 任务与输出契约
提示应写清任务、必要上下文、术语、可用证据、无答案处理和输出 schema。若下游需要 JSON，使用模型/SDK 支持的结构化输出时仍要在服务端校验 schema、枚举、长度与业务约束，并定义修复或失败路径。
Few-shot 示例用于展示边界和格式，数量由上下文预算与净增益决定，不固定为 3–5 个。避免把真实隐私数据放进示例。复杂任务可以要求给出简洁依据、可核查步骤或工具结果；不应依赖暴露内部思维链来获得安全性或可审计性。