GLOSSARY
在对话开始前发给模型的隐藏指令——定义它的角色、语气、边界与规则。
每个聊天助手都运行在两层指令上:你输入的,和你看不到的、由产品团队设定的系统提示词。系统提示词解释了 ChatGPT 为何拒绝某些请求、客服机器人为何不跑题、同一模型在不同产品里为何一个正式一个随意。
用 API 构建时,系统提示词是你的主控制面——它比指望用户提示词更可靠地塑造行为。提示注入攻击瞄准的正是这一层:诱骗模型忽略或泄露其隐藏指令。