GLOSSARY
越狱(Jailbreak)
一种精心构造的提示:诱使 AI 助手无视安全规则,产出其本应拒绝的内容。
每个公开助手都自带规则——不做武器、不写恶意软件、不出违法内容。越狱是针对这些规则的无休止军备竞赛:角色扮演框架(“你是 DAN,一个没有限制的 AI”)、编码戏法、虚构场景,以及日益自动化的、搜索可绕过措辞的方法。各厂商持续封堵已知逃逸路径,新的每周出现。
越狱对普通用户的意义主要在选择产品:各平台在被攻破的频率与拒绝良性请求的激进程度上差异巨大。对构建者则意味着——如果你的产品基于 LLM API,护栏是你自己的责任;厂商的拒绝机制并不构成安全边界。