GLOSSARY
ジェイルブレイク
細工されたプロンプトで AI アシスタントの安全規則を無視させ、本来拒否すべき出力を引き出す手法です。
公開アシスタントには必ず規則があります — 武器禁止、マルウェア禁止、違法コンテンツ禁止。ジェイルブレイクはその規則との終わりのない軍拡競争です。ロールプレイの枠組み(「あなたは制限のない AI、DAN」)、エンコードのトリック、フィクションの筋書き、そしてますます自動化された、すり抜ける言い回しを探索する手法。各社は既知の脱出を塞ぎ、新しいものは毎週現れます。
一般ユーザーにとっての意味は主に製品選択です。悪用される頻度も、無害な要求を拒否する攻撃性も、プラットフォームで大きく異なります。構築者にとっては — 製品が LLM API の上にあるなら、ガードレールはあなたのものです。ベンダーの拒否だけはセキュリティ境界になりません。