システムプロンプト

すべてのチャットアシスタントは二層の指示で動いています。あなたが打つものと、プロダクトチームが設定した見えないシステムプロンプト。ChatGPT が特定の要求を拒否する理由、サポートボットが話題を外れない理由、同じモデルが製品ごとに堅かったり砕けたりする理由がこれです。

API で構築する際、システムプロンプトは主な制御面です。ユーザープロンプトに期待するより、はるかに確実に挙動を形作ります。プロンプトインジェクション攻撃が狙うのもまさにこの層 — 隠れた指示を無視・漏洩させることです。