GLOSSARY
ヒューマンインザループ
AI システムを、人が適切な場面で承認・修正・引き継ぐように設計すること。信頼できる自動化と、なんとか生き延びる自動化の違いです。
自律性はスイッチでなくダイヤルです。ヒューマンインザループ設計は、ミスが高くつく場所にチェックポイントを置きます。エージェントは返金を提案して承認を待ち、AI が診断し医師が署名し、コンテンツパイプラインが起草し編集者が出します。技はどの段階を選ぶか — 少なすぎれば誤りは静かに複利で膨らみ、多すぎれば人間は何も捉えないゴム印になります。
良い実装は人間を速くします。テキストの壁でなく diff、危険な出力には信頼度フラグ、モデルが不確かなときはエスカレーション。エージェントがツール権限（支払い、デプロイ、メール）を得るにつれ、HITL はベストプラクティスから要件へ動いています。本番で動くまともな「エージェント的」製品すべての背後のパターンです。