GLOSSARY
휴먼인더루프
AI 시스템을, 사람이 적절한 순간에 승인·수정·인계하도록 설계하는 것. 신뢰하는 자동화와 간신히 살아남는 자동화의 차이입니다.
자율성은 스위치가 아니라 다이얼입니다. 휴먼인더루프 설계는 실수가 비싼 곳에 체크포인트를 놓습니다. 에이전트는 환불을 제안하고 승인을 기다리고, AI가 진단하고 의사가 서명하며, 콘텐츠 파이프라인이 초안을 쓰고 편집자가 출고합니다. 기술은 어느 단계를 고를지입니다 — 너무 적으면 오류가 조용히 복리로 불고, 너무 많으면 사람은 아무것도 잡지 않는 고무도장이 됩니다.
좋은 구현은 사람을 빠르게 만듭니다. 텍스트의 벽이 아니라 diff, 위험한 출력의 신뢰도 플래그, 모델이 불확실할 때의 에스컬레이션. 에이전트가 도구 권한(결제, 배포, 메일)을 얻으면서 HITL은 모범 사례에서 요구사항으로 이동하고 있습니다. 오늘 프로덕션에서 도는 진지한 '에이전틱' 제품 전부의 배경 패턴입니다.