AI 기술중급
Human-in-the-Loop
HITL · 인간 개입 · 휴먼 인 더 루프
Human-in-the-Loop(HITL)는 AI 에이전트가 고위험 행동이나 불확실한 판단에서 인간의 승인을 구하도록 설계하는 패턴이다. 일상적 작업은 자동으로, 어려운 작업에서만 인간을 투입하여 안전성과 효율성을 동시에 확보한다.
- •에이전트가 신뢰도 지표를 자체 모니터링 — 임계치 미만(예: confidence < 0.85)이면 에스컬레이션
- •핵심 규칙: 비가역 행동(파일 삭제, 결제, 이메일 발송) 전에 명시적 확인 요청
- •2025~2026년 새 도전: AI 의사결정 볼륨이 인간 리뷰 능력을 초과하는 구조적 한계 발생
- •Claude Code의 3레이어 권한: 자동 허용(읽기) → 1회 허용(수정) → 차단(위험 작업)이 실전 구현