AI 기술심화
Chain-of-Verification (CoVe)
CoVe · 검증 사슬
Chain-of-Verification은 LLM이 자신의 초기 응답에 대해 검증 질문을 생성하고, 독립적으로 답변한 후 최종 수정 응답을 생성하는 4단계 자기 검증 파이프라인이다. Meta가 2023년 발표했다.
- •Dhuliawala et al.(Meta, 2023, ACL Findings 2024): 사실적 환각 50~70% 감소
- •핵심: 3단계에서 원래 응답을 참조하지 않고 독립적으로 검증 — 확증 편향 방지
- •FACTSCORE(전기 생성) +28%p, Closed-Book QA F1 0.39 → 0.48
- •추론 모델에서도 팩트 검증 용도로 여전히 유효