AI 기술심화
Tree of Thoughts (ToT)
ToT · 사고의 나무
Tree of Thoughts는 추론 과정을 트리 구조로 전개하여, 각 노드에서 여러 사고를 생성하고 유망한 경로를 선택하며 막다른 길이면 되돌아가는(backtracking) 기법이다. Yao et al.(2023)이 NeurIPS에서 발표했다.
- •Yao et al.(2023, NeurIPS): Game of 24에서 CoT 4% → ToT 74%로 18.5배 향상
- •BFS 또는 DFS 탐색 전략 사용 — 평가 함수로 유망한 경로를 선택하고 되돌아가기 지원
- •탐색이 필요한 문제(수학 퍼즐, 계획, 전략 게임)에 최적
- •추론 모델에서는 내부 추론이 ToT를 대체 — 비추론 모델에서 특수 과제용으로 유효