AI 기반중급
파인튜닝
Fine-tuning · 미세조정
파인튜닝이란 대규모 사전학습을 마친 모델에 소량의 고품질 데이터로 특정 작업, 도메인, 행동 패턴을 추가 학습시키는 과정이다. 사전학습에 수억 달러가 드는 반면, 파인튜닝은 50달러에서 시작할 수 있어 1인 기업가에게도 접근 가능하다.
- •SFT(지시-응답 쌍 학습)가 가장 보편적 형태다. 1,000개의 고품질 예시가 10,000개의 저품질 예시보다 효과적이다.
- •QLoRA 덕분에 70B 모델을 단일 24GB GPU(RTX 4090)에서 파인튜닝할 수 있다. 3년 전에는 수십만 달러 H100 클러스터가 필요했다.
- •128K~1M 토큰 컨텍스트 시대에 많은 작업이 프롬프트 엔지니어링이나 RAG로 해결 가능해졌지만, 행동 패턴·톤·판단 능력 학습은 여전히 파인튜닝의 고유 영역이다.
- •OpenAI RFT(2025)는 커스텀 채점 함수로 모델의 추론 능력 자체를 강화하여, 세금 분석 정확도 39% 향상을 달성했다.