AI 엔진입문
Llama (Meta)
Large Language Model Meta AI · Meta Llama · Llama 4
Llama(Large Language Model Meta AI)는 Meta가 개발하고 오픈 웨이트로 공개하는 대형 언어 모델 패밀리다. 2023년부터 2026년까지 누적 다운로드 12억 회를 돌파했으며, 오픈소스 LLM 생태계의 사실상 표준이다.
- •Llama 4(2025.04)는 MoE 아키텍처를 채택했다. Scout(109B/17B 활성, 10M 컨텍스트), Maverick(400B+/17B 활성)이 주력이다.
- •Hugging Face에 65,000개 이상의 커뮤니티 파인튜닝 파생 모델이 존재하는 최대 오픈소스 생태계다.
- •핵심 가치는 "프론티어급 성능을 오픈 웨이트로" — 누구나 다운로드, 수정, 배포할 수 있어 폐쇄형 모델과 경쟁한다.
- •Llama 3(8B)은 Chinchilla 최적의 94배 데이터(15T 토큰)로 학습하여, 작은 모델로 큰 모델 성능을 내는 추론 최적 스케일링의 대표 사례다.