AI 도구중급
로컬 AI
Local AI · Ollama · LM Studio · llama.cpp
클라우드 API 없이 자신의 컴퓨터에서 AI 모델을 직접 실행하는 것이다. Ollama, LM Studio, llama.cpp가 3대 도구이며, 오픈소스 모델을 로컬에서 $0 추론 비용 + 완전한 데이터 프라이버시로 운영한다.
- •온디바이스 AI 시장 $33.2B(2026), CAGR 24.8%
- •3대 도구: Ollama(개발자 API 서버), LM Studio(GUI 데스크톱), llama.cpp(저수준 엔진)
- •Q4 양자화로 70B 모델을 RTX 4090 하나에서 실행 가능
- •EU AI Act(2026.08)로 데이터 주권 요구 급증 — 로컬 AI 수요 가속