2026 로컬 LLM 비교 — Llama · Mistral · Phi · Gemma, 뭘 고를까

몇 년 전만 해도 쓸 만한 언어모델은 거대한 클라우드 서버에서만 돌았습니다. 지금은 노트북, 심지어 브라우저에서도 도는 오픈 웨이트 모델이 쏟아집니다. 대표 4개 계열 — Llama, Mistral, Phi, Gemma — 의 성격을 정리하고, 브라우저에서 돌릴 때 무엇을 봐야 하는지 짚습니다.

Llama (Meta)

오픈 웨이트 LLM 대중화를 이끈 계열입니다. 여러 크기로 나와 생태계와 튜닝 자료가 가장 풍부합니다. 범용 성능이 안정적이라 ‘일단 기본값’으로 삼기 좋습니다.

Mistral

상대적으로 작은 파라미터로 높은 효율을 내는 것으로 알려진 계열입니다. 같은 크기 대비 응답 품질과 속도의 균형이 좋아, 리소스가 제한된 환경에서 인기가 있습니다.

Phi (Microsoft)

‘작지만 똑똑한’ 소형 모델(SLM) 계열입니다. 잘 정제된 데이터로 학습해 작은 크기에도 추론·코딩 과제에서 준수한 성능을 냅니다. 온디바이스에 특히 잘 맞습니다.

Gemma (Google)

구글의 오픈 모델 계열입니다. 경량 버전이 모바일·브라우저 온디바이스 실행을 염두에 두고 설계돼 로컬 실행 친화적입니다.

브라우저에서 돌릴 땐 무엇이 다른가

클라우드에서 도는 초거대 모델과 달리, 브라우저·기기에서 도는 건 대개 양자화된 소형~중형 버전입니다. 정확도는 초거대 모델보다 낮을 수 있지만, 대신 파일이 기기를 떠나지 않고, 비용이 없으며, 오프라인에서도 동작합니다.

• •모델 크기: 작을수록 빠르고 메모리를 덜 쓰지만 성능은 내려갑니다.
• •양자화: 4비트 등으로 압축해 메모리·다운로드 용량을 줄입니다.
• •실행 백엔드: 브라우저는 WebGPU를 쓰면 훨씬 빠릅니다.

어떻게 고르나 (요약)

• •가장 무난한 기본값 → Llama 계열
• •효율·속도 중시 → Mistral
• •작고 똑똑함·온디바이스 → Phi
• •모바일·브라우저 친화 → Gemma