Ollama v0.40.0, Apple Silicon에서 MLX 런타임 기본 적용

무슨 일인가

Ollama v0.40.0부터 Apple Silicon 기기에서는 MLX 런타임이 지원하는 모델 아키텍처를 자동으로 MLX로 실행한다. 대상 모델은 qwen3.8, gemma4, qwen3.6, qwen3.5 등이다. Nimble tev1, clef, clef-flash 같은 결정 모델과 임베딩 모델 embeddinggemma-2도 MLX에서 쓸 수 있다.

의미

Mac에서 로컬 LLM을 돌리는 실무자는 별도 설정 없이 MLX 기반으로 실행하게 된다.

출처

• 공식 v0.40.0 Ollama