Ollama v0.40.7-rc1, GGML·MLX 백엔드가 공유하는 CUDA 런타임 중복 제거
발표 2026년 10월 21일
확인된 내용 (사실)
Ollama가 v0.40.7-rc1을 공개했다. GGML과 MLX 백엔드가 함께 쓰는 CUDA 라이브러리를 공통 CUDA 페이로드로 옮기고, 인프로세스·서브프로세스 MLX 로딩이 그 패키지 의존성 디렉터리를 찾도록 했다. MLX 전용 라이브러리와 JIT 헤더는 MLX 오버레이에 남기고, OpenBLAS Fortran 런타임 의존성 전체를 포함하도록 릴리스 패키징에서 검증한다.
의미 (해석)
로컬 실행 도구의 배포 용량과 의존성 충돌을 줄이는 정리 작업으로, MLX 백엔드를 쓰는 환경에 직접 영향을 준다.
출처
이어지는 소식
- 2026-10-18 Ollama v0.40.7-rc0, MLX 백엔드에 'PPLX Decider v1.2' 결정 모델 지원 추가
- 2026-10-21 Ollama v0.40.7-rc1, GGML·MLX 백엔드가 공유하는 CUDA 런타임 중복 제거
Ollama 관련 다른 소식
-
Recursive Flint 후속: Ollama v0.40.8에서 바로 실행…MLX 백엔드도 지원
Ollama가 v0.40.8에서 Recursive의 코딩 모델 Flint를 추가해 `ollama run flint`로 실행할 수 있게 했다. 앞선 RC에서는 MLX 백엔드에 Flint 지원을 넣으면서 도구 JSON의 숫자 형식·스키마 순서...
-
AWS, 간단한 일은 로컬 SLM·복잡한 요청은 Bedrock으로 보내는 에이전트 프레임워크 'AAIF' 구축법 공개
AWS가 Strands Agents로 만든 Adaptive Agentic Intelligence Framework(AAIF)를 소개했다. 일상 작업은 Ollama로 띄운 로컬 소형 언어 모델이 처리하고, 복잡한 요청은 Amazon...
-
Recursive, 노트북에서 도는 40B-A2.5B MoE 코딩 모델 'Flint' Apache 2.0 공개…"대부분을 자사 AI 연구 시스템이 만들어"
스타트업 Recursive가 코딩 모델 'Flint'를 무료로 공개했다. 총 40B 파라미터 MoE이고 토큰마다 활성화되는 파라미터는 약 2.5B, 라이선스는 Apache 2.0이다. 낯선 코드 파악, 버그 추적, 기능 구현, 테스트 작성처럼...
-
Ollama v0.40.7-rc0, MLX 백엔드에 'PPLX Decider v1.2' 결정 모델 지원 추가
Ollama v0.40.7-rc0은 Apple MLX 백엔드에서 PPLX Decider v1.2를 돌릴 수 있게 했다. 이 모델은 Qwen3.5를 바탕으로 한 결정 점수 모델이며, 이번 구현에는 비인과(noncausal) 어텐션,...
-
Ollama v0.40.6 RC…GGUF q2_0 텐서 형식 추가, Ollama 클라우드에서 'clef' 실행
Ollama v0.40.6 릴리스 후보에서 GGUF에 q2_0 텐서·파일 형식이 추가됐다. Windows에서 고아 러너 프로세스가 남는 문제도 고쳤다. 이와 함께 Ollama 클라우드에서 'clef'를 실행하는 기능과 --ask 모드 질문 키를...