AI Trend Research
KR

← 2026년 10월 15일 브리핑 · 04:00 업데이트로 추가

P2 모델 가중치 공개 언어 모델효율·인프라멀티모달후속04:00 갱신NVIDIAOllamaHugging Face

NVIDIA 'Nemotron 3.5 Bolt' 74B-A9B(24GB)·E4B(4GB) 실제 공개…Ollama도 바로 지원

발표 2026년 10월 15일

확인된 내용 (사실)

공개 예정이던 로컬용 모델 'Nemotron 3.5 Bolt 74B-A9B 24GB'가 Super VL과 함께 실제로 공개됐고, 4GB 메모리를 겨냥한 'Nemotron 3.5 Bolt E4B 4GB'도 추가됐다. Hugging Face에는 Bolt 74B-A9B의 GGUF 버전과 LiLiCorr 투기적 디코딩용 변형이 올라왔다. 74B-A9B는 기본 2비트 양자화로 24GB 메모리에 들어가는 비전 언어 모델이다. Ollama v0.40.5는 Nemotron 3.5 Super(120B 하이브리드 Mamba-2/Transformer MoE, 활성 12B, C-RADIO 비전 인코더, 최대 100만 토큰, Thinking 모드 켜기·끄기)를 지원한다. Ollama 설명에 따르면 Bolt는 Super를 Distill한 모델이며, 함께 제공되는 드래프터로 투기적 디코딩을 한다.

팩트체크 필요 (주장)

NVIDIA는 Bolt 74B-A9B가 "메모리가 비슷한 대부분의 인기 MoE 모델보다 똑똑하면서 대부분의 인기 dense 모델보다 빠르다"고 주장한다.

의미 (해석)

24GB 소비자용 GPU 한 장에서 돌아가는 에이전트용 비전 언어 모델이 Ollama 같은 로컬 실행 도구에 공개 당일 들어갔다. 로컬 에이전트 구성의 선택지가 넓어진 셈이다. 다만 2비트 양자화에서의 실제 품질은 직접 검증해야 한다.

출처

이어지는 소식

  1. 2026-10-14 NVIDIA 'Nemotron Bolt 3.5 74B-A9B' 10월 15일 공개 예정…2비트 양자화로 24GB에 담은 MoE(커뮤니티 전언)
  2. 2026-10-15 NVIDIA 'Nemotron 3.5 Bolt' 74B-A9B(24GB)·E4B(4GB) 실제 공개…Ollama도 바로 지원

NVIDIA 관련 다른 소식