AI Trend Research
KR

← 2026년 10월 23일 브리핑 · 04:00 업데이트로 추가

P2 오픈소스 가중치 공개 언어 모델멀티모달효율·인프라04:00 갱신NVIDIAGoogleOllama

NVIDIA, Gemma 4 기반 소형 VLM 'Nemotron 3.5 Bolt E4B' 공개·Ollama 지원…Embed·Rerank·Parse도 3.5로 업데이트

발표 2026년 10월 23일

확인된 내용 (사실)

Ollama v0.40.10에 NVIDIA의 'Nemotron 3.5 Bolt E4B'가 추가됐다. Gemma-4-E4B-it를 바탕으로 NVIDIA가 사후학습을 더한 소형 비전-언어 모델이다. 컨텍스트는 128K 토큰이고, 추측 디코딩에 쓰는 DFlash 드래프트 모델이 함께 나온다. 실행 명령은 `ollama run nemotron-3.5-bolt:e4b`다. Hugging Face 모델 카드를 보면 멀티턴 도구 사용, 지시 수행, 입력 Grounding을 개선했다. 메모리 사용량과 첫 토큰 지연(TTFT)을 낮춰 로컬 음성·기기 비서나 엣지 인터페이스에 맞췄다고 한다. 커뮤니티에서는 Nemotron-3.5-Embed(1B·8B), Rerank-8B, Parse 모델이 Hugging Face에 올라왔다는 소식도 공유됐다.

팩트체크 필요 (주장)

NVIDIA 모델 카드: 멀티턴 도구 사용·지시 수행·입력 Grounding 개선, 저메모리·저지연 동작.

의미 (해석)

기기에서 돌리는 에이전트·음성 비서에 쓸 만한 소형 오픈 모델이다. 배포와 동시에 Ollama에서 바로 실행되고 추측 디코딩용 드래프트도 함께 제공된다. 임베딩·리랭커까지 같이 갱신돼 RAG 구성 요소를 NVIDIA 오픈 모델로 맞추기 쉬워졌다.

출처

NVIDIA 관련 다른 소식