NVIDIA, Looped(잠재 반복) 구조의 4B 소형 LLM 'Nemotron-Labs Dory 1.0' Hugging Face 공개(커뮤니티 전언)
발표 2026년 10월 16일
확인된 내용 (사실)
r/LocalLLaMA에 공유된 Hugging Face 모델 카드에 따르면 NVIDIA가 파라미터 4B 규모의 'NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16'을 내놓았다. 같은 층을 반복해 돌리는 Looped(latent-recurrent) 방식의 normalized-GPT 구조이며, 슬라이딩 윈도 어텐션(SWA) 층과 전체 어텐션 층이 번갈아 배치된다. 컨텍스트는 최대 256K 토큰이고 지원 언어는 영어, 라이선스는 OpenMDW 1.1이다. 모델 카드에 적힌 공개일은 10월 16일이다.
팩트체크 필요 (주장)
모델 카드는 이 모델을 작은 규모에서 범용 추론을 하는 용도에 가장 맞는 모델로 소개한다.
의미 (해석)
파라미터를 늘리지 않고 층을 반복해 연산 깊이를 확보하는 Looped 구조를 주요 칩 기업이 오픈웨이트로 내놓은 사례다. 온디바이스용 소형 추론 모델 설계에 참고할 만하다.
신뢰도 보통 · 공식 출처 확인 전
출처
NVIDIA 관련 다른 소식
-
NVIDIA, 월드 모델 개발 플랫폼 Cosmos 확장…학습 도구·시뮬레이션 체크포인트·'Cosmos Data Factory' 블루프린트 추가
NVIDIA가 피지컬 AI용 월드 모델(로봇 등이 실제 세계를 이해하고 시뮬레이션하도록 돕는 모델)을 만드는 Cosmos 플랫폼에 새 기능을 더했다. 모델 학습용 도구와 시뮬레이션용 체크포인트, 데이터 생산 파이프라인을 꾸리는 'Cosmos...
-
NVIDIA GTC Berlin 후속: 유럽 금융·유통·공공·기상 분야의 오픈 모델 도입 사례와 전력 병목 대응 'DSX' 사례 공개
NVIDIA가 GTC Berlin에 맞춰 유럽 산업별 도입 사례 글 5편을 냈다. 금융 분야에서는 Revolut이 NVIDIA 가속 컴퓨팅 위에서 단일 파운데이션 모델 'PRAGMA'를 중심으로 기술 스택을 다시 짜고 있으며, cuDF도...
-
도이치텔레콤·Nokia·NVIDIA, 무선 신호 처리에 AI를 넣어 5G 업링크 처리량 최대 15% 개선…AI-RAN 초기 실험(보도)
인공지능신문 보도에 따르면 도이치텔레콤, Nokia, NVIDIA 세 회사는 Nokia의 상용 5G 무선접속망(RAN) 소프트웨어를 NVIDIA 'Aerial RAN Computer'와 결합했다. 이 구성에서 무선 신호 처리 과정에 AI를 직접...
-
NVIDIA, AI 팩토리 전 구간 관측 AIOps 플랫폼 'Minerva' 공개
NVIDIA가 대규모 AI 데이터센터(AI 팩토리) 운영용 AIOps 플랫폼 'Minerva'를 내놓았다. 인프라와 AI 워크로드에서 나오는 텔레메트리를 한곳에 모으고, 이 데이터를 전용 AI 모델로 분석해 문제를 미리 찾아 대응할 수 있게 하는 것이 목표다.
-
NVIDIA GTC Berlin 추가 발표: Agent Toolkit 확장, 공장 운영 블루프린트 'FOX', 유럽 클라우드 파트너 확대
NVIDIA가 오픈소스 Agent Toolkit에 새 도구를 넣어 기업 데이터에 근거한 답변, 에이전트 통제·모니터링을 지원한다고 밝혔다. 유럽 제조 기업 대상으로는 CUDA-X·Omniverse·Cosmos·Nemotron을 공장 현장에 묶은...