NVIDIA, 강화학습 후학습의 가중치 재적재(weight refit)를 가속하는 'Reshard Collective' 소개
발표 2026년 11월 6일
확인된 내용 (사실)
강화학습 후학습에서는 현재 정책 모델로 추론을 돌려 Trajectory를 즉석에서 만들기 때문에, 학습 쪽에서 갱신된 가중치를 추론 엔진으로 계속 옮겨야 한다. NVIDIA는 이 weight refit 단계를 빠르게 하는 Reshard collective를 블로그에서 설명했다. 성능 수치는 발췌에 없다.
의미 (해석)
대규모 RL 후학습에서 학습과 Rollout 사이 가중치 이동은 숨은 병목이어서, 이를 줄이는 통신 기법은 학습 처리량에 직접 영향을 준다.
출처
NVIDIA 관련 다른 소식
-
"TSMC, NVIDIA 요청 받고 3D D램 생산 검토"…삼성·SK하이닉스·Micron 메모리 시장에 파운드리 진입 가능성(The Information 보도 전언)
The Information이 소식통 2명을 인용해 보도한 내용을 AI타임스가 전했다. 보도에 따르면 TSMC는 최대 고객인 NVIDIA의 요청을 받고 차세대 메모리인 3D D램 생산 계획을 짜기 시작했다. AI 반도체 수요가 늘어 메모리...
-
Inductive Bio, 약물 대사효소 억제 예측 블라인드 평가 'OpenADMET CYP 챌린지'에서 270여 팀 중 1위…NVIDIA·Recursion도 참가(보도)
인공지능신문에 따르면 미국 AI 신약 개발 기업 Inductive Bio의 모델이 OpenADMET가 주관한 'CYP 직접 억제 블라인드 챌린지'에서 1위에 올랐다. 신약 후보물질이 약물 대사효소(CYP)를 얼마나 억제하는지, 즉 약물 상호작용...
-
미국 중간선거 후속: 상·하원 장악한 민주당, 내년 1월부터 빅테크 조사와 AI 규제 입법 준비…NVIDIA 대중국 칩 수출도 대상(보도)
AI타임스는 Washington Post·Reuters·Bloomberg의 6일(현지시간) 보도를 인용해, 내년 1월 의회 운영권을 넘겨받는 민주당이 주요 기술 기업을 상대로 청문회를 열고 자료 제출을 요구하며 AI 규제 법안을 추진할...
-
"H200 구매 승인을 받은 중국 업체 사무실이 비어 있었다"…미 상무부·NVIDIA의 구매처 검증 부실 지적(NYT 보도 전언)
The Verge가 The New York Times 보도를 인용해 전한 내용이다. NVIDIA H200을 취급해도 된다고 승인받은 중국 기업 명단에 New Matrix라는 업체가 들어 있는데, 이 업체의 사무실은 실제로 텅 빈 상태였다고...
-
NVIDIA, Blackwell GPU에서 이미지 생성 모델 'FLUX 3 Image Klein' 추론 가속하는 방법 소개
NVIDIA 개발자 블로그가 Blackwell GPU에서 FLUX 3 Image Klein으로 이미지를 더 빨리 생성하는 방법을 다뤘다. 디자인 도구, 이미지 편집기, 영상 제작 워크플로에 Diffusion 모델을 넣을 때 추론 지연 시간을...