← 2026년 11월 7일 브리핑

NVIDIA, 강화학습 후학습의 가중치 재적재(weight refit)를 가속하는 'Reshard Collective' 소개

발표 2026년 11월 6일

확인된 내용 (사실)

강화학습 후학습에서는 현재 정책 모델로 추론을 돌려 Trajectory를 즉석에서 만들기 때문에, 학습 쪽에서 갱신된 가중치를 추론 엔진으로 계속 옮겨야 한다. NVIDIA는 이 weight refit 단계를 빠르게 하는 Reshard collective를 블로그에서 설명했다. 성능 수치는 발췌에 없다.

의미 (해석)

대규모 RL 후학습에서 학습과 Rollout 사이 가중치 이동은 숨은 병목이어서, 이를 줄이는 통신 기법은 학습 처리량에 직접 영향을 준다.

출처

NVIDIA 관련 다른 소식