NVIDIA CUDA 13.4, Kubernetes에서 메모리 한도를 강제하는 GPU 공유 지원
발표 2026년 10월 28일
확인된 내용 (사실)
NVIDIA가 CUDA 13.4로 Kubernetes 환경에서 메모리 사용량을 강제로 제한하며 GPU 한 장을 여러 워크로드가 나눠 쓰는 방법을 소개했다. GPU 일부만 필요한 AI 워크로드에 장치를 통째로 배정하면 남는 용량이 놀게 되는데, 이를 공유해 플랫폼 팀이 더 많은 워크로드를 돌릴 수 있게 하는 것이 목적이다.
의미 (해석)
GPU 임대료가 오르는 상황에서, 작은 추론·개발 워크로드를 한 GPU에 안전하게 몰아넣는 기능은 바로 비용 절감으로 이어진다.
출처
NVIDIA 관련 다른 소식
-
Moore Threads, 우시 GPU 2,112개 클러스터 상용 운영 뒤 가동률 92.9%…"DeepSeek V4 Flash 추론은 H800 구성의 92% 수준"(보도)
Pandaily 보도에 따르면 중국 GPU 기업 Moore Threads가 장쑤성 우시 후이산에서 MTT S5000 GPU 2,112개로 구성한 클러스터를 상용으로 운영하고 있다. 고객사는 55곳, 가동률은 92.9%다. DeepSeek V4...
-
국가 슈퍼컴퓨터 6호기 '한강' 가동…GPU 8,496개·이론 성능 614PF, 12월 14일 정식 서비스(보도)
과기정통부와 KISTI가 11월 2일 대전 KISTI 본원에서 국가 슈퍼컴퓨터 6호기 '한강' 가동식을 열었다. NVIDIA GH200 8,336개와 H200 160개를 합쳐 GPU 8,496개, CPU 9,936개를 갖췄다. 이론 연산 성능은...
-
NVIDIA, 파라미터 960만 개짜리 범용 음성 복원 모델 'NemotronLabs RE-USE' Hugging Face 공개…상업 이용 가능(보도)
AI타임스에 따르면 NVIDIA는 손상된 음성을 되살리는 범용 음성 향상 모델 'NemotronLabs RE-USE'를 Hugging Face에 오픈 모델로 올렸다. 배경 잡음과 잔향, 클리핑(음성 찢어짐), 대역폭 제한, 코덱 아티팩트, 패킷...
-
NVIDIA, Cosmos로 인터랙티브 시뮬레이션용 월드 모델 만드는 방법 소개…센서·작업 맞춤 적응과 배포 다뤄
NVIDIA 개발자 블로그는 피지컬 AI 개발자가 NVIDIA Cosmos로 인터랙티브 시뮬레이션용 월드 모델을 구축하는 방법을 설명했다. 글은 모델을 자기 센서·작업·데이터에 맞게 적응시키는 문제와 이를 실제 활용 단계로 가져가는 문제를 두...
-
NVIDIA, Vera Rubin 출시 첫날부터 Kubernetes를 AI용으로 쓸 수 있게 하는 구성 방법 소개
NVIDIA는 Vera Rubin 같은 새 GPU 하드웨어에 맞춰 Kubernetes를 설정·최적화하는 작업이 드라이버, 커널, 런타임, 네트워킹 등 여러 층에 걸쳐 복잡하고 실수하기 쉽다는 점을 짚고, 출시 시점부터 바로 쓸 수 있도록...