NVIDIA TensorRT 11.1 'Global Performance Tuner' 소개…정확도를 고려해 빌드 경로를 넘나드는 자동 성능 튜닝
발표 2026년 10월 23일
확인된 내용 (사실)
NVIDIA가 TensorRT 11.1에 포함된 자동 성능 튜닝 기능 'Global Performance Tuner'를 두 편의 글로 설명했다. 학습된 신경망 배포를 연산자마다 GPU 커널로 옮기는 일이 아니라 정답이 여럿인 컴파일 문제로 보고, 정확도를 고려하면서 단일 빌드 경로를 넘어 최적화를 탐색한다.
의미 (해석)
추론 엔진 튜닝을 수작업 대신 자동 탐색으로 맡길 수 있어, TensorRT로 모델을 배포하는 팀의 최적화 부담을 줄일 수 있다.
출처
NVIDIA 관련 다른 소식
-
NVIDIA, AI 에이전트로 소형 로봇 'Microduck'에게 시뮬레이션에서 걷기 학습시키는 방법 공개…Microduck은 2만 대 판매(보도)
NVIDIA가 Microduck 같은 로봇이 장애물 코스를 지나도록 AI 에이전트를 활용해 시뮬레이션에서 학습시키는 방법을 블로그로 소개했다. 걷는 정책만으로는 부족하고 주변 인지, 균형 유지, 동작 조정이 함께 필요하다는 점을 다룬다....
-
차량 호출 앱 inDrive, Pony.ai·NVIDIA와 2027년 상반기 카자흐스탄 아스타나에서 로보택시 시험 계획(보도)
TechCrunch에 따르면 Uber 경쟁사 inDrive가 2027년 상반기부터 카자흐스탄 수도 아스타나에서 Pony.ai의 로보택시 시험을 시작할 계획이다. NVIDIA도 협력에 이름을 올렸다.
-
SpaceX, NVIDIA 등 130여 곳 참여한 'SpaceX SI 파트너 네트워크' 출범…기업에 Grok 도입·업무 SW 연동 지원(보도)
AI타임스 보도에 따르면 SpaceX는 22일(현지시간) 기업 고객의 Grok 도입을 돕는 'SpaceX SI 파트너 네트워크'를 출범시켰다. 처음 참여한 기업은 130곳이 넘고, NVIDIA·Snowflake·Databricks·Bain &...
-
NVIDIA, Gemma 4 기반 소형 VLM 'Nemotron 3.5 Bolt E4B' 공개·Ollama 지원…Embed·Rerank·Parse도 3.5로 업데이트
Ollama v0.40.10에 NVIDIA의 'Nemotron 3.5 Bolt E4B'가 추가됐다. Gemma-4-E4B-it를 바탕으로 NVIDIA가 사후학습을 더한 소형 비전-언어 모델이다. 컨텍스트는 128K 토큰이고, 추측 디코딩에 쓰는...
-
젠슨 황, 카자흐스탄서 '소버린 AI' 구축 설득…AI 거품 우려엔 선 그어(보도)
South China Morning Post 보도에 따르면 NVIDIA CEO 젠슨 황이 23일 아스타나에서 카자흐스탄 AI·디지털개발부 장관 잘라스 마디예프와 대담했다. 이 자리에서 국가가 자체 컴퓨팅 인프라를 갖춰야 한다는 '소버린 AI'를...