AWS, 120B MoE 멀티모달 모델 'NVIDIA Nemotron 3.5 Super VL'을 Amazon EKS·SageMaker HyperPod EKS에 배포하는 가이드 공개
발표 2026년 10월 29일
확인된 내용 (사실)
AWS는 NVIDIA Nemotron 3.5 Super VL의 구조와 활용 사례를 설명하는 글을 냈다. 이 모델은 120B 파라미터 MoE로, 추론과 도구 사용에 멀티모달 이해를 더했다. 글에서는 NVIDIA Dynamo와 vLLM을 써서 Amazon EKS, EKS Auto Mode, SageMaker HyperPod EKS에 배포하는 방법도 다룬다.
의미 (해석)
NVIDIA의 에이전트용 멀티모달 모델을 AWS의 Kubernetes 환경에서 직접 서빙할 때 참고할 수 있는 경로다.
출처
AWS 관련 다른 소식
-
Amazon 3분기 후속: 자체 칩 사업 세 자릿수 성장…Graviton·Trainium 계약 규모 20배 넘게 늘어(보도)
인공지능신문에 따르면 Amazon은 2026년 3분기 실적 자료에서 자체 설계 반도체 사업이 전년 대비 세 자릿수 성장률을 이어가고 있다고 밝혔다. 자체 CPU Graviton과 AI 가속기 Trainium의 계약 규모는 20배 이상 늘어난...
-
AWS, 프런티어 Teacher 모델의 에이전트 행동을 소형 Student로 옮기는 SeqKD(시퀀스 단위 Distillation) 가이드 공개
AWS는 Amazon SageMaker AI에서 시퀀스 단위 지식 Distillation(SeqKD)으로 프런티어 Teacher 모델의 에이전트 동작을 작고 저렴한 Student 모델에 옮기는 방법을 소개했다. 여러 단계의 도구 호출 루프를...
-
Circle K, Amazon Bedrock 에이전트로 DevOps 장애 분류 시간을 45~60분에서 15분 미만으로 단축
편의점 체인 Circle K의 DevOps 팀은 Amazon Bedrock 위에 에이전트 기반 장애 분류 시스템을 구축해 분류 시간을 45~60분에서 15분 미만으로 줄였다. 처음에는 Amazon Bedrock Flows로 구현했다가...
-
AWS, Nova Multimodal Embeddings·Bedrock AgentCore로 항공우주 부품 대체 평가를 며칠에서 몇 분으로 줄이는 멀티 에이전트 예시 공개
AWS가 항공우주 부품을 대체할 수 있는지 평가할 때 필요한 근거를 모아 주는 멀티 에이전트 엔지니어링 비서 구축법을 공개했다. Strands Agents SDK를 바탕으로 Amazon Nova Multimodal Embeddings와...
-
AWS, Bedrock AgentCore에 Session endpoints 도입…코딩 에이전트가 만드는 웹앱을 브라우저로 바로 확인
AWS가 AgentCore Runtime의 Session endpoints를 다룬 글을 공개했다. 런타임 세션마다 인증된 URL이 붙고, 허용한 포트로 HTTP 요청과 WebSocket 연결을 넘겨준다. 예제에서는 코딩 에이전트가 세션 안에서...