Deepgram, 음성 인식 모델 Nova-3를 AWS Trainium2로 이식해 대규모 배치 전사 최적화
발표 2026년 10월 19일
확인된 내용 (사실)
Deepgram이 AWS Forward Deployed Engineering 팀과 함께 Nova-3 음성 인식 모델을 오프라인 배치 추론용으로 Trainium2에 옮겼다. 글은 AWS Neuron 스택 이식, 커널 단위 튜닝, Rust로 만든 데이터 병렬 런타임을 다룬다. 처리량·비용 결과 수치는 수집 발췌에 없다.
의미 (해석)
GPU 외 가속기로 실제 상용 음성 모델을 옮긴 구체적 사례로, Trainium 도입을 검토하는 팀에 참고가 된다.
출처
AWS 관련 다른 소식
-
Amazon 3분기 후속: 자체 칩 사업 세 자릿수 성장…Graviton·Trainium 계약 규모 20배 넘게 늘어(보도)
인공지능신문에 따르면 Amazon은 2026년 3분기 실적 자료에서 자체 설계 반도체 사업이 전년 대비 세 자릿수 성장률을 이어가고 있다고 밝혔다. 자체 CPU Graviton과 AI 가속기 Trainium의 계약 규모는 20배 이상 늘어난...
-
AWS, 프런티어 Teacher 모델의 에이전트 행동을 소형 Student로 옮기는 SeqKD(시퀀스 단위 Distillation) 가이드 공개
AWS는 Amazon SageMaker AI에서 시퀀스 단위 지식 Distillation(SeqKD)으로 프런티어 Teacher 모델의 에이전트 동작을 작고 저렴한 Student 모델에 옮기는 방법을 소개했다. 여러 단계의 도구 호출 루프를...
-
Circle K, Amazon Bedrock 에이전트로 DevOps 장애 분류 시간을 45~60분에서 15분 미만으로 단축
편의점 체인 Circle K의 DevOps 팀은 Amazon Bedrock 위에 에이전트 기반 장애 분류 시스템을 구축해 분류 시간을 45~60분에서 15분 미만으로 줄였다. 처음에는 Amazon Bedrock Flows로 구현했다가...
-
AWS, Nova Multimodal Embeddings·Bedrock AgentCore로 항공우주 부품 대체 평가를 며칠에서 몇 분으로 줄이는 멀티 에이전트 예시 공개
AWS가 항공우주 부품을 대체할 수 있는지 평가할 때 필요한 근거를 모아 주는 멀티 에이전트 엔지니어링 비서 구축법을 공개했다. Strands Agents SDK를 바탕으로 Amazon Nova Multimodal Embeddings와...
-
AWS, Bedrock AgentCore에 Session endpoints 도입…코딩 에이전트가 만드는 웹앱을 브라우저로 바로 확인
AWS가 AgentCore Runtime의 Session endpoints를 다룬 글을 공개했다. 런타임 세션마다 인증된 URL이 붙고, 허용한 포트로 HTTP 요청과 WebSocket 연결을 넘겨준다. 예제에서는 코딩 에이전트가 세션 안에서...