← 2026년 11월 14일 브리핑

AWS, NVIDIA NeMo Switchyard로 코딩 에이전트 요청을 알맞은 Bedrock 모델에 배분…'해결한 작업당 비용'으로 비교

발표 2026년 11월 13일

확인된 내용 (사실)

AWS가 AWS CDK로 LiteLLM과 NVIDIA NeMo Switchyard 라우팅 플러그인을 Amazon Bedrock에 배포하는 방법을 공개했다. 여러 모델을 묶은 라우팅 그룹과 단일 모델 기준선을 놓고 '해결한 작업당 비용'을 측정한다. AWS는 코딩 에이전트는 작업 단위로 일하기 때문에 토큰당 가격보다 이 값이 중요하다고 설명했다.

의미 (해석)

에이전트 비용을 토큰 단가가 아니라 작업 성공 기준으로 따지는 방식이 클라우드 사업자 가이드에도 들어오고 있다.

출처

AWS 관련 다른 소식