← 2026년 11월 18일 브리핑

AWS, Bedrock AgentCore 에이전트의 대용량 JSON 처리 비용 줄이는 3가지 기법 소개…턴당 토큰 최대 71%·지연 최대 80% 감소

발표 2026년 11월 17일

확인된 내용 (사실)

AWS가 수 MB 단위 JSON을 다루는 AgentCore 실서비스 에이전트의 토큰 비용과 지연을 낮추는 방법을 공개했다. 무거운 결과물을 Amazon S3로 넘기기, 필요할 때만 결과를 페이지 단위로 불러오기, 사전(dictionary) 압축 세 가지를 조합한다. 함께 쓰면 턴당 토큰 사용이 최대 71%, 지연이 최대 80% 줄었다고 한다.

팩트체크 필요 (주장)

턴당 토큰 최대 71%·지연 최대 80% 감소는 AWS 측 측정이며 구체적 워크로드 조건은 원문에서 확인 필요.

의미 (해석)

도구 결과를 컨텍스트에 통째로 넣는 습관이 에이전트 비용의 주범이라는 점을 보여 주는 실무 패턴이다.

출처

AWS 관련 다른 소식