Microsoft Research 'TokenEconomizer': 코딩 에이전트가 지난 세션 경험에서 배워 토큰 사용 줄이는 연구
발표 2026년 11월 16일
확인된 내용 (사실)
Microsoft Research가 AI 코딩 에이전트의 토큰 비용을 줄이는 'TokenEconomizer'를 소개했다. 에이전트는 세션마다 지시문·도구 설명·세션 기록을 모델에 보내 토큰을 쓰는데, 기존 절감 연구는 개별 작업에 집중했다. TokenEconomizer는 개발자가 같은 저장소와 작업으로 반복해 돌아온다는 점에 착안해, 이전 경험을 학습해 이후 세션을 효율화하는 접근이다. 절감 수치는 수집 자료에 없다.
의미 (해석)
코딩 에이전트 운영비가 커지는 상황에서, 세션 간 경험을 재사용해 컨텍스트 낭비를 줄이는 방향은 프롬프트 캐싱과 함께 실무 비용 관리의 축이 될 수 있다.
출처
Microsoft 관련 다른 소식
-
NVIDIA·Microsoft, Ignite에서 협력 확대…Vera Rubin NVL72 기반 Azure VM 접근 넓히고 산업 시스템·Windows PC까지
NVIDIA와 Microsoft가 Microsoft Ignite에서 Azure 인프라부터 산업 시스템, Windows PC까지 이어지는 협력 확대를 발표했다. NVIDIA Vera Rubin NVL72 시스템으로 돌아가는 Azure 가상머신의...
-
"MS, 바이트댄스와 Azure 통한 OpenAI 모델 공급 5억 달러 추가 계약 근접"…OpenAI 반발, 미 하원 중국특위 설명 요구(The Information 보도 전언)
The Information은 사정을 아는 관계자 2명을 인용해, ByteDance가 Azure로 쓰는 OpenAI 모델 이용을 늘리려고 Microsoft와 5억 달러 규모의 추가 클라우드 계약을 협상 중이라고 보도했다(AI타임스 전언)....
-
나델라 "핵심 인프라 상당수는 패치 불가능"…직원 6만 명 희망퇴직 제안 이유는 AI, NVIDIA 크레스 임시 CEO엔 신뢰 표시(TechCrunch 보도)
TechCrunch가 보도한 Microsoft CEO 사티아 나델라의 발언은 세 가지다. 첫째, AI 사이버 공격에 대한 우려가 커지는 가운데 연결된 핵심 인프라 상당수가 '패치할 수 없는(unpatchable)' 상태라고 했다. 최근...
-
Microsoft AI, 코딩·보안·이미지·음성·의사결정용 MAI 모델 7종 공개…"MAI Code 2는 GPT-6.1 Sol 성능의 98%를 약 40% 가격에"(커뮤니티 전언)
GeekNews 요약을 보면 Microsoft AI가 새 모델 7종을 한꺼번에 공개했다. 보안·코딩·이미지·음성·의사결정 영역을 아우르는 구성이다. 실제 엔지니어링 업무를 맡는 에이전트를 하루 24시간 가동해도 감당할 수 있는 가격을 겨냥했다고...
-
나델라 Ignite 발언 후속: Microsoft, 40곳 넘는 조직과 'AI 투명성 이니셔티브' 출범…Accenture·Adobe·KPMG·Mastercard·Volvo Cars 참여(보도자료)
Microsoft가 Ignite에서 발표한 AI 투명성 이니셔티브의 세부 내용을 보도자료로 공개했다. Accenture, Adobe, KPMG, Mastercard, Volvo Cars 등 40곳이 넘는 조직이 참여해 특정 모델이나 제공업체에...