Tencent 논문 'DSpine': 병렬 Draft 후보를 깊이 방향으로 조건화해 투기적 디코딩의 수용 길이 늘려(커뮤니티 전언)
확인된 내용 (사실)
Tencent 연구진이 투기적 디코딩용 Drafter 'DSpine' 논문을 공개했다. 한 번의 백본 패스로 여러 후보를 만드는 병렬 Drafting은 토큰을 독립적으로 고르다 보니 이어지는 토큰끼리 어긋나 수용되는 prefix가 짧아지는 문제가 있다. 연구진은 DFlash 분석에서 앞쪽 위치의 예측이 얕은 층에서 이미 형성된다는 점을 확인하고, 바로 앞 토큰 정보를 더 이른 층에서 뒤 토큰에 주입하는 방식(Adjacent Causal Injection)을 제안했다.
의미 (해석)
추론 비용을 줄이는 투기적 디코딩 연구가 Draft 모듈 구조 개선 쪽으로 이어지고 있어, 서빙 프레임워크에 반영될지 지켜볼 만하다.
신뢰도 보통 · 공식 출처 확인 전
출처
Tencent 관련 다른 소식
-
중국 우전 세계인터넷대회에서 AI 에이전트 신원 등록·조회 플랫폼 공개…Huawei·Alibaba·Tencent 등 20곳 자율 규약 서명(보도)
Pandaily에 따르면 우전에서 열린 세계인터넷대회에서 AI 에이전트의 신원을 등록하고 조회(resolution)하는 플랫폼이 공개됐다. Huawei, Alibaba, Tencent를 포함한 20개 기관은 에이전트 자율 규약에 서명했다....
-
Tencent Hy4 후속: WorkBuddy 사용량이 몰리자 추론 클러스터를 10배로 늘려…"Artificial Analysis 기준 중국 모델 2위"(보도)
Pandaily 보도에 따르면 출시 첫날 WorkBuddy 이용자들이 할당량 한도에 걸리자 Tencent가 Hy4 추론 클러스터 규모를 10배로 키웠다. Tencent는 Artificial Analysis 순위에서 Hy4가 중국 모델 가운데 2위라고 밝혔다.
-
"Kimi K3.1·Tencent Hy4 오픈 웨이트에서 보안·리버스 엔지니어링 능력이 빠졌다" 주장…로컬 보안 점검이 어려워진다는 우려(커뮤니티 전언, 미확인)
Reddit r/LocalLLaMA에 한 이용자가 글을 올렸다. Kimi K3.1과 Tencent Hy4의 오픈 웨이트 모델에서 사이버 보안, 바이너리 리버스 엔지니어링, 취약점 패치 능력이 일부러 제거됐다는 주장이다. 작성자는 최근 중국 오픈...
-
중국 빅테크, NVIDIA 'RTX Pro 5500' 약 600만 개 주문했지만 4개월간 공급은 약 1%에 그칠 듯(Bloomberg 보도 전언)
AI타임스가 전한 Bloomberg 보도에 따르면 Alibaba, Tencent, ByteDance 등은 수출 규제를 피할 수 있는 워크스테이션 GPU 'RTX Pro 5500'을 약 600만 개, 700억 달러(약 94조 원)어치 주문했다....
-
SuperCLUE 10월 오피스 에이전트 평가: Doubao Work 85.33점으로 1위, Kimi Work·WorkBuddy가 뒤이어(보도)
Pandaily에 따르면 SuperCLUE의 2026년 10월 오피스 에이전트 평가에서 ByteDance의 Doubao Work가 종합 85.33점으로 가장 높았다. Kimi Work와 Tencent WorkBuddy가 문서, 글쓰기, 데이터...