← 2026년 11월 2일 브리핑 · 00:00 업데이트로 추가

JetBrains, 'Mellum2.1-12B-A2.5B-Thinking-MTP' Hugging Face 공개…MTP 헤드로 투기적 디코딩해 "출력은 같고 1.4~1.8배 빨라"(커뮤니티 전언)

발표 2026년 11월 2일

확인된 내용 (사실)

JetBrains가 Hugging Face에 'Mellum2.1-12B-A2.5B-Thinking-MTP'를 올렸다. 12B 규모에 토큰당 활성 2.5B인 MoE 모델 Mellum2.1 Thinking에 Multi-Token Prediction(MTP) 헤드를 붙인 버전이다. MTP 헤드는 함께 학습한 트랜스포머 블록 하나로, 다음 다음 토큰을 예측한다. 추론 엔진은 이를 투기적 디코딩의 초안으로 쓰고, 본 모델이 초안 토큰을 모두 검증한다. 나머지 가중치는 기존 Mellum2.1 Thinking과 같다.

팩트체크 필요 (주장)

JetBrains 모델 카드: 출력은 바뀌지 않고 디코딩이 1.4~1.8배 빨라지며, 초안 토큰의 약 90%가 채택된다.

의미 (해석)

품질 손실 없이 소형 코딩용 모델을 더 빠르게 돌릴 수 있다. MTP 헤드를 별도 파일로 배포하는 방식이 오픈 웨이트 모델로 퍼지고 있다는 사례다.

신뢰도 보통 · 공식 출처 확인 전

출처

JetBrains 관련 다른 소식