JetBrains, 소형 MoE 'Mellum2.1-12B-A2.5B-Thinking' GGUF 공개(커뮤니티 전언)

무슨 일인가

Reddit r/LocalLLaMA에 JetBrains의 'Mellum2.1' 컬렉션이 공유됐다. 공유된 모델명은 'Mellum2.1-12B-A2.5B-Thinking-GGUF'로, 총 12B·활성 2.5B 파라미터 규모의 MoE로 보인다. 공식 발표문은 자료에 없다.

의미

로컬에서 돌릴 수 있는 IDE 회사의 소형 추론 MoE라서 개발자 도구용 온디바이스 모델 선택지가 늘어난다.

출처

• 커뮤니티 Mellum2.1 - a JetBrains Collection Reddit