래블업, GLM-5.2의 한국어 추론 속도를 높이는 드래프트 모델 'GLM-5.2-NVFP4-DFlash-ko' 오픈소스 공개(보도)

확인된 내용 (사실)

래블업은 한국어 질의와 한국어 에이전트 작업에서 LLM 추론을 빠르게 하는 드래프트 모델 'GLM-5.2-NVFP4-DFlash-ko'를 한글날인 9일 오픈소스로 공개했다고 12일 밝혔다. Z.ai의 'GLM-5.2'를 NVIDIA 4비트 부동소수점 형식(NVFP4)으로 돌릴 때 함께 쓰는 모델로, z-lab이 공개한 DFlash 방식을 바탕으로 만들었다. 드래프트 모델은 작은 모델이 먼저 토큰 후보를 내고 큰 모델이 한꺼번에 검증해 생성 속도를 높이는 Speculative Decoding에 쓰인다. 구체적인 속도 향상 수치는 보도 요약에 없다.

팩트체크 필요 (주장)

래블업 주장: 한국어 기반 LLM의 답변 속도 향상.

의미 (해석)

대형 오픈 모델을 국내에서 직접 서빙할 때 한국어 처리 속도와 비용이 걸림돌이 된다. 한국어에 맞춘 드래프트 모델이 공개되면 GLM-5.2 같은 오픈웨이트 모델을 한국어 서비스에 쓰는 부담이 줄어든다.

출처

• 보도 래블업, '한국어 AI 추론 속도 향상' 드래프트 모델 공개 전자신문