추측 디코딩 기법 'EAGLE-4' 공개…"Qwen3.8-27B에서 기본 디코딩보다 3.59배 빨라"(커뮤니티 전언)

확인된 내용 (사실)

Reddit r/LocalLLaMA에 EAGLE-4 공개 소식이 올라왔다. 공유된 Qwen3.8-27B 벤치마크에서 기본 디코딩(Vanilla) 대비 속도 향상은 MTP 2.22배, DSpark 2.57배, DFlash 2 2.80배, EAGLE-4 3.59배였다. 지금은 Qwen3.8-27B만 지원하고, llama.cpp·vLLM 통합은 아직이다.

팩트체크 필요 (주장)

수치는 게시글에 공유된 벤치마크 표 기준이며, 측정 하드웨어와 배치 크기 같은 조건은 입력 자료에 나오지 않는다.

의미 (해석)

추측 디코딩은 모델을 바꾸지 않고 생성 속도를 높이는 대표적인 방법이다. 수치가 재현되고 llama.cpp·vLLM에 들어가면 로컬·서버 추론 비용을 바로 낮출 수 있다. 다만 지금은 모델 하나에서 나온 결과다.

출처

• 커뮤니티 Eagle-4 Released: Faster than DFlash2 & DSpark Reddit