← 2026年10月21日 简报 · 于韩国时间 12:00 更新时加入
投机解码技术“EAGLE-4”发布，称在Qwen3.8-27B上比基础解码快3.59倍（社区消息）
已核实（事实）
Reddit r/LocalLLaMA上发布了EAGLE-4的消息。在分享的Qwen3.8-27B基准测试中，相对基础解码（Vanilla）的加速比分别为：MTP 2.22倍、DSpark 2.57倍、DFlash 2 2.80倍、EAGLE-4 3.59倍。目前仅支持Qwen3.8-27B，尚未集成到llama.cpp和vLLM。
待核实（说法）
数据基于帖子中分享的基准测试表格，输入资料中未说明测试硬件、批大小等条件。
意义（解读）
投机解码是在不更换模型的前提下提升生成速度的代表性方法。如果数据能够复现并被集成进llama.cpp和vLLM，可直接降低本地及服务器推理成本。不过目前仅是单一模型上的结果。
可信度 低 · 待补官方来源