← 2026年10月13日 简报

Precision Numerics发布将Qwen3-1.7B量化为1比特的开放权重模型“Boole-1.7B”,大小247MB(社区消息)

已核实(事实)

据Reddit r/LocalLLaMA帖子,Precision Numerics首次发布了Qwen3-1.7B的1比特版本Boole-1.7B。压缩后的权重为247MB,是BF16的1/13.9。可在浏览器中本地运行,也可用于vLLM和llama.cpp。面向英语、非推理(non-thinking)模式的低延迟任务。

待核实(说法)

声称在自有的10项任务评估中保持了BF16模型平均得分的85.9%,高于1比特的Bonsai-1.7B,与1.58比特的Bonsai-1.7B几乎持平。

意义(解读)

随着1比特级量化在小模型上接近实用性能,在浏览器和边缘设备上运行LLM的选择增多。

可信度 中 · 待补官方来源

来源