Precision Numerics发布将Qwen3-1.7B量化为1比特的开放权重模型“Boole-1.7B”,大小247MB(社区消息)
已核实(事实)
据Reddit r/LocalLLaMA帖子,Precision Numerics首次发布了Qwen3-1.7B的1比特版本Boole-1.7B。压缩后的权重为247MB,是BF16的1/13.9。可在浏览器中本地运行,也可用于vLLM和llama.cpp。面向英语、非推理(non-thinking)模式的低延迟任务。
待核实(说法)
声称在自有的10项任务评估中保持了BF16模型平均得分的85.9%,高于1比特的Bonsai-1.7B,与1.58比特的Bonsai-1.7B几乎持平。
意义(解读)
随着1比特级量化在小模型上接近实用性能,在浏览器和边缘设备上运行LLM的选择增多。
可信度 中 · 待补官方来源