Precision Numerics, Qwen3-1.7B를 1비트로 양자화한 'Boole-1.7B' 오픈웨이트 공개…247MB(커뮤니티 전언)
확인된 내용 (사실)
Reddit r/LocalLLaMA 게시글에 따르면 Precision Numerics가 첫 릴리스로 Qwen3-1.7B의 1비트 버전 'Boole-1.7B'를 공개했다. 압축된 가중치는 247MB로 BF16의 13.9분의 1 크기다. 브라우저에서 로컬로 실행할 수 있고 vLLM·llama.cpp에서도 쓸 수 있다. 영어·비추론(non-thinking) 모드의 저지연 작업용이다.
팩트체크 필요 (주장)
자체 10개 과제 평가에서 BF16 모델 평균 점수의 85.9%를 유지했고, 1비트 Bonsai-1.7B보다 높으며 1.58비트 Bonsai-1.7B와 거의 같다고 주장한다.
의미 (해석)
1비트 수준 양자화가 소형 모델에서 실용 성능에 가까워지면서, 브라우저·엣지 기기에서 LLM을 돌리는 선택지가 넓어진다.
신뢰도 보통 · 공식 출처 확인 전