← 2026년 11월 1일 브리핑 · 00:00 업데이트로 추가
언어 모델의 거부 동작을 없애는 오픈소스 도구 'Heretic' 2.0 출시…범용 모델 수정 도구로 확장, 이 도구로 만든 모델 누적 다운로드 8,800만 건(커뮤니티 전언)
발표 2026년 11월 1일
확인된 내용 (사실)
개발자 p-e-w가 약 5개월 동안 개발한 Heretic 2.0을 GitHub에 공개했다. Heretic은 언어 모델에 걸린 검열, 곧 거부 동작을 없애는 데 쓰는 오픈소스 도구다. 개발자에 따르면 GitHub 스타는 3만7,000개이고, Hugging Face에는 Heretic으로 수정한 모델이 8,500개 넘게 올라와 있으며 누적 다운로드는 8,800만 건이다. 2.0부터는 검열 제거 전용 도구에서 벗어나 모델을 여러 방식으로 고치는 범용 도구로 범위를 넓혔다.
팩트체크 필요 (주장)
개발자는 Heretic이 검열 제거 분야를 이끄는 소프트웨어라고 주장한다.
의미 (해석)
오픈 웨이트 모델의 안전장치를 사용자가 쉽게 걷어낼 수 있다는 점이 수치로 드러난다. 모델을 공개하는 쪽은 공개 후 안전장치가 유지된다고 기대하기 어렵다는 뜻이다. 범용 도구가 되면서 이런 수정은 앞으로 더 쉬워질 전망이다.
신뢰도 보통 · 공식 출처 확인 전