크래프톤, 자체 설계·사전학습한 30B-A4B MoE 'Raon-1 mini' 프리뷰를 Apache 2.0으로 공개…선형 어텐션 결합

확인된 내용 (사실)

크래프톤 AI가 모델 구조 설계부터 사전학습까지 직접 진행한 오픈웨이트 LLM 'Raon-1 mini'의 프리뷰를 Hugging Face에 올렸다. 총 약 30B 파라미터 가운데 4B가 활성화되는 MoE 구조이며, 자체 개발한 선형 어텐션 기술을 함께 적용했다. 한국어·영어 대화, 추론, 에이전트 작업을 주요 용도로 삼았고 thinking 모드가 기본으로 들어 있다. 라이선스는 Apache 2.0이고 GGUF 버전도 함께 공개됐다.

팩트체크 필요 (주장)

크래프톤은 비교 대상 모델들보다 수학·과학 벤치마크와 지시 이행·검색 벤치마크에서 앞선다고 주장했다. 외부 검증은 아직 없다.

의미 (해석)

게임사가 밑바닥부터 사전학습한 국산 오픈 모델을 상업적으로 쓰기 쉬운 라이선스로 내놨다. MoE와 선형 어텐션을 결합해 추론 효율을 노린 점에서 국내 소형 오픈 모델 경쟁에 새 선택지가 생겼다.

출처

• 커뮤니티 크래프톤, 자체 개발 30B급 고효율 LLM 'Raon-1 mini' 프리뷰 공개 GeekNews
• 커뮤니티 KRAFTON/Raon-1-mini-preview · Hugging Face Reddit