서비스·애플리케이션
Kakao
1건 · 최신순
2026년 10월 8일
-
카카오, COLM 2026서 MoE 사전학습의 최적 학습률을 전체 학습 비용의 약 1%로 예측하는 방법 발표(보도)
카카오는 언어모델링 국제 학회 COLM 2026의 메인 컨퍼런스와 토크나이제이션 워크숍 'TokShop'에서 연구 성과를 발표했다고 8일 밝혔다. 메인 컨퍼런스 논문은 대규모 MoE(Mixture-of-Experts) 모델의 사전학습에 쓸 최적...