오픈 모델
vLLM
1건 · 최신순
2026년 10월 7일
-
vLLM v0.31.0 출시…DeepSeek-V4.1-Flash 추론 성능 최적화 집중
vLLM v0.31.0에는 기여자 307명(신규 96명)의 커밋 717개가 반영됐다. 주요 변경은 DeepSeek-V4.1-Flash 성능 개선으로, SM100에서 V4.1 NVFP4 압축 KV 캐시를 쓰는 FlashMLA mega...
오픈 모델
1건 · 최신순
vLLM v0.31.0에는 기여자 307명(신규 96명)의 커밋 717개가 반영됐다. 주요 변경은 DeepSeek-V4.1-Flash 성능 개선으로, SM100에서 V4.1 NVFP4 압축 KV 캐시를 쓰는 FlashMLA mega...