DeepSeek DeepInfer 후속: "단일 클러스터 하루 155조 토큰 처리, KV 캐시 7일 보관"…연구원은 오픈·클로즈드 경쟁을 '빛과 어둠'에 비유(보도)

확인된 내용 (사실)

InfoQ China는 DeepSeek이 공개한 추론 프레임워크 DeepInfer를 다루면서, 클러스터 하나가 하루에 약 155조 토큰을 처리하고 KV 캐시를 최대 7일 동안 보관할 수 있다는 내용을 제목에 담았다. South China Morning Post는 DeepInfer가 DeepSeek-V4.1-Flash를 NVIDIA SM100(Blackwell) GPU와 Huawei 칩에서 모두 돌릴 수 있게 지원한다고 전했다. 같은 보도에 따르면 DeepSeek의 한 선임 연구원은 오픈소스와 클로즈드 AI의 격차를 '빛과 어둠'의 싸움에 빗대고, 오픈소스의 '완전한 승리'를 목표로 내세웠다.

팩트체크 필요 (주장)

하루 처리량 155조 토큰과 KV 캐시 7일 보관 수치는 보도 제목에 나온 것으로, 측정 조건은 확인되지 않았다.

의미 (해석)

실제 서비스 규모의 처리량 수치가 함께 알려지면서, 공개된 프레임워크가 연구용 코드가 아니라 실제 운영에 쓰는 수준임을 짐작할 수 있다. 며칠 동안 보관하는 KV 캐시는 긴 멀티턴 에이전트 작업의 비용을 낮추는 방향과도 맞닿아 있다.

출처

• 보도 DeepSeek开源最新推理框架：单集群日吞吐155万亿Token，KVCache可保存7天 InfoQ China
• 보도 DeepSeek seeks ‘total victory’ over closed-source AI with new open-source tool South China Morning Post

이어지는 소식

1. 2026-10-20 DeepSeek, 실제 서비스에 쓰는 자체 추론 프레임워크 'DeepInfer' 오픈소스 공개…V4.1-Flash 지원(보도)
2. 2026-10-21 DeepSeek DeepInfer 후속: "단일 클러스터 하루 155조 토큰 처리, KV 캐시 7일 보관"…연구원은 오픈·클로즈드 경쟁을 '빛과 어둠'에 비유(보도)

DeepSeek 관련 다른 소식

• 2026-10-22 P2 오픈소스 확인 필요 국내언어 모델데이터·평가 AlibabaGoogleMetaLG AI ResearchDeepSeekHugging Face
  "올해 한국 계정이 Hugging Face에 올린 파생 언어 모델 중 49.3%가 중국 모델 기반, Qwen이 46.8%" 분석(커뮤니티 전언)

  GeekNews에 올라온 분석에 따르면 2026년 1~8월 한국 계정이 Hugging Face에 새로 공개한 언어 모델 1,845개 가운데 49.3%가 중국 모델을 바탕으로 만들어졌다. 기반 모델로 가장 많이 쓰인 것은 Alibaba...

• 2026-10-22 P1 기타 확인 필요 언어 모델 DeepSeek
  DeepSeek, 150억 달러 투자 유치…미국 연방기관 퇴출 지시 며칠 만(보도)

  TechCrunch가 다른 매체 보도를 인용해 DeepSeek이 150억 달러를 유치했다고 전했다. 중국 AI 기업 투자 라운드로는 손꼽히는 규모다. 미국 정부가 국가안보를 이유로 연방 기관에 DeepSeek 기술을 없애라고 지시한 지 며칠...

• 2026-10-21 P1 인프라 확인 필요 효율·인프라언어 모델 DeepSeekHuawei
  DeepSeek, 플래그십 모델 사전학습에 화웨이 칩 투입…칩 설계 단계부터 공동 참여(보도)

  The Information 보도를 인용한 국내 보도에 따르면 DeepSeek이 차세대 AI 칩 설계 단계부터 Huawei와 협력하고 있다. Huawei는 엔지니어를 DeepSeek 사무실에 장기 파견해 모델 쪽 요구 사항을 칩 설계에 반영하는...

• 2026-10-20 P1 오픈소스 일반 공개 효율·인프라언어 모델 DeepSeekNVIDIAHuawei
  DeepSeek, 실제 서비스에 쓰는 자체 추론 프레임워크 'DeepInfer' 오픈소스 공개…V4.1-Flash 지원(보도)

  국내 매체 보도에 따르면 DeepSeek은 20일, 자사의 대규모 프로덕션 서비스를 돌리는 추론 프레임워크 DeepInfer를 오픈소스로 전면 공개했다. GeekNews 정리에 따르면 이번 공개판은 대규모 서빙에 필요한 핵심 기능을 담은...

• 2026-10-20 P1 정책 확인 필요 AI 보안안전·정렬 미국 행정부DeepSeek
  미국 정부, 연방 민간 기관에 DeepSeek 제품과 그 기술로 만든 외부 서비스 제거 지시…국가안보 이유(보도)

  TechCrunch 보도에 따르면 미국 정부는 연방 민간 기관에 DeepSeek 제품을 시스템에서 걷어 내라고 지시했다. DeepSeek 기술을 바탕으로 만든 제3자 서비스도 제거 대상이며, 정부는 국가안보 우려를 근거로 들었다. 이행 기한과...