China Telecom发布总参数29B、激活4B的MoE模型Xing4.0-29B-A4B,仅用Ascend NPU和MindSpore训练,上下文256K(社区消息)
已核实(事实)
TeleChat的后续系列Xing推出新模型Xing4.0-29B-A4B,bartowski的GGUF量化版本已上传至Hugging Face。该模型总参数29B,每个token仅激活4B,默认支持256K上下文,最高支持512K。开发方表示,这是同等规模模型中首个仅使用Ascend NPU和MindSpore训练的模型。llama.cpp的支持PR也已提交。
待核实(说法)
开发方声称这是该规模下首个仅用Ascend和MindSpore训练的模型,并针对复杂工程任务进行了优化。
意义(解读)
这是仅用中国国产芯片训练的开放模型进入本地运行生态的案例,体现了不依赖NVIDIA构建模型的趋势。
可信度 中 · 待补官方来源
来源
更多关于 China Telecom
-
中国电信网络中发现 32 块禁止出口的 NVIDIA B300 GPU,安装地点与获取渠道未确认(转述 The Information 报道)
The Information 于 10 月 22 日(当地时间)报道,一家以色列安全公司在调查暴露于公网的监控系统时,发现了 32 块连接在中国国有电信运营商中国电信(China Telecom)网络上的 NVIDIA Blackwell Ultra B300...
-
China Telecom AI 研究院开源意图理解专用模型“Xing4.0-29B-Intent”(报道)
China Telecom 旗下人工智能子公司的 Xingchen 通用 AI 实验室发布并开源了意图理解专用模型“Xing4.0-29B-Intent”。量子位介绍称,该模型既能处理从选项中选择的分类型任务,也能处理自由填写的生成型任务。