回复青蛙科技:双方联手就是强,为国产算力的进步点赞
下载贤集网APP入驻自媒体
3月11日,据 “科大讯飞研究院” 公众号消息,科大讯飞与华为携手在国产算力领域取得重大进展。双方联合团队成功突破国产算力集群上 MoE 模型(混合专家模型)的大规模跨节点专家并行集群推理,这是 DeepSeek 公布其 MoE 模型训练推理方案后,业界首个基于国产算力的全新解决方案。 联合团队通过软硬件深度协同,在算子融合、混合并行策略等方面优化,使单卡静态内存占用缩减至双机部署的 1/4,推理吞吐提升 3.2 倍。该方案将用于讯飞星火深度推理模型训练加速,预期推理效率提升 200%。