中国领先的工业平台

返回贤集网 返回微头条
贤集网技术微头条APP获取

科大讯飞与华为携手,国产算力集群推理吞吐提升3.2倍

 青蛙科技

下载贤集网APP入驻自媒体

3月11日,据 “科大讯飞研究院” 公众号消息,科大讯飞与华为携手在国产算力领域取得重大进展。双方联合团队成功突破国产算力集群上 MoE 模型(混合专家模型)的大规模跨节点专家并行集群推理,这是 DeepSeek 公布其 MoE 模型训练推理方案后,业界首个基于国产算力的全新解决方案。

联合团队通过软硬件深度协同,在算子融合、混合并行策略等方面优化,使单卡静态内存占用缩减至双机部署的 1/4,推理吞吐提升 3.2 倍。该方案将用于讯飞星火深度推理模型训练加速,预期推理效率提升 200%。

最新回复
发布回复

为您推荐

热门交流