中国领先的工业平台

返回贤集网 返回微头条
贤集网技术微头条APP获取

华为昇腾+DeepSeek,推理性能全面超越英伟达Hopper

 智者先行

下载贤集网APP入驻自媒体

部署超大规模MoE这件事,国产芯片的推理性能,已经再创新高了——不仅是“英伟达含量为0”这么简单,更是性能全面超越英伟达Hopper架构!

而做到这一点的,正是华为昇腾;具体而言,共包含两个产品:

CloudMatrix 384超节点部署DeepSeek V3/R1,在50ms时延约束下单卡Decode吞吐突破1920 Tokens/s

Atlas 800I A2推理服务器部署DeepSeek V3/R1,在100ms时延约束下单卡吞吐达到808 Tokens/s,可支持灵活的分布式部署

最新回复
发布回复
回复智者先行:nvdia的通用计算芯片目前最火的应用就是用来跑AI大模型,而美国处心积虑的禁售nv芯片是防止中国用于发展大模型,华为这个简单的说就是1+1>2
回复智者先行:每天看这种新闻,英伟达已经变成了计量单位,随时都在被秒杀。
回复智者先行:老美也很纠结,不卖算力卡,中国另起炉灶搞自己的算力卡,卖算力卡又怕中国的ai技术超过美国,同时中国还是会搞自己的算力卡

为您推荐

热门交流