中国领先的工业平台

返回贤集网 返回微头条
贤集网技术微头条APP获取

英伟达拿出 “ 当世最强 ”GPU!

 摩尔后时代

下载贤集网APP入驻自媒体

在今天凌晨的 2023 年全球超算大会( SC2023 )上,英伟达推出了全新GPU H200 。

作为前代 H100 的升级款,老黄直接不装了,在官网上单方面将 H200 称为 “ 当世最强 ” 。

从英伟达官方透露的数据来看, H200 最强的就是在大模型推理表现上。以 700 亿参数的 LLama2 大模型为例, H200 推理速度几乎比前代的 H100 快了一倍,而且能耗还降低了一半。从参数方面看, H200 的主要提升就是把上一代 “ G 皇 ”H100 的显存,从 80GB 拉到了 141GB ,带宽从 3.35TB/s 增加到了 4.8 TB/s 。

最新回复
发布回复
回复摩尔后时代:说白了就是有更高的性能、更高的带宽,好处就是芯片能用更快的速度传输数据,同时还降低功耗。

为您推荐

热门交流