回复摩尔后时代:为何amd家的加速卡那么拉呢?单看算力是不弱的
下载贤集网APP入驻自媒体
在今天凌晨的 2023 年全球超算大会( SC2023 )上,英伟达推出了全新GPU H200 。 作为前代 H100 的升级款,老黄直接不装了,在官网上单方面将 H200 称为 “ 当世最强 ” 。 从英伟达官方透露的数据来看, H200 最强的就是在大模型推理表现上。以 700 亿参数的 LLama2 大模型为例, H200 推理速度几乎比前代的 H100 快了一倍,而且能耗还降低了一半。从参数方面看, H200 的主要提升就是把上一代 “ G 皇 ”H100 的显存,从 80GB 拉到了 141GB ,带宽从 3.35TB/s 增加到了 4.8 TB/s 。