中国领先的工业平台

返回贤集网 返回微头条
贤集网技术微头条APP获取

ChatGPT未来迈向商用,GPU需求上看3万颗

 芯圈那些事

下载贤集网APP入驻自媒体

由于生成式AI必须投入巨量数据进行训练,为缩短训练就得采用大量高效能GPU。以ChatGPT背后的GPT模型为例,其训练参数从2018年约1.2亿个到2020年已暴增至近1,800亿个,TrendForce集邦咨询估GPU需求量预估约2万颗,未来迈向商用将上看3万颗(本文计算基础以NVIDIA A100为主)。

最新回复
发布回复
回复芯圈那些事:chatGPT对话一次可能就获得想要的答案,而普通搜索可能要搜索很多才能获得答案。另外,这些计算成本可以随着时间降低的。

为您推荐

热门交流