回复芯圈那些事:chatGPT对话一次可能就获得想要的答案,而普通搜索可能要搜索很多才能获得答案。另外,这些计算成本可以随着时间降低的。
下载贤集网APP入驻自媒体
由于生成式AI必须投入巨量数据进行训练,为缩短训练就得采用大量高效能GPU。以ChatGPT背后的GPT模型为例,其训练参数从2018年约1.2亿个到2020年已暴增至近1,800亿个,TrendForce集邦咨询估GPU需求量预估约2万颗,未来迈向商用将上看3万颗(本文计算基础以NVIDIA A100为主)。