回复科技少年QAQ:产能肯定都向这些高端的gpu倾斜了。消费级的显卡依旧降价无望。
下载贤集网APP入驻自媒体
早在四年前,AMD就曾设定目标,到2025年EPYC系列服务器处理器和Instinct系列AI芯片的能效,较2020年提高30倍。如今,MI300X AI芯片基本上实现目标,时间提了早一年。 AMD两个64核心EPYC 9575F CPU、八个Instinct MI300X AI芯片及2304GB DDR5内存的服务器,Llama3.1-70B(vLLM 0.6.1.post2、TP8)测试推理性能,用一组复杂计算确定系统能源效率,并与2020年的旧机器比较,结果显示,新机能源效率是旧机的28.3倍。