中国领先的工业平台

返回贤集网 返回微头条
贤集网技术微头条APP获取

比现有技术快1000倍!瑞典计划要开发更高效的内存压缩技术

 智者先行

下载贤集网APP入驻自媒体

2025年4月,瑞典内存优化知识产权(IP)供应商ZeroPoint Technologies(以下简称ZeroPoint)宣布与Rebellions建立战略合作伙伴关系,共同开发用于AI推理的下一代内存优化AI加速器。该公司计划在 2026 年发布一款新产品,并声称“有望实现前所未有的代币/秒/瓦特性能水平”。

作为合作的一部分,两家公司将使用 ZeroPoint 的内存压缩、压缩和内存管理技术来增加基本模型推理工作流程的内存带宽和容量。 ZeroPoint 首席执行官 Klas Moreau 声称其基于硬件的内存优化引擎比现有的软件压缩方法快 1,000 倍。

ZeroPoint 希望在不牺牲准确性的情况下提高代币/秒/瓦特,并使用无损模型压缩来减少模型尺寸和为模型组件供电所需的能量。

最新回复
发布回复
回复智者先行:硬件内存优化比软件快 1000 倍,这优势,简直是 “降维打击”

为您推荐

热门交流