中国领先的工业平台

返回贤集网 返回微头条
贤集网技术微头条APP获取

Llama 3被截胡了?微软推出iPhone能跑的ChatGPT级模型

 数据包

下载贤集网APP入驻自媒体

Llama 3发布刚几天,微软就出手截胡了?

刚刚发布的Phi-3系列小模型技术报告,引起AI圈热议。

其中仅3.8B参数的Phi-3-mini在多项基准测试中超过了Llama 3 8B。

为了方便开源社区使用,还特意设计成了与Llama系列兼容的结构。

微软这次打出“手机就能直接跑的小模型”的旗号,4bit量化后的phi-3-mini在iPhone 14 pro和iPhone 15使用的苹果A16芯片上跑到每秒12 token。

这意味着,现在手机上能本地运行的最佳开源模型,已经做到ChatGPT水平。

最新回复
发布回复
回复数据包:模型本身参数中没能力存储太多事实和知识,这一点也可以从 TriviaQA 测试分数低看出来。
回复数据包:要是知识方面也能兼顾就好了,有些任务是要求模型拥有很高的知识储备的。

为您推荐

热门交流