回复数据包:模型本身参数中没能力存储太多事实和知识,这一点也可以从 TriviaQA 测试分数低看出来。
下载贤集网APP入驻自媒体
Llama 3发布刚几天,微软就出手截胡了? 刚刚发布的Phi-3系列小模型技术报告,引起AI圈热议。 其中仅3.8B参数的Phi-3-mini在多项基准测试中超过了Llama 3 8B。 为了方便开源社区使用,还特意设计成了与Llama系列兼容的结构。 微软这次打出“手机就能直接跑的小模型”的旗号,4bit量化后的phi-3-mini在iPhone 14 pro和iPhone 15使用的苹果A16芯片上跑到每秒12 token。 这意味着,现在手机上能本地运行的最佳开源模型,已经做到ChatGPT水平。