中国领先的工业平台

返回贤集网 返回微头条
贤集网技术微头条APP获取

千帆大模型可支持33个大模型,模型推理成本降低一半

 科技果汁

下载贤集网APP入驻自媒体

在很多人的印象中,千帆大模型平台主要是支持百度文心大模型的调用和部署。但登入千帆大模型平台的操作台,我们发现,“模型仓库”中有很多可选项,多个第三方模型可以进行直接调用、部署,无需等待申请。

千帆的工程师称,目前,千帆大模型平台除百度自研的文心大模型外,还支持Llama 2全系列、ChatGLM2-6B、RWKV-4-World、MPT-7B-Instruct、Falcon-7B等33个大模型,成为国内拥有大模型最多的平台。接入的模型经过千帆平台二次性能增强,模型推理成本可降低50%。

最新回复

还没有人回复哦,抢沙发吧~

发布回复

为您推荐

热门交流