回复晓燕有话说:这个开源框架 TAOISM 不错,能保护模型隐私还能降低成本,厉害
下载贤集网APP入驻自媒体
当前,大语言模型于金融、医疗等隐私攸关行业的部署面临着隐私保护的严峻挑战。诸如医院、银行等模型用户,虽掌控着大量高质量机密数据,但却欠缺训练大模型的技术能力,故而需依赖外部供应商来提供基座大模型等必需的技术支撑。 为解决大模型用户与供应商之间的互不信任问题,近日,北京大学助理教授李锭团队研发出一种基于可信执行环境的模型保护技术,并构建了开源框架 TAOISM。该技术可使供应商将其基座大模型部署至用户端的可信执行环境内,既确保用户的机密数据不出该环境范围,又能防止用户侵犯供应商基座大模型的隐私。此方法不但实现了全方位的模型隐私保护,还把计算成本降低至现有技术的 1/10。