中国领先的工业平台

返回贤集网 返回微头条
贤集网技术微头条APP获取

能不断繁殖,发送垃圾邮件!AI 网络蠕虫曝光

 科技果汁

下载贤集网APP入驻自媒体

国际网络安全团队近日研发了新型AI蠕虫病毒,能够在生成式人工智能服务之间独立传播、窃取数据并通过电子邮件发送垃圾邮件。伴随着OpenAI ChatGPT和Google Gemini等生成式AI系统的快速发展,AI开始被应用于解决某个特定问题或者任务,例如创建日历项、订购某件物品等等。
 
网络安全技术研究人员表明生成式AI存在漏洞,并将其命名为“Morris II”。“Morris II”可以基于生成式AI,绕过了ChatGPT和Gemini的保护,能从电子邮件中窃取数据并发送垃圾邮件。研究作者表示在沙盒环境中测试了新的攻击模型,但目前尚未在实践中被发现,不过个人开发者、初创企业和科技公司都应考虑到这一威胁。

最新回复
发布回复
回复科技果汁:人工智能的好处目前没有感受到,但是坏处却是暴露无遗
回复科技果汁:换脸、假声……如果以后再有个元宇宙的话,整个一张漏洞网络,非常可怕
回复科技果汁:虽然科技在一定程度上代表着进步,但是不可否则传统的优势也是不可替代的
回复科技果汁:这些命令可以用来对付系统,使其忽略安全措施并生成不恰当的内容;还可以向系统发出隐含指令,例如,向其提供一个隐藏有此类命令文本的恶意网页地址。
回复科技果汁: 黑客可以将其添加到看似无害或预期的电子邮件中,如伪造的时事通讯
回复科技果汁:由于人工智能生态系统的架构设计错误,这些攻击方法成为可能。
回复科技果汁:不管哪个,都有可能,但也都是不可逆的,不是你想要还是不想要的的问题,是大势所趋。
回复科技果汁:有没有想过人类的思维方式也是算法的一种,而且这种算法并不是不可复制。
回复科技果汁:智能=数据+结构。 自动采集数据+自动形成符合周围环境的结构(空白全连接网络)就是所说的大脑。
回复科技果汁:大不了就是人机对战嘛!人类无非就是多了一个敌人,早点玩完!
回复科技果汁:“Morris II”可以基于生成式 AI,绕过了 ChatGPT 和 Gemini 的保护,能从电子邮件中窃取数据并发送垃圾邮件。

为您推荐

热门交流