中国领先的工业平台

返回贤集网 返回微头条
贤集网技术微头条APP获取

AI智能体的“阴暗面”

 人工智源库

下载贤集网APP入驻自媒体

正如一枚硬币有正反两面,AI 智能体强大的自主性或许将重塑网络安全格局。这些让 AI 智能体变身“超级助理”的能力就像一把双刃剑,同样也会使其化身网络罪犯的“得力助手”,变成实施网络攻击的利器。

虽然目前网络罪犯尚未大规模使用 AI 智能体发动攻击,但是其攻击潜力已经在实验室中得到验证。比如,Anthropic 公司的研究人员在封闭测试中发现 Claude 模型能够成功复现窃密攻击。

网络安全专家警告,这类来自 AI 智能体的网络攻击可能很快就会从实验室进入现实世界,现阶段正处于网络攻防的历史转折点,传统的网络攻击可能需要数天或数周的策划,而 AI 智能体能在你喝杯咖啡的时间就完成了攻击部署。

最新回复
发布回复
回复人工智源库:虽说现在还没大规模被网络罪犯利用,但实验室里都验证过它发动攻击的潜力了,指不定哪天就成现实了

为您推荐

热门交流