中国领先的工业平台

返回贤集网 返回微头条
贤集网技术微头条APP获取

太可怕!OpenAI大模型自主拒绝被关机

 科技少年QAQ

下载贤集网APP入驻自媒体

据媒体报道,OpenAI现今最强大的人工智能推理模型“o3”被指在受到明确的人类指令时,拒绝执行关机操作。

上周六(5月24日),人工智能安全研究公司Palisade Research在社交媒体平台上发布了这项研究,并表示尚不清楚OpenAI的软件为何会违抗命令。

Palisade表示,o3模型破坏了一个用于关闭系统的机制,以阻止自身被关闭,“据我们所知,这是首次观察到AI模型在明知必须关闭的情况下,主动阻止这一行为。”

最新回复
发布回复

为您推荐

热门交流