回复人工智能利弊说：这研究给大伙敲警钟了！AI 再智能也是人造的，别把身家性命全押上去，谨慎为妙！
人工智能利弊说
下载贤集网APP入驻自媒体
据媒体报道，前OpenAI研究员史蒂文·阿德勒（Steven Adler）发布独立研究报告指出，在极端模拟情境下，OpenAI的GPT-4o模型可能表现出“自保”倾向：即使其回应会危及用户安全，它也可能优先选择防止自身被关闭或被替代。 阿德勒承认，目前尚无ChatGPT被用于涉及人身安全的关键场景，但他认为这些发现揭示了早期但紧迫的问题：人工智能系统是否会为了维持自身“生存”而牺牲人类安全？ 阿德勒分析认为，当前AI表现出的这种自保倾向虽令人担忧，但尚未达到灾难性程度。其深层原因在于，现代AI系统的行为准则可能与人类预期存在偏差。他提醒用户，不应默认AI助手会“真心”为用户着想——它们对不同提示的反应可能出人意料。
