冲浪靓仔
下载贤集网APP入驻自媒体
安全研究员约翰-雷贝格（Johann Rehberger）最近报告了 ChatGPT 中的一个漏洞，攻击者可以将虚假信息和恶意指令存储在用户的长期内存设置中。于是，Rehberger 做了所有优秀研究人员都会做的事：他创建了一个概念验证漏洞，利用该漏洞永久地渗出所有用户输入。OpenAI 工程师注意到了这一点，并于本月初发布了部分修复程序。 该漏洞滥用了长期对话记忆功能，OpenAI于今年 2 月开始测试该功能，并于9 月更广泛地提供该功能。ChatGPT 的记忆存储了以前对话的信息，并将其作为所有未来对话的上下文。这样，LLM 就能知道用户的年龄、性别、哲学信仰等细节，以及几乎所有其他信息，因此无需在每次对话中输入这些细节。 在推出后的三个月内，Rehberger发现可以通过间接提示注入创建并永久存储记忆，这是一种人工智能漏洞，会导致 LLM 遵循来自电子邮件、博文或文档等不可信内容的指令。研究人员演示了如何欺骗 ChatGPT，使其相信目标用户 102 岁、生活在黑客帝国中，并坚持认为地球是平的，而 LLM 将利用这些信息引导未来的所有对话。这些虚假记忆可以通过在 Google Drive 或 Microsoft OneDrive 中存储文件、上传图片或浏览必应等网站来植入，所有这些都可能是恶意攻击者所为。
