ChatGPT 的开发人员设计了这款记忆工具，通过在对话中保留个人信息来改善用户体验。但与许多机会一样，它也伴随着风险。安全专家最近发现了一种黑客可以用来向 ChatGPT 注入虚假记忆的技术，使用户面临数据被盗的危险。
问题出在 ChatGPT MacOS 应用程序中，敌对方可以注入提示来改变 AI 对其用户的记忆。结果，信息被存储起来，然后被带到黑客的服务器。尽管这个问题看起来很严重，但由于 OpenAI 采取了多项措施来保护用户，它可能并不像乍一看那么可怕。
ChatGPT 记忆系统的主要弱点
Embrace The Red 的研究员 Johann Rehberger 在一份详尽的报告中详细介绍了这一漏洞。Rehberger 展示了攻击者如何注入提示以将恶意指令保存在 ChatGPT 的内存中。简而言之，黑客可能会诱使该应用程序记住不正确的信息，从而使敏感数据在未来的交换中面临风险。
该漏洞不安全，因为它允许攻击者在多次攻击中管理 ChatGPT 的内存。只要虚假内存仍嵌入在系统中，黑客就可以提取任何用户数据（从偏好到姓名和语言环境）。
幸运的是，这种攻击并不普遍。OpenAI 已经解决了这个漏洞，让黑客更难利用内存功能。然而，漏洞仍然存在，尤其是来自第三方工具和应用程序的漏洞，这暴露了潜在的操纵新领域。
修复和剩余漏洞
OpenAI 针对已识别的内存问题推出了 ChatGPT Web 版本的 API 更新，从而阻止了通过浏览器界面使用提示注入漏洞。此外，他们还发布了内存工具的更新，阻止其成为泄露媒介。这些改进对于系统保持高水平的安全性是必要的，即使潜在风险仍然存在。
第三方应用程序仍然是引起警惕的最大原因。尽管 OpenAI 的修改已经解决了其核心系统中的内存滥用问题，但安全研究人员警告称，不受信任的内容仍然可以通过连接的应用程序、文件上传和浏览工具操纵 ChatGPT 的内存。这代表着即时注入可能进一步盛行的领域。
如何保护自己
尽管 OpenAI 的调整已经降低了大规模攻击的威胁，但用户仍应保持警惕。以下是一些保护自己免受潜在记忆黑客攻击的方法：
- 定期回顾你的 ChatGPT 记忆：用户应经常检查 ChatGPT 应用中的“新添加的内存”通知。此功能允许您查看已存档的信息，让您有可能消除可疑条目。
- 如果不需要则禁用内存：ChatGPT 自动启用记忆功能，但您可以选择停用它。这种方法很简单，但足以消除基于记忆的攻击风险。
- 警惕第三方互动：如果您正在使用连接的应用程序或将文件上传到 ChatGPT，则应格外小心。这些区域继续更容易受到快速注入攻击。
虽然没有任何系统可以完全免受威胁，但谨慎并定期检查存储的记忆可以降低遭受此类攻击的可能性。
ChatGPT 提升记忆安全性
ChatGPT 保留用户数据以提供个性化服务，这为其提供了强大的工具。通过这种方法，系统可以记住偏好、回忆过去的谈话，甚至承认特定的喜好或厌恶，以便制作更好的答案。然而，这种能力也带来了风险。ChatGPT 长期保留信息，使其自身暴露在潜在的操纵之下，通过即时注入。
Rehberger 报告称，黑客只需一次操作就能生成各种虚假记忆。这些记忆在传递后会保留在 ChatGPT 中，可能会影响未来与 AI 的所有通信。假设用户持续信任聊天机器人可能会有风险，因为用户可能会在不知情的情况下意外分享更多个人信息。
尽管 OpenAI 在应对这些挑战方面取得了巨大进展，但仍存在一些未解决的问题。例如，平台中的几个部分仍然面临即时注入攻击的风险，尤其是当未经验证的第三方内容进入讨论时。该公司决定不将此归类为“安全漏洞”，而是归类为“模型安全问题”，这引起了专家们的关注。
定期监测：您的最佳防御手段
尽管存在内存漏洞，用户仍必须采取额外措施来保护其信息。以下是一些可供您选择的选项：
- 检查所有“内存更新”通知：每当 ChatGPT 通知您有关内存更新时，请暂停以查看已保存的内容。此功能有助于识别正在保存的任何不必要的信息。
- 删除不想要的记忆：用户对 ChatGPT 的内存拥有完全控制权。如果您发现异常，请将其消除，以防止潜在的损害。
- 利用第三方工具保持警惕：监控 ChatGPT 与第三方应用程序之间的任何连接。这些工具仍然容易受到操纵，因为 OpenAI 的努力并没有消除这些领域被迅速注入的可能性。
记忆黑客：不仅仅是一个错误？
ChatGPT 中发现的内存漏洞表明，旨在增强用户体验的 AI 工具可能会带来额外的安全风险。基于内存的特性可以实现个性化交互，但允许黑客滥用这些交互以达到恶意目的。
随着 ChatGPT 的进展，用户应保持注意力，持续检查已保存的记忆，并在与外部内容互动时保持谨慎。尽管 OpenAI 已显著提高安全性，但仍需要付出更多努力来解决现有的漏洞。通过意识到潜在的危险并采取主动行动，您仍然可以与 ChatGPT 进行个性化互动，同时确保您的数据保持安全。
特色图片来源: 免费图片
Source: ChatGPT 内存被黑客入侵：人工智能安全漏洞让你重新评估你的信任程度