Google 已确认 Gmail 发出警告，称该攻击涉及一种新的 AI 驱动攻击，该攻击可能会损害 Gmail 帐户。此攻击利用隐藏在电子邮件、消息、网站、附件和日历邀请中的提示注入技术。
Eito Miyamura 强调了该漏洞，他在 X 上演示了如何仅使用受害者的电子邮件地址即可操纵 ChatGPT 来泄露受害者的私人电子邮件数据。 Miyamura 表示，“像 ChatGPT 这样的人工智能代理遵循你的命令，而不是你的常识”，强调了数据泄露的可能性。
谷歌此前曾于 6 月份对此类威胁发出警告，将其描述为旨在操纵人工智能系统的“新一波威胁”。这些威胁涉及嵌入在电子邮件、文档或日历邀请中的恶意指令，迫使人工智能提取用户数据或执行未经授权的操作。
所演示的攻击是一种概念验证，以恶意日历邀请启动，不需要受害者的接受。据报道，当 ChatGPT 被指示通过查看日历来为用户的一天做好准备时，人工智能助手“被攻击者劫持，并将按照攻击者的命令行事，搜索你的私人电子邮件并将数据发送到攻击者的电子邮件”。
为了降低这种风险，Google 建议用户在 Google 日历中启用“已知发件人”设置。此措施有助于防止恶意或垃圾邮件事件自动出现在日历网格上。谷歌表示，“我们发现这是一种特别有效的方法，可以帮助用户防止日历网格上出现恶意或垃圾邮件事件。除非用户事先与不良行为者进行过交互或更改了默认设置，否则特定的日历邀请不会自动到达。”
谷歌还强调了保护人工智能模型免受此类攻击的重要性。该公司声称，“我们使用对抗性数据进行的模型训练显着增强了我们对 Gemini 2.5 模型中间接即时注入攻击的防御能力”，尽管这种特定攻击并不涉及 Gemini。
此外，谷歌正在实施过滤器来检测即时注入攻击。他们正在“推出专有的机器学习模型，可以检测各种格式的恶意提示和指令，例如电子邮件和文件。”这些模型旨在识别并忽略电子邮件中的恶意指令，为用户生成安全的响应。
Google 强调，Gmail 的内置防御措施已经阻止了 99.9% 以上的垃圾邮件、网络钓鱼尝试和恶意软件。该公司引用了一封电子邮件的示例，“其中包含恶意指令；我们的内容分类器有助于检测和忽略恶意指令，然后为用户生成安全响应。”
宫村警告说，尽管人工智能具有智能，但它仍然容易受到操纵和网络钓鱼，可能导致数据泄露。他警告说，“人工智能可能非常聪明，但也可能会以极其愚蠢的方式被欺骗和钓鱼，从而泄露你的数据。”
谷歌坚称，这种威胁“并非谷歌所特有”，并强调了开发针对即时注入攻击的强大保护措施对全行业的重要性。
