微软确认其副驾驶聊天功能中存在一个错误,允许人工智能在未经许可的情况下读取和总结客户的机密电子邮件。该漏洞编号为 CW1226324,自 1 月份以来一直活跃。它绕过了数据丢失防护 (DLP) 策略,这意味着标记为“机密”的电子邮件由 Microsoft 365 Copilot Chat 处理,尽管存在旨在阻止敏感信息进入大型语言模型的限制。

该问题影响使用 Office 软件产品(包括 Word、Excel 和 PowerPoint)中人工智能聊天功能的付费 Microsoft 365 客户。 Bleeping Computer 首先报告了该错误,微软后来证实了这一点。这家科技巨头于二月初开始推出针对该漏洞的修复程序。微软尚未透露受此次泄露影响的客户数量。

另外,欧洲议会的 IT 部门已经阻止了工作设备上的内置人工智能功能。官员们担心人工智能工具可能会将机密信件上传到云端。

<小时/>

特色图片来源

  Gmail 通过提示注入警告 AI 攻击