一名黑客利用 Anthropic 的 Claude 聊天机器人攻击墨西哥政府机构，窃取了 150GB 的官方数据。被盗信息包括纳税人记录和员工凭证。网络安全公司 Gambit Security 发现了这些攻击，这些攻击从 12 月开始，持续了大约一个月。黑客利用 Claude 查找政府网络中的漏洞、编写漏洞利用脚本并自动窃取数据。
攻击者通过提示越狱了克劳德，绕过了其安全护栏。聊天机器人最初拒绝了这些请求，但最终还是答应了。 Gambit Security 首席战略官柯蒂斯·辛普森 (Curtis Simpson) 表示，克劳德制作了数千份详细报告，其中包含准备执行的攻击计划。这些计划指定了内部目标和要使用的凭据。
Anthropic 调查了这一活动，扰乱了它，并禁止了所有涉及的帐户。公司代表表示，最新型号 Claude Opus 4.6 包含防止此类误用的工具。黑客还使用 OpenAI 的 ChatGPT 来补充攻击。他们收集有关网络移动、凭证访问和检测规避的信息。 OpenAI 发现了黑客试图违反使用政策的行为，并表示其工具拒绝遵守。
黑客的身份仍然不明。 Gambit Security 表示，这些攻击可能与外国政府有关。被盗数据的意图尚不清楚。墨西哥国家数字机构尚未发表评论，但指出网络安全是当务之急。哈利斯科州政府否认遭到破坏，声称只有联邦网络受到影响。墨西哥国家选举机构也否认有任何违规行为或未经授权的访问。
Gambit Security 在研究过程中发现了至少 20 个安全漏洞。这并不是克劳德第一次被用于网络攻击。去年，中国的黑客利用它渗透了数十个全球目标，其中一些成功了。 Anthropic 最近放弃了其长期的安全承诺，该承诺承诺在没有充分安全措施保证的情况下不会训练人工智能系统。
<小时/>
