US Defense Secretary Pete Hegseth is pressuring Anthropic to provide the military with unrestricted access to its Claude artificial intelligence model, according to a report from Axios.据报道，Hegseth 告知 Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei)，该公司必须在周五之前授予五角大楼完全访问权限，否则将面临重大处罚。这些威胁包括援引《国防生产法》、切断现有合同以及将 Anthropic 指定为供应链风险。这样的指定将迫使其他国防承包商证明他们在工作流程中没有使用克劳德。
五角大楼的需求集中在军方对克劳德进行最敏感行动的依赖上。一名国防官员告诉 Axios，军方立即需要 Anthropic 的技术，因为它是目前唯一用于高度机密工作的人工智能模型。这位官员指出，“我们仍在与这些人交谈的唯一原因是我们需要他们，而且我们现在就需要他们。”据报道，克劳德曾被用于特定的军事行动，包括针对委内瑞拉尼古拉斯·马杜罗的袭击。 Anthropic 已提出将其标准使用政策应用于五角大楼合同，但对某些应用程序划定了界限。该公司表示，不会允许其模型用于对美国公民的大规模监视或用于在没有人类监督的情况下运行的自主武器系统。
在有关五角大楼施压活动的消息传出的同一天，Anthropic 宣布对其安全协议进行重大改革。该公司透露，正在修改其负责任的扩展政策（RSP），有效降低之前建立的安全护栏。多年来，Anthropic 对消费者和商业合作伙伴的核心承诺是，如果无法提前保证特定的安全基准，它将停止新人工智能模型的训练。之前的政策依赖于“硬绊线”，旨在在达到某些风险阈值时立即停止开发。
更新后的政策以更灵活的方式取代了这些严格的红线。 Anthropic 的新框架依赖于“风险报告”和“前沿安全路线图”，而不是自动暂停开发。 Anthropic 在一份声明中解释说：“两年半后，我们诚实的评估是，这一变革理论的某些部分已经按照我们的希望发挥作用，但其他部分却没有。”该公司认为，为了在快速发展的市场中保持竞争力，这种转变是必要的。
Anthropic 首席科学官贾里德·卡普兰 (Jared Kaplan) 在接受《时代》杂志采访时为这一决定进行了辩护。卡普兰表示，在竞争对手继续前进的同时，单方面暂停开发将会适得其反。卡普兰说：“我们认为停止训练人工智能模型对我们来说实际上并没有什么帮助。” “随着人工智能的快速发展，我们并不真正认为，如果竞争对手正在领先，我们做出单方面承诺是没有意义的。”
Anthropic将“集体行动问题”视为政策改变的主要动机。该公司认为，如果一个开发人员为了安全而暂停，而其他开发人员在没有采取强有力的缓解措施的情况下继续进行，那么生态系统的整体安全性可能会下降。根据更新后的RSP，“保护最弱的开发商将引领步伐，负责任的开发商将失去进行安全研究和促进公共利益的能力。” Anthropic 还指出，美国更广泛的反监管环境是影响其决定的一个因素。
财务环境凸显了公司面临的竞争压力。 2 月份，Anthropic 获得了 300 亿美元的新投资，使其总估值达到 3800 亿美元。该公司的最新型号，尤其是编码能力，受到了广泛的赞誉。然而，这种增长与企业精神的转变同时发生。虽然 Anthropic 之前的安全承诺是其品牌的基石，但新方法将继续培训置于硬停止之上。
非营利组织 METR 的主任 Chris Painter 对 Anthropic 的新政策做出了褒贬不一的评价。 Painter 赞扬了对透明度的日益重视，但警告说，新 RSP 的灵活性可能会导致“温水煮青蛙”效应。这种现象描述了这样一种情况：安全标准通过一系列合理化逐渐被侵蚀，最终导致与最初的安全目标的重大背离。
佩因特进一步将这一政策转变解读为更广泛的行业困境的信号。他指出，这些变化表明 Anthropic“认为其安全计划需要转变为分类模式，因为评估和减轻风险的方法跟不上能力的步伐。”佩因特的结论是，这一发展证明社会可能没有为应对这一变化做好充分准备。与先进人工智能相关的潜在灾难性风险。 Anthropic 关于 RSP 的声明和对五角大楼要求的报道都没有明确地将这两件事联系起来，尽管它们在同一天发生的时间引起了人们对政府压力和企业安全政策交叉点的关注。
<小时/>
