埃隆·马斯克 (Elon Musk) 一个孩子的母亲阿什利·圣克莱尔 (Ashley St. Clair) 周四对 xAI 提起诉讼。该诉讼指控该公司疏忽并通过其人工智能工具 Grok 造成情绪困扰。 St. Clair 声称，Grok 允许用户生成她露骨姿势的深度伪造照片，包括穿着比基尼的儿童和摆出露骨姿势的成年人的照片。
St. Clair 已向 xAI 通报了这些非法深度造假事件，并要求阻止 Grok 创建未经同意的图像。根据诉讼，格罗克回应确认，未经明确同意，她的图像不会在任何后代或回应中使用或更改。尽管如此，据称 xAI 仍继续允许用户生成由人工智能生成的更清晰的她图像。该诉讼进一步指控 xAI 通过取消她的 X 账户的货币化来进行报复。
该诉讼是在纽约州法院提起的，但根据 xAI 的请求，该诉讼很快转移到纽约联邦南区法院。 X 和 xAI 没有立即回应置评请求。
在提交申请的前一周，X 限制了 @Grok 回复机器人的功能。这一变化似乎是为了防止它生成在未经同意的情况下将可识别的人放在暴露的泳衣或内衣上的图像。截至报告发布时，这些不受限制的功能在独立的 Grok 应用程序、Grok 网站和 X 上的 Grok 选项卡上仍然有效。
研究人员报告称，一周前，Grok 每小时生成数千张由人工智能生成的性化图像。其中许多图像都在 X 上公开发布。该工具能够生成未经同意的深度伪造品，包括从上传的照片中去除衣服并用比基尼或内衣代替，这引起了数周的强烈反对。
这些图像的广泛创作和传播引起了全球的反应。一些政府发起了调查，有人呼吁智能手机应用市场禁止或限制 X。在加利福尼亚州，当局发起了所谓的“Chuck”调查。州长加文·纽瑟姆 (Gavin Newsom) 在 X 上发帖表示，“xAI 决定为掠夺者创建和托管一个滋生地，以传播非性交的露骨 AI 深度伪造品，包括以数字方式脱掉儿童衣服的图像，这是卑鄙的。”
St. Clair 的诉讼将 Grok 制造未经同意的深度赝品的功能描述为设计缺陷。它声称该公司本可以预见到它会用非法图像来骚扰人们。诉讼称，包括圣克莱尔在内的被描绘者遭受了极度痛苦。它指责xAI“行为极端且无耻，超越了一切正派的界限，在文明社会中是完全无法容忍的”。
