想象一下，有一天早上醒来，看到 18 年前被谋杀的女儿变成了人工智能聊天机器人的面孔……不幸的是，未经授权使用死者面孔和姓名的例子越来越多。如果你是名人，你可以立即与你的律师解决这种情况。例如，OpenAI未经许可试图使用斯嘉丽·约翰逊的声音，他们不得不立即撤回。但当一个普通人遇到这样的情况时会发生什么呢？詹妮弗·安·克雷森特 (Jennifer Ann Crecente) 的家人正在经历这场闹剧，他们自己而不是法律承担着这一负担。不幸的是，法律对这项新技术的缓慢适应给那些留下来的人带来了不必要的痛苦。
我们的报告将解决这些案件中的关键法律挑战，并强调为什么不能视而不见。其影响太严重了，忽视它们只会让这种不公正现象继续下去。尤其是，在一位名叫詹妮弗的年轻女孩去世18年后，人工智能聊天机器人未经授权使用了她的名字和照片，这是这场辩论中最痛苦的例子之一。您可以在这里找到她叔叔关于此事的完整声明。
当人工智能将你失去的亲人变成聊天机器人
詹妮弗·安·克雷森特 (Jennifer Ann Crecente) 年仅 18 岁，她的生命就不幸结束了。詹妮弗·安·克雷森特 (Jennifer Ann Crecente) 的家人多年来一直在为失去女儿而苦苦哀悼。据她的叔叔说，她父亲以詹妮弗的名义开展的教育项目以及参加电子游戏设计比赛是让她保持记忆的重要方式。然而，一天早上，詹妮弗的叔叔被一封电子邮件震惊了。在基于人工智能的聊天机器人平台 Character.ai 上，使用 Jennifer 的名字和面孔创建了一个机器人。没有征求家人的同意，当他们知道后，他们再次感到痛苦。
在家人采取必要的行动后，聊天机器人变得无法访问。然而，为什么家庭有责任采取这些行动呢？詹妮弗的叔叔在社交媒体上公开了这一事件后，该机器人才被撤下。如果他没有这样做怎么办？
感谢您让我们注意到这一点。 https://t.co/Ft9b0j47zQ 有禁止冒充的政策，而使用 Crecente 女士名字的角色违反了我们的政策。我们将立即删除它，并将检查是否有必要采取进一步行动。
——Character.AI (@character_ai) 2024 年 10 月 2 日
正如 Brian Crecente 在他的博客文章中写道：“出于某种原因，看到我的 Jenny-Penny 的笑脸贴在人工智能网站上她的名字旁边，用作聊天机器人的身份，我感到很震惊。我仍然能感觉到它，就像一股冷热的浪潮席卷着我。”
这种情况说明了个人的痛苦以及巨大的法律和道德问题。那么我们为什么会面临这些情况呢？
死者和留守者的权利得不到保障吗？
未经授权使用死者的姓名、面孔和个性给现行法律造成了巨大漏洞。在大多数国家，虽然生者的个人权利受到严格保护，但对死者却没有这样的保护。这意味着家人对未经授权使用亲人的姓名和面孔几乎无能为力。从法律角度来看，在大多数国家，此类情况不能被视为滥用或侵犯权利，这是一个大问题。
父亲对模仿他被谋杀的女儿的人工智能聊天机器人感到震惊 @福布斯 https://t.co/LoypMNg7uz
— 布莱恩·克雷森特 (@crecenteb) 2024 年 10 月 2 日
正如克雷森特所说：“问题是，我们为什么要保持韧性？为什么价值数十亿美元的公司不费心去制定道德的指导原则和有效的护栏来防止这种情况发生？为什么要由悲伤和受屈的人向公司报告此事，并希望他们在事后做正确的事情呢？”
这些问题指出了法规中令人沮丧的漏洞，以及它们给詹妮弗的家人和其他处于类似情况的人带来的绝望。
由于监管空白人工智能利用死者
这些情况会产生我们不能忽视的法律和人道后果。此类事件再次动摇了死者家属为保存亲人记忆所做的努力。鉴于人工智能技术的进步大多不受监管，我们可能会遇到更多人工智能工具未经同意使用个人个性、姓名和图像的情况。立法者和监管者必须立即采取行动解决这些问题。
正如这个不幸的案例所示，人工智能技术的滥用危及了人类的本质，商业利益优先。法律必须迅速规范这些问题，公司必须认真履行其道德责任，以防止进一步的伤害和滥用行为。
图片来源：布莱恩·克雷森特（Brian Crecente）来自 Padandpixel
Source: 当人工智能盗墓，死后权利之争开始