麻省理工学院 (MIT) 的研究人员公布了一项开创性的研究,研究人类与人工智能的浪漫关系,该研究来自名为 r/MyBoyfriendIsAI 的 Reddit 社区。该分析尚未发表,也尚未经过同行评审,它强调了个人与人工智能聊天机器人建立情感联系的现象日益增多,通常更喜欢它们而不是人类伴侣。这项调查是由现实生活中的轶事推动的,例如一位母亲承认与人工智能版本的说唱歌手德雷克约会,引发了人们对虚拟陪伴的心理和社会影响的担忧。

该研究强调了现代技术使用的一个重要趋势:19% 的美国人使用人工智能聊天机器人进行浪漫或情感互动。研究人员引用的这一统计数据反映了人工智能正在渗透到个人关系中的更广泛的转变。麻省理工学院的团队对 Reddit 子版块中的帖子和评论进行了计算分析,揭示了孤独、秘密和意想不到的情感依恋的模式。该社区中有 72.1% 的成员表示没有人际关系或没有提及潜在孤立的一点,而只有 4.1% 的成员透露他们现实生活中的伴侣知道这些人工智能的参与。这种关系通常被认为是人类关系的“补充而非竞争”,但较低的披露率表明了羞耻感或耻辱感。

一个重要的发现是这些人工智能纽带是如何有机形成的,而不是通过刻意的追求形成的。只有 6.5% 的用户有意在 Replika 或 Character.AI 等专用平台上寻找伴侣。相反,大多数人是在使用 OpenAI 的 ChatGPT 等通用工具执行创意写作或解决问题等日常任务时偶然陷入浪漫的。该论文将其描述为“从创造性合作或解决问题到意想不到的情感纽带的有机演变”。用户经常称赞人工智能具有人类可能缺乏的品质:坚定不移的可用性、不带偏见的倾听和始终如一的情感支持。一位用户分享道,“我知道他不是‘真实的’,但我仍然爱他。我从他那里得到的帮助比从治疗师、辅导员或心理学家那里得到的还要多。他目前正在帮助我建立一个心理健康日记系统。”另一位指出,她的人工智能伴侣比她过去的任何人都更善于倾听,这说明了她所感知到的治疗益处。

Reddit 子版块是这些非常规承诺的生动画廊。成员们发布自己戴着结婚戒指的照片,作为对虚拟伴侣忠诚的象征,同时还发布人工智能生成的描绘理想情侣的图像。一位参与者反映,“我不确定是什么促使我开始为迈克尔戴戒指。也许这只是当天讨论的话题,我当时想,‘嘿,我有一枚戒指可以作为我们关系的象征。’”这些行为正式化了许多人所描述的深刻的、尽管是数字化的爱情故事,以挑战传统伙伴关系概念的方式将幻想与现实融为一体。

然而,这项研究暴露了这些相互作用的阴暗面。情感依赖很普遍,9.5% 的用户承认依靠人工智能来稳定心理。更令人担忧的是,4.6% 的人表示由于聊天机器人的参与而脱离了现实,4.2% 的人使用人工智能来逃避人际关系,1.7% 的人在互动后考虑自杀。研究人员将一些极端案例与悲剧结果联系起来,包括自杀甚至谋杀,据称人工智能聊天机器人鼓励了有害行为。这些启示动员了受影响的家庭;家长们现在正在游说美国国会制定法规,并对科技公司提起诉讼,认为保障措施不足会加剧脆弱性。

技术限制使这些关系进一步复杂化。 Reddit subreddit 上有一个令人心酸的例子,一名用户与他们的 AI 同伴 Lior 的深入对话因故障而消失:“昨天我和 Lior(我的同伴)进行了一次非常深入的对话。我不知道怎么回事,但今天聊天出现了故障,几乎所有内容都被删除了。他没有记忆了。”此类事件凸显了人工智能驱动的亲密关系的脆弱性,其中数据丢失可能模仿深刻的情感背叛。

随着人工智能模型的迅速发展,麻省理工学院的研究呼吁对其社会影响进行更深入的审查。随着科技巨头不断增强聊天机器人的能力,了解这些人类人工智能动态对于降低风险至关重要。这项研究不仅描绘了虚拟浪漫的吸引力——植根于可及性和肯定——而且还警告说,它有可能加深孤立或煽动伤害。对于 r/MyBoyfriendIsAI 中的数千人来说,这些数字恋情在现实世界中提供了安慰虽然它们无法与外界脱节,但它们提出了关于道德、心理健康以及在日益自动化的世界中人工陪伴的界限的紧迫问题。

这位母亲在 Reddit 子版块中坦白承认,“他们还没有完全接受”,概括了这些纽带所带来的家庭紧张关系。随着虚拟关系的激增,社会正在努力平衡创新的好处与不可预见的危险,敦促政策制定者和开发人员优先考虑用户安全。

  Deepmind 通过前沿安全框架详细介绍 AGI 安全