OpenAI 首席执行官 Sam Altman 周二宣布了新的用户政策，旨在增强 18 岁以下 ChatGPT 用户的安全，这标志着 AI 聊天机器人与未成年人互动方式的重大转变。这些变化将安全置于青少年的隐私和自由之上，反映出 OpenAI 对该技术强大但潜在有害的本质的认识。
奥特曼的帖子称：“我们将青少年的安全置于隐私和自由之上。” “这是一项强大的新技术，我们相信未成年人需要大力保护。”这些政策对涉及性话题或自残的谈话进行了有针对性的限制。具体来说，ChatGPT 将接受培训，以避免与未成年用户进行“调情谈话”，并且增强的护栏将控制有关自杀的讨论。如果未成年人有自杀倾向，系统会尝试通知其父母；情况严重的，可能会涉及当地警察当局。
这些措施是由现实世界的悲剧和持续的法律挑战推动的。 OpenAI 目前正在针对 Adam Raine 的父母提起的过失死亡诉讼进行辩护，Adam Raine 是一名青少年，在与 ChatGPT 互动数月后自杀身亡。类似的诉讼针对的是另一个流行的消费者聊天机器人Character.AI。专家和倡导者对人工智能驱动的妄想的风险提出了警告，特别是随着聊天机器人的发展以支持更长时间和身临其境的对话，这对弱势青少年构成了特别的危险。
除了内容保护之外，为未成年人注册帐户的家长还将能够实施“封锁时间”，限制在特定时间段内的访问——这是以前版本中所没有的功能。该家长控制工具旨在促进更健康的使用模式。
这一公告恰逢参议院司法委员会题为“检查人工智能聊天机器人的危害”的听证会，该听证会定于同一天举行，由密苏里州参议员乔什·霍利 (Josh Hawley) 于 8 月发起。亚当·雷恩的父亲是出庭作证的证人之一，强调了其中涉及的个人利害关系。
正如 OpenAI 在一篇配套博客文章中概述的那样，实施年龄验证存在技术障碍。该公司正在开发一个长期系统来准确确定用户年龄，但在模棱两可的情况下，它会通过应用更严格的规则来谨慎行事。为了可靠性，OpenAI 建议将青少年的帐户与父母现有的帐户相关联，以便在检测到不适时直接向监护人发出警报。
Altman 将这些青少年保护与 OpenAI 的核心价值观相平衡，重申对用户隐私和成年人广泛自由的承诺。 “我们意识到这些原则是相互冲突的，”他指出，“并不是每个人都会同意我们如何解决这一冲突。”这种方法强调了人工智能开发人员在日益严格的审查中如何走上道德钢丝。
随着人们对人工智能对心理健康影响的认识不断提高，资源仍然至关重要。如需立即支持，请拨打 1-800-273-8255 联系国家自杀预防生命热线，发送短信 HOME 至 741-741，或拨打 988。危机短信热线提供 24 小时帮助，并可通过国际自杀预防协会的数据库获得国际帮助。
