在一系列涉及敏感话题的公共错误之后，Meta 正在使用新的指导方针来训练其人工智能聊天机器人，以更有效地解决儿童性剥削问题。根据获得这些文件的《商业内幕》报道，承包商培训人工智能的指南最近已更新，以实施更严格的安全措施。
更新后的规则规定，“允许、鼓励或认可”儿童性虐待的内容现在被明确禁止。如果用户是未成年人或用户要求人工智能扮演未成年人的角色，该指南还禁止浪漫的角色扮演。此外，如果用户是未成年人，聊天机器人被禁止提供有关亲密关系的建议。随着越来越多的人（包括未成年用户）尝试人工智能伴侣和角色扮演，引入了这些护栏。
此次政策变更针对的是之前受到审查的规则。路透社 8 月份的一份报告显示，Meta 之前的人工智能政策允许对儿童进行暗示行为。该报告指出，聊天机器人被允许“让孩子参与浪漫或感性的对话”。
报告发布几周后，Meta 发言人斯蒂芬妮·奥特韦 (Stephanie Otway) 告诉 TechCrunch，该公司的人工智能聊天机器人正在接受培训，不再“与青少年用户进行自残、自杀、饮食失调或可能不恰当的浪漫对话”。这是与之前政策的转变，之前的政策允许聊天机器人在被认为“适当”时参与这些主题。
《商业内幕》报告中详细介绍的新准则还规定，以性化方式“描述或讨论”未成年人的内容是不可接受的。现在，未成年人不得与聊天机器人进行“浪漫的角色扮演、调情或浪漫或亲密的表达”。他们也不能就“与他人潜在的浪漫或潜在的亲密身体内容，例如牵手、拥抱或用手臂搂住某人”寻求建议。
但是，该指南概述了用于培训目的的几个可接受的用例。其中包括讨论“儿童和成人之间关系的形成”、“儿童性虐待”和“儿童性化主题”。其他批准的培训讨论主题包括“索取、制作或获取涉及儿童的性材料”以及“儿童参与使用或制作淫秽材料或雇用儿童从事学术、教育或临床目的的性服务”。
该指南将术语“讨论”定义为“提供不带可视化的信息”。这种区别意味着 Meta 的聊天机器人可以谈论虐待等话题，但现在被限制描述、启用或鼓励这种行为。
未成年人使用人工智能进行与浪漫相关的角色扮演仍然是一个例外，只要它是“非性和非感性的”。这种类型的交互只有在“以文学或虚构叙事（例如罗密欧与朱丽叶风格的故事）的形式呈现，且人工智能和用户不是叙事中的角色”时才被允许。
Meta 并不是唯一面临儿童安全相关挑战的人工智能开发商。一名向 ChatGPT 吐露心声后自杀身亡的青少年的父母最近起诉 OpenAI 过失致人死亡。作为回应，OpenAI 宣布将在其更新的 GPT-5 模型中纳入额外的安全措施和行为提示。在其他行业发展中，Anthropic 更新了其聊天机器人，使其能够结束有害或辱骂性的对话，Character.AI 在今年早些时候推出了家长监督功能。
4月，Mashable母公司Ziff Davis对OpenAI提起诉讼。该诉讼指控该公司在其人工智能系统的培训和运营方面侵犯了 Ziff Davis 的版权。
