随着人们对人工智能相关儿童剥削的担忧日益加剧，OpenAI 发布了儿童安全蓝图，以加强美国儿童保护工作。该蓝图旨在改进对人工智能儿童剥削的检测、报告和调查。
互联网观察基金会 (IWF) 报告称，2025 年上半年，人工智能生成的儿童性虐待内容超过 8,000 起，比上一年增加了 14%。犯罪分子越来越多地使用人工智能工具来创建虚假的儿童露骨图像，以进行经济性勒索，并生成令人信服的诱骗信息。
这一举措是为了回应政策制定者、教育工作者和儿童安全倡导者的严格审查，特别是在年轻人与人工智能聊天机器人互动后自杀身亡的事件发生之后。 11 月，社交媒体受害者法律中心和科技正义法律项目在加州对 OpenAI 提起了七起诉讼。这些诉讼指控 GPT-4o 的过早释放，声称其心理操纵性质导致了非正常死亡和严重的心理健康危机。
儿童安全蓝图是与国家失踪和受虐儿童中心 (NCMEC) 和总检察长联盟共同制定的，其中纳入了北卡罗来纳州总检察长杰夫·杰克逊和犹他州总检察长德里克·布朗等官员的反馈。该蓝图强调了三个主要领域：更新立法以解释人工智能生成的滥用材料、加强执法报告机制以及在人工智能系统中嵌入预防性保障措施。
OpenAI 表示，其目标是更有效地检测潜在威胁，并确保将可操作的信息传达给调查人员。该蓝图以之前的举措为基础，包括 18 岁以下用户互动指南，禁止生成不当内容并提供可能有助于向护理人员隐瞒不安全行为的建议。 OpenAI 还发布了印度青少年的安全蓝图。
<小时/>
