OpenAI 已批准《儿童在线安全法案》(KOSA)，作为其为儿童安全制定“人工智能特定规则”的承诺的一部分。此次认可恰逢 KOSA 于 2024 年在参议院获得通过；该法案于 2022 年首次提出。
KOSA 要求社交媒体公司和在线平台加强对儿童的保护。当前版本要求社交媒体应用程序允许未成年人选择退出“令人上瘾”的功能和算法推荐。在线平台还将有“注意义务”来处理与饮食失调、自杀和性剥削有关的有害内容。
其他科技公司，包括苹果、微软、Snap 和 X，也表达了对 KOSA 的支持。相反，拥有 Meta 等成员的贸易组织 NetChoice 反对该法案，声称该法案可能会导致审查制度，而不会增强儿童安全。电子前沿基金会等隐私和数字权利组织也对 KOSA 表示反对。
OpenAI 表示 KOSA 是对其已有安全措施的“补充”。首席全球事务官 Chris Lehane 强调了更强有力的保障措施的重要性，并指出：“我们不能重复社交媒体兴起期间所犯的错误，当时，在这些平台已经深深植根于年轻人的生活之前，没有为青少年提供更强有力的保障措施。”
目前，OpenAI 面临多起诉讼，指控与 ChatGPT 相关的安全漏洞。一起诉讼涉及一名青少年与聊天机器人讨论自杀计划后，一家人声称非正常死亡。另一起诉讼称，由于 ChatGPT 提供的医疗建议不佳，一名青少年意外服用过量药物。
<小时/>
