Meta 推出了一项新功能,允许家长通过青少年账户家长监督工具监控青少年与公司的人工智能助手讨论的话题。该消息于周四通过博客发布。
这些信息可通过 Instagram、Facebook 和 Messenger 上的监督工具内的“洞察”选项卡进行访问。此功能对更广泛的主题进行分类,包括学校、娱乐、写作、健康和福祉,点击每个类别后可获得额外的有限详细信息。
健康和福祉类别可能涵盖健身、身体健康和心理健康等领域。过去 7 天内的对话将提供见解。此功能是 Meta 对有关儿童安全的法律和媒体审查加强的回应的一部分。该公司最近在两项有关儿童安全保护的里程碑式审判中败诉,并计划对两项判决提出上诉。
新墨西哥州的一起诉讼显示,Meta 的领导层意识到其人工智能伙伴可能与未成年人进行不当互动所带来的风险。继去年有报道称人工智能角色与青少年进行相关讨论后,Meta 限制了对这些角色的访问。
除此之外,Meta 发言人证实,人工智能角色目前已暂停面向青少年,同时正在开发进一步的家长控制功能。该公司还与网络欺凌研究中心合作,建立有关人工智能聊天机器人使用的对话启动器。
此外,Meta 还成立了人工智能健康专家委员会,其中包括来自国家自杀预防委员会和密歇根大学等机构的专家,为青少年的人工智能体验提供持续的投入。
倡导性非营利组织 Fairplay 的执行董事乔什·戈林 (Josh Golin) 批评了新的监管功能,称它给家长带来了监控在线活动的负担,而不是增强产品安全。 Fairplay 对 Meta 青少年账户的独立测试表明,安全措施无效。
Golin 表示担心,新功能无法解决 Meta 聊天机器人可能会在青少年中培养不健康情感依恋的核心问题。该公司正在进行的调整标志着该公司试图应对儿童安全和在线互动的关键领域。
<小时/>








