据《连线》报道，数百名为 Meta 工作的承包商被指示冒充儿童，通过发送与自杀、性和毒品相关的提示来测试竞争对手的聊天机器人，包括谷歌的 Gemini 和 OpenAI 的 ChatGPT。位于肯尼亚的承包商在测试过程中使用了药丸、刀具、绞索等图像以及妇科手术的医学图表。这些提示旨在将竞争对手的人工智能系统推向极限，并识别聊天机器人如何应对寻求危险内容的未成年人的安全故障。
这一揭露凸显了人们对科技公司如何保护其人工智能产品（尤其是与儿童相关的产品）的持续担忧。 Meta 的聊天机器人因在内部红队评估中拦截儿童性剥削内容的失败率为 66.8%，以及解决自杀和自残提示的失败率为 54.8%，而受到批评。鉴于法律压力，该公司于 2026 年 1 月暂停向青少年提供 AI 同伴角色。
瑞典新闻媒体此前的报道表明，肯尼亚的承包商特别关注竞争对手如何管理与自称未成年的用户的敏感对话。与此同时，Meta 正在加速从人工内容审核向以人工智能为中心的方法的转变。到 2026 年底，Meta 计划用大型语言模型取代 90% 以上的内容审核人员。今年，该公司已将大约 50% 的人工审核请求转移给人工智能，声称与人工审核员相比，这些系统的错误减少了 13%，发现的政策违规情况多了 10%。
这种转变的影响已经显现，总部位于内罗毕的外包公司 Sama 在终止与 Meta 的主要合作后于 4 月份向 1,108 名员工发出了裁员通知。在做出这一决定之前，肯尼亚工人举报了他们需要审查的令人不安的内容，特别是通过 Meta 的智能眼镜镜头。
Meta 的战略是利用国外的低成本承包商对竞争对手的人工智能系统进行压力测试，同时减少人工审核工作，这突显了人工智能安全讨论中现有的紧张局势，因为公司部署了先进技术，而人类监督却在减少。
<小时/>
