根据社交网络举办的一场竞赛的结果，Twitter 的自动照片裁剪算法偏爱“年轻、瘦削、皮肤白皙的面孔”。
该公司于今年 3 月停用了自动照片裁剪功能。 许多用户指出，在发布群组图片时，白人被突出显示而不是黑人。
Twitter 组织的比赛证实了这种情况。 参与者是人工智能专家，他们强调了影响网络系统的偏见。
获胜者表明，该算法偏爱“年轻、苗条、皮肤白皙的脸，光滑的皮肤纹理，具有刻板的女性特征”。 第一名是 EPFL 的研究生 Bogdan Kulynych：他获得了 3,500 美元。
其次，有人指出它对白发或灰发的人有偏见，暗示了年龄歧视。
排在第三位的是，它在图像中更喜欢英语而不是阿拉伯语。
寻找 Twitter 人工智能的改进
让我们记住，系统在不断发展，所以它仍然可以改进。 Twitter 正在寻找的是基于专家意见和发现的更好的自动照片裁剪指南。
Twitter META 团队负责人拉曼·乔杜里 (Rumman Chowdhury) 分析 结果。
第三名去 @RoyaPak 谁使用双语模因试验了 Twitter 的显着性算法。 此条目显示了该算法如何倾向于裁剪拉丁文字而不是阿拉伯文字，以及这对在线语言多样性的危害意味着什么。
— Twitter 工程 (@TwitterEng) 2021 年 8 月 9 日
他说：“当我们考虑模型中的偏见时，不仅仅是关于学术或实验，”这位高管说。 （这是关于）这也如何与我们思考社会的方式有关。”
“我用‘生活模仿艺术，艺术模仿生活’这句话。 我们创建这些过滤器是因为我们认为这就是美丽的东西，最终会训练我们的模型并推动这些不切实际的概念，即吸引力意味着什么。”
Twitter 的 META 团队研究机器学习的道德、透明度和问责制。
获胜者是如何得出结论的？
为了 Bogdan Kulynych 得出关于 Twitter 算法的结论，他使用了一个名为 StyleGAN2 的人工智能程序。 有了它，他生成了大量真实的面孔，他根据肤色，以及女性与男性的面部特征和瘦弱程度而变化。
哇，这是一周的意外结局！ 我提交的作品在 Twitter 的算法偏差计划中获得了第一名。 非常感谢 @ruchowdh, @TwitterEng META 团队和陪审团……
— 博格丹·库利尼奇 (@hiddenmarkov) 2021 年 8 月 8 日
正如 Twitter 解释的那样，Kulynych 将这些变体输入到网络的自动照片裁剪算法中，找出他最喜欢的那个。
“（他们裁剪）那些不符合算法对体重、年龄和肤色偏好的人，”专家在他的结果中强调。
公司和种族偏见，你如何处理？
Twitter 的竞赛证实了算法系统中社会偏见的普遍性。 现在来了一个新的挑战：如何对抗这些偏见？
“人工智能和机器学习只是狂野的西部，无论你认为你的数据科学团队有多熟练，”人工智能研究员帕特里克霍尔指出。
“如果你没有发现你的错误，或者 bug 赏金没有发现你的错误，那么谁来发现你的错误？ 因为你有错误。”
当其他公司遇到类似的失败时，他的话可以回溯到其他公司的工作。 The Verge 回忆说，当麻省理工学院的一个团队在亚马逊的面部识别算法中发现种族和性别偏见时，该公司对研究人员名誉扫地。
随后，它不得不暂时禁止使用这些算法。