面部识别系统出现问题的原因有很多，其中最重要的是它们倾向于偏向某些人口统计群体和性别。最近，麻省理工学院的研究人员还进行了一项新研究，以研究AI对某些面部表情的偏见。研究人员声称，面部表情至少具有“至少”个特征。这与戴着围巾，帽子，假发或眼镜对面部识别系统的影响相同，并且在这方面，面部识别系统是根据高度偏向的数据集进行训练的。这项研究增加了越来越多的证据表明面部识别容易受到有害和广泛的偏见的影响。研究人员于去年秋天发表的一篇论文表明，亚马逊，微软和其他公司对男女同性性行为的AI准确率超过95％，但在38％的情况下，跨性别男性误认为女性。 “性别色彩计划”美国国家标准技术研究院（NIST）对主要供应商系统的独立基准测试表明，面部识别技术存在种族和性别偏见，并且当前的面部识别程序可能非常不准确，有时误分类率高达96％ 。在研究过程中，合著者使用三种不同的领先人脸识别模型进行了实验。这些模型包括VGGFace2（一个数据库，其中包含300万张超过9100人的照片）和MS1M-ArcFace（超过9100人）。在一个开源数据库上训练了580万张照片（共计85,000人）。他们将它们与四个语料库进行了比较，具体比例如下：●这种复杂的面部表情包含在实验室控制的环境中拍摄的230张照片。 ●扩展的Cohn-Kanade（CK +）是最广泛使用的用于训练和评估面部表情识别系统的数据库，包含123个人的593张照片序列。●CelebA是包含10,000张200,000张名人照片的大规模面部属性数据集。 ●微软在2016年发布了面向公众的面部识别基准和数据集MS-Celeb-1M。该数据集包含近1000万名名人的1000万张照片。正如研究人员指出的那样，长期以来，学术界和公司一直在从Internet，电影和社交媒体等来源收集面部照片，以解决模型训练数据稀缺的问题。像大多数机器学习模型一样，面部识别模型需要大量数据才能达到基本的准确性水平。但是事实证明，这些数据源通常是不平衡的，因为某些面部表情不那么常见。例如，人们倾向于在社交网络上分享更多的笑脸，而不是悲伤的脸。为了通过表情对四个基准语料库中的图像进行分类，研究人员使用了Affectiva的软件，该软件最多可以识别7种面部表情：6种基本情绪和中性表情。他们发现，在所有数据集中，“中性”的比例是可比的。图片超过60％，在Microsoft的MS-Celeb-1M名人图片库中达到83.7％。第二最常见的面部表情是“快乐”。在所有数据集中，约90％的图像显示“中性”图像。或“快乐”人。至于其他五种面部表情，“惊奇”的比例是最大的。和“令人反感”很少超过6％，而“悲伤”，“恐惧”的比例和“愤怒”非常低（通常小于1％）。结果也因性别而异。在VGGFace2中，“快乐”的数目是0。女人的幸福感几乎是“幸福”女人数量的两倍。男人们研究人员在一篇描述其工作的论文中写道：“一方面，该模型是使用高度偏差的数据进行训练的，这导致了性能的差异。另一方面，人们只会评估主流的表达方式。它隐藏了某些面部表情图像的真实表示。此外，性别偏见也很重要，因为它可能导致男女表现有所不同。”接下来，研究人员进行了分析，以确定诸如CelebA之类的东西。面部表情偏差对样本集中的面部识别系统的预测的影响程度。在以上三种算法中，在表现出“中性”的面部上的性能更好。或“快乐”表达式，它也是训练数据库中最常见的表达式。这项研究的结果表明，面部表情的差异不会导致系统将一个人误认为另一个人。但是，他们还暗示面部表情偏差会导致系统的“真实”表情。比较分数（衡量算法区分同一张面部图像的能力的分数）高达40％。研究人员仅使用某种软件对情绪进行分类，这可能会在实验中引入无意识的偏见，