联邦机构周四发布的一项研究显示，大多数商业面部识别系统都存在偏见，突显出人们对部门和联邦机构越来越多地用于识别可疑罪犯的技术的质疑。
标准技术研究所报道，该系统错误地识别出非裔人和亚洲人的面孔是白种人面孔的10倍至100倍。研究发现，在执法机构使用的照片数据库中，错误率最高的是原住民。
该技术还比男性更难识别女性。它错误地识别出老年人，是中年成年人的十倍。
这份新报告是在立法者和民权组织对面部识别技术日益普及的关注之际发布的。支持者认为它是抓捕罪犯和追踪恐怖分子的重要工具。高科技公司将其作为一种便利来推销，可用于帮助识别照片中的人物或代替解锁智能手机的密码。
但是，公民自由专家警告说，该技术可用于在无知的情况下远距离跟踪人们，因此有可能导致普遍监视，使行动和言论自由变得冷淡。今年，加利福尼亚州的旧金山，奥克兰和伯克利以及萨默维尔和布鲁克林的马萨诸塞州社区禁止政府使用该技术。
“公民自由联盟”政策分析师杰伊·斯坦利(Jay Stanley)说：“一次不正确的比赛可能会导致航班失误，冗长的审讯，监视名单的放置，的紧张遭遇，错误的逮捕或更严重的后果。”“联邦调查局，海关和边境保护局以及地方执法部门等政府机构必须立即停止部署这种反乌托邦技术。”
联邦报告是同类研究中规模最大的研究之一。研究人员可以从的大头照，签证申请和过境数据库中获得1800万张照片，约850万人。
标准技术研究院测试了来自99个开发人员的189种面部识别算法，这些算法代表了大多数商业开发人员。其中包括Microsoft的系统，生物识别技术公司(例如Cognitec)和的人工智能公司Megvii。
该机构未测试来自Amazon，Apple，Facebook和Google的系统，因为它们未将其算法提交联邦研究。
联邦报告证实了麻省理工学院的早期研究，该研究报告说，一些大型科技公司的面部识别系统在识别女性和肤色较黑的面部方面的准确率要比男性低得多。
麻省理工学院媒体实验室的研究员乔伊·布拉姆维尼(Joy Buolamwini)表示：“虽然一些生物识别研究人员和供应商试图声称算法偏差不是问题或已经克服，但这项研究提供了全面的反驳。”一封电邮。“我们必须维护公共利益，并制止面部监视的泛滥。”
尽管执法部门使用面部识别并不是什么新鲜事，但新的用途正在激增，几乎没有独立的监督或公众监督。已使用该技术监视和控制等少数民族。今年，移民和海关执法人员因使用该技术分析数百万人在他们不知情的情况下的驾驶执照而受到抨击。
偏向的面部识别技术在执法中特别成问题，因为错误可能导致错误的指控和逮捕。这项新的联邦研究发现，执法中使用的面部匹配算法对非裔女性的错误率最高。
NIST的计算机科学家Patrick Grother说：“后果可能是巨大的。”他说，他希望这会激发开发面部识别算法的人们“看看他们可能遇到的问题以及如何解决它”。
卡内基梅隆大学专门研究算法系统的研究员Maria De-Arteaga说，但是确保这些系统公平只是任务的一部分。她说，随着面部识别功能越来越强大，公司和政府必须注意何时，何地以及如何进行部署。她说：“我们必须考虑我们是否真的希望社会中使用这些技术。”