英国护照人脸识别系统漏洞真相：黑人正常照片被判为“未睁眼”

近日，据BBC报道，在英国内政部试行护照人脸识别系统期间，系统在遇到面部较白或较暗的人士时系统就会出现无法识别的情况。对此，英国内政部承认其人脸识别系统存在问题，但仍因系统“整体效果良好”而选择继续部署该系统，并表示在使用中会对其进行改进优化。

英国相关部门在针对信息自由而发布的一份文件中写道：“他们确实发现皮肤很浅或非常深色的人很难通过护照照片检测。但是考虑到这个系统大体效果良好，还是选择部署。”

英国平等与人权委员会发言人说：“种族不应该成为使用技术提供基本公共服务的障碍。尽管有证据表明面部识别系统对一些肤色的人脸具有识别障碍，但政府依然在推进这项技术的实施，这令我们感到非常失望。”

一、黑人正常照片被判为“未睁眼”，训练数据不足致“偏见”

自2016年6月英国相关部门启用该服务以来，一些用户在接触人脸检查服务时就遇到了问题。近日，黑人体育教练Joshua Bada被检测系统拦截了，因为系统把他的嘴唇识别成了张开的嘴。人脸识别系统的问题早就显现，谷歌在2015年的一套人脸识别系统将一对黑人夫妇标记为大猩猩，为此谷歌不得不向当事人道歉。

英国基尔大学的黑人技术官Cat Hallam也遇到过类似情况，她上传了一张表情正常的照片，但人脸识别系统告诉她，她的眼睛紧闭，嘴巴张开。Cat Hallam说：“最让人沮丧的是，他们明知道这个系统Bug，却照常在使用问题系统。”

人脸检测软件通常需要对数千张图像进行训练。如果训练数据不够大或不够多样化，“偏见”就会进入人脸检测系统。

Sam Smith来自英国隐私保护组织MedConfidential，曾提交了信息自由（FOI）要求。Sam说：“很明显，护照系统部署者的逻辑是，如果没有其它的图像数据集可以为黑人服务，那么我们也可以不用。”

二、英国政府：系统整体表现良好，会在使用中完善服务

内政部表示，当机器发生故障后，用户可以手动纠正人脸识别器，然后继续办理护照。但是相关的研究人员认为，这种说法就是在避重就轻。

西雅图华盛顿大学的Os Keyes说：“即使用户能够手动修改检测结果，它仍然会在用户之间造成很大的种族差异。”对此，英国基尔大学的黑人技术官Hallam说，如果网站提示人们，有些照片可能无法通过检测，他们的应用会出现问题，那么用户可能就不会有意愿使用这一功能。

为减轻该系统故障的影响，政府表示会采取措施。据称，相关部门将继续与适当的参与者进行用户研究和可用性测试，进而使不同种族的用户都能在遵循指导的情况下通过照片检测。内政部发言人表示：“我们将努力使上传数字照片的体验尽可能简单，并为所有客户改进这一流程。”

对此，Keyes表示，政府承诺“稍后解决”的举措让人感到非常沮丧。种族平等基金会的Samir Jeraj说：“这太离谱了。Jeraj呼吁政府对将要做出的改进以及在什么时候进行改进要更加清楚、有力。

英国谢菲尔德大学的计算机科学家Noel Sharkey表示，此案表明需要制定新法规。“众所周知，对于肤色较深的人，当前的面部识别系统非常不准确。这已经够糟糕了，但现在这一有问题的技术却被大肆用于护照部门，这会使不公正现象被合理化。我们迫切需要新的法规来制止不平等现象。”

文章来源：BBC