英国护照人脸识别系统漏洞真相:黑人正常照片被判为“未睁眼”

发布时间:2019-10-15 阅读量:747 来源: 智东西 发布人: Jane

近日,据BBC报道,在英国内政部试行护照人脸识别系统期间,系统在遇到面部较白或较暗的人士时系统就会出现无法识别的情况。对此,英国内政部承认其人脸识别系统存在问题,但仍因系统“整体效果良好”而选择继续部署该系统,并表示在使用中会对其进行改进优化。

 

英国相关部门在针对信息自由而发布的一份文件中写道:“他们确实发现皮肤很浅或非常深色的人很难通过护照照片检测。但是考虑到这个系统大体效果良好,还是选择部署。”

 

英国平等与人权委员会发言人说:“种族不应该成为使用技术提供基本公共服务的障碍。尽管有证据表明面部识别系统对一些肤色的人脸具有识别障碍,但政府依然在推进这项技术的实施,这令我们感到非常失望。”

 

一、黑人正常照片被判为“未睁眼”,训练数据不足致“偏见”

 

2016年6月英国相关部门启用该服务以来,一些用户在接触人脸检查服务时就遇到了问题。近日,黑人体育教练Joshua Bada被检测系统拦截了,因为系统把他的嘴唇识别成了张开的嘴。人脸识别系统的问题早就显现,谷歌在2015年的一套人脸识别系统将一对黑人夫妇标记为大猩猩,为此谷歌不得不向当事人道歉。

 

英国基尔大学的黑人技术官Cat Hallam也遇到过类似情况,她上传了一张表情正常的照片,但人脸识别系统告诉她,她的眼睛紧闭,嘴巴张开。Cat Hallam说:“最让人沮丧的是,他们明知道这个系统Bug,却照常在使用问题系统。”

 

人脸检测软件通常需要对数千张图像进行训练。如果训练数据不够大或不够多样化,“偏见”就会进入人脸检测系统。

 

Sam Smith来自英国隐私保护组织MedConfidential,曾提交了信息自由(FOI)要求。Sam说:“很明显,护照系统部署者的逻辑是,如果没有其它的图像数据集可以为黑人服务,那么我们也可以不用。”

 

二、英国政府:系统整体表现良好,会在使用中完善服务

 

内政部表示,当机器发生故障后,用户可以手动纠正人脸识别器,然后继续办理护照。但是相关的研究人员认为,这种说法就是在避重就轻。

 

西雅图华盛顿大学的Os Keyes说:“即使用户能够手动修改检测结果,它仍然会在用户之间造成很大的种族差异。”对此,英国基尔大学的黑人技术官Hallam说,如果网站提示人们,有些照片可能无法通过检测,他们的应用会出现问题,那么用户可能就不会有意愿使用这一功能。

 

为减轻该系统故障的影响,政府表示会采取措施。据称,相关部门将继续与适当的参与者进行用户研究和可用性测试,进而使不同种族的用户都能在遵循指导的情况下通过照片检测。内政部发言人表示:“我们将努力使上传数字照片的体验尽可能简单,并为所有客户改进这一流程。”

 

对此,Keyes表示,政府承诺“稍后解决”的举措让人感到非常沮丧。种族平等基金会的Samir Jeraj说:“这太离谱了。Jeraj呼吁政府对将要做出的改进以及在什么时候进行改进要更加清楚、有力。

 

英国谢菲尔德大学的计算机科学家Noel Sharkey表示,此案表明需要制定新法规。“众所周知,对于肤色较深的人,当前的面部识别系统非常不准确。这已经够糟糕了,但现在这一有问题的技术却被大肆用于护照部门,这会使不公正现象被合理化。我们迫切需要新的法规来制止不平等现象。”

 

文章来源:BBC

相关资讯
台积电独占35%份额!AI订单助推代工业季度增长13%

2025年第一季度,全球半导体晶圆代工2.0市场规模达722.9亿美元,同比增长13%。市场扩张主要受人工智能及高性能计算芯片需求激增推动,尤其3nm/5nm先进制程和CoWoS等封装技术成为核心增长引擎。行业分析显示,传统单一制造模式(代工1.0)正被技术整合平台(代工2.0)取代,涵盖设计、制造、封装全链条协同创新。

汇聚产业全景,引领智造未来:AIoT全产业链精英深度碰撞

2025年6月20日,IOTE 2025·上海站在上海新国际博览中心N5馆圆满收官! 在万物智联的时代洪流中,物联网技术正以前所未见的速度重塑世界,驱动千行百业向智能化、数字化加速跃迁。本届展会以“生态智能,物联全球”为核心主题,携手全球移动通信标杆盛会MWC上海,不仅呈现了一场前沿技术的饕餮盛宴,更是物联网与移动通信深度融合、共绘发展新图景的生动实践,为全球AIoT产业的蓬勃脉动注入强劲活力与动能。

高抗扰驱动器选型指南:SGM58000 集成方案挑战 ST/安森美驱动器性能极限

在工业自动化、新能源汽车、高效电源等应用领域日益追求高功率密度与高可靠性的今天,高性能的栅极驱动器扮演着至关重要的角色。它们作为功率开关器件(如IGBT、SiC MOSFET、GaN HEMT)与控制信号之间的关键"桥梁",其性能直接决定了系统效率、开关速度、电磁兼容性(EMC)以及整体可靠性。本文将聚焦行业备受关注的意法半导体新一代集成化方案(STDRIVE102H/BH)、圣邦微电子的三相驱动器(SGM58000)以及安森美的双通道高端驱动(NCD57252),进行深度对比分析,揭示各自优势及适用场景,为工程师选型决策提供专业参考。

突破0.5mg漂移极限!村田发布工业级三轴MEMS加速度计

工业数字化转型加速推动预测性维护需求增长,尤其桥梁、大型建筑等基础设施的结构健康监测(SHM)领域。传统高精度加速度传感器长期面临偏移漂移大、环境适应性弱等痛点。村田制作所最新推出的SCA3400系列数字三轴MEMS加速度传感器,以≤0.5mg的偏移寿命漂移值突破行业极限,为工业设备状态监测树立新标杆。

先进制程角逐2026:3nm/2nm将占旗舰手机芯片三成市场

全球智能手机芯片领域正迎来新一轮工艺迭代浪潮。知名研究机构Counterpoint Research最新报告指出,3nm及更先进的2nm制程技术将在2026年占据智能手机应用处理器(SoC)出货总量的近三分之一(约33%),成为驱动高端设备性能跃升的核心引擎。这一演变标志着半导体制造技术对移动终端能力的决定性影响达到新高度。