涉嫌“种族歧视”,IBM和亚马逊叫停面部识别技术服务|海外头条

若卡 2020-06-16 11:34

编者按:

《海外头条》是杏耀平台推出的海外栏目,服务于广大杏耀创业人群,为他们提供专业、有启发性和实用性的海外讯息。

栏目通过分享优秀的行业杏耀热点文章,帮助杏耀创业者打开新思路,洞悉全球市场动向,掌握大企业背后的秘密。杏耀创业不应盲目,张开眼睛看世界,才能找到新风景。

美国围绕警察对黑人施暴的全国性抗议活动仍在持续,科技公司每次在这种时候都不可避免要做出一些表态。

这一次,由于隐私和民权组织的多次呼吁,两家科技巨头IBM和亚马逊出面宣布它们将不再向执法部门出售面部识别技术,因为舆论称该技术对深肤色的人影响很大,可导致种族定性,加深矛盾。

本期推介文章来自The Millennial Source网站《出于种族偏见的考虑,IBM和亚马逊将停止出售面部识别技术》(IBM and Amazon will stop selling facial recognition technology over racial bias concerns),作者Sam Mukwamu。

6月8日,IBM首席执行官Arvind Krishna宣布公司将不再开发面部识别技术,并在给国会的一封信中说,“IBM对将任何技术用于种族定性、侵犯基本人权的做法非常反对,这不符合其信任和透明的价值观。”

亚马逊也宣布将暂停警方一年使用Rekognition(亚马逊的面部识别技术)的服务。

不过,该公司将继续为那些致力于解救人口贩卖受害者和让失踪儿童与家人团聚的组织提供这项技术。

作者指出,人脸识别技术,或者说人工智能的飞速发展一直以来都存在争议。

比如,人工智能会不会让更多的工人失去工作?如何解决可能会带来的社会伦理问题?人们的隐私安全等基本权利谁来保证?

实际上,人工智能是一个强大的工具,可以帮助执法部门保护公民的安全。人脸识别技术可以用来实时识别人的身份信息,也可以通过照片和视频来识别。

多年来,美国军方和情报机构一直使用该技术来识别逃犯和可能的恐怖嫌疑人,各地执法机构也使用该技术侦查和预防犯罪行为。

这项技术也在其他地方得到了应用,包括在机场验证旅客身份,在银行和金融领域用于打击欺诈犯罪,在智能手机领域用于解锁手机、登录移动应用程序和验证支付。

在更好的人工智能算法和更多的训练数据的推动下,人脸识别技术得到越来越多的应用。

根据Grand View Research的一份报告,全球面部识别市场在2019年估值为34亿美元,预计从2020年到2027年将以每年14.5%的速度增长。

但它的风险似乎就是“太过智能”。反对者认为面部识别软件可以识别那些没有犯罪记录的人,这是不能接受的,成为了一个引起分歧的话题。

根据乔治敦大学法学院的一份报告,估计有1.17亿美国成年人在执法部门使用的面部识别网络系统之中。

该报告还估计,美国至少有26到30个州允许执法部门将驾照和身份证照片数据库用于面部识别搜索。

在评估了来自39个不同开发商的127种软件算法后,美国国家标准与技术研究院(NIST)报告称,在2014年至2018年间,算法在搜索数据库匹配照片方面的能力整整提高了20倍。

作者表示,抗议活动之后,对这项技术对隐私的影响和对种族偏见的担忧发生了碰撞和重叠,反对的声浪更强了。

根据乔治敦大学的法律报告,由于不成比例的高逮捕率,非洲裔美国人更有可能被基于嫌疑犯照片数据库的系统挑出来。

而且由于人脸识别技术日益提升的准确性,它可以快速将人群根据性别和种族进行区分。

麻省理工学院媒体实验室做了一项研究,针对不同性别和肤色的整理数据测试了面部识别软件。

研究结果显示,这些软件更擅长识别男性,尤其是浅肤色男性,对浅肤色男性的识别错误率不到1%。

但是,在尝试识别深色皮肤的女性时,却出现了重大错误。微软的人脸识别软件的错误率为21%,而IBM的软件的错误率接近35%。

2018年,美国公民自由联盟(ACLU)强调了面部识别技术在识别有色人种方面的缺陷。

当时亚马逊的Rekognition软件错误地将28名国会议员的照片与因犯罪而被捕的人的面部照片相匹配。

而在有色人种非常普遍、又无法解决种族歧视问题的美国,上述的技术失误可能会进一步导致错误逮捕或警察暴力行为。

作者称,在亚马逊和IBM发声之后,ACLU开始呼吁其他科技公司效仿,尤其点名了微软公司,以及一些有可能“不正当”使用该技术拒绝求职者就业,或拒绝有色人种获得金融服务和医疗保健的公司。

据了解,微软内部要求停止向执法部门出售技术的呼声也非常强烈,有250名微软员工本周要求公司取消与西雅图警察局的合同。

争议越来越大,亚马逊表示希望尽快出台强有力的法规规范面部识别技术的道德使用。除此之外,只能暂停这项技术,不知道未来还会怎样。

本文为杏耀平台原创,未经授权不得转载,否则杏耀平台将保留向其追究法律责任的权利。如需转载或有任何疑问,请联系editor@wxnbws.com。

  • APP
  • 公众号
  • 微博
  • 知乎
中国杏耀创业者的信息平台和服务平台,帮助中国杏耀创业者实现杏耀创业梦想
杏耀平台公众号,带你随时了解与杏耀创业有关的人、事、钱
邦哥自留地,轻松充电,秒知圈内事
杏耀平台知乎机构号,带你以另一种方式了解世界