首页 / 雷锋网 / 正文

人脸识别频踩道德红线?亚马逊悄然延长了自家系统的禁用时间

雷锋网 2021-05-19 12:01:08

人脸识别频踩道德红线?亚马逊悄然延长了自家系统的禁用时间

据路透社报道,亚马逊已经延长了对自家人脸识别软件用于执法的禁令,“直到另行通知” 。

该禁令之前设定为期一年,原定于六月到期。亚马逊没有立即回应为何延长这一禁令。

早在 2018 年,亚马逊员工就曾力促亚马逊缩减这一项目的规模——他们认为,有记载的人脸识别种族偏见,可能加剧当地警方对少数族裔的暴力行为。

亚马逊一直为该项目辩护,直到去年6月,当时抗议活动的压力越来越大,亚马逊这才宣布,面向警方客户的服务暂停一年。

Rekognition属于AWS所提供的一项服务,其实许多亚马逊在云计算领域的竞争对手都具有类似的技术。就在亚马逊做出承诺的第二天,微软也宣布了类似声明,称将不会向当地警方出售其面部识别服务。

而IBM在同一周内也表示,将停止开发或研究面部识别技术;谷歌则表示不会向任何人提供面部识别技术的商用。

去年夏天,关于人脸识别技术的道德性问题甚嚣尘上。麻省理工学院媒体实验室的研究员Joy Buolamwini和微软研究院的Timnit Gebru,都致力于揭示人脸识别技术在种族偏见方面的偏见。两人做了不少基础性工作,其中有一篇共同撰写的论文被广泛引用。

该论文指出,包括IBM和Microsoft在内的主要科技公司,他们的人脸识别系统,用于识别肤色较黑的人的错误率,比识别肤色较白的人要高几十个百分点。根据《纽约时报》的一份报告,问题部分在于用于训练系统的数据集,其中绝大多数可能是男性和白人。

在2019年的另一项研究中,Buolamwini和另一位学者分析了Rekognition,发现亚马逊的系统也存在重大问题,无法识别肤色较黑的人的性别,以及误以肤色较黑的妇女为男性。研究发现,该系统在分析肤色较浅的人的图像时的错误率几乎为零。

在之前首次宣布禁用于执法时,亚马逊曾表示,希望国会利用这段服务暂停的时间,来调整人脸识别技术的法律法规。

当时亚马逊在声明中曾表示,“我们主张政府制定更严格的法规来管理人脸识别技术使用的道德问题,期望这一为期一年的暂停,可以使国会有足够的时间出台适当的规则,并且我们随时准备根据要求提供帮助。”

但到目前为止,还没有联邦立法解决警方与人脸识别技术的矛盾,但是许多州或地方政府已经通过了相关规定,决定减少这一技术的使用。

2019年5月,旧金山成为美国第一个禁止政府使用人脸识别的城市,奥克兰紧随其后;俄勒冈州和缅因州波特兰的城市也通过立法。

去年12月,马萨诸塞州有过一项类似的禁令草案,但当时并未获得通过,不过最近通过了一项修改后的法案,对警方使用人脸识别一事增加了一些限制。

去年7月,纽约州立法机构刚刚通过了一项法令,禁止在学校中使用人脸识别和其他生物特征识别技术,直至 2022 年。

另外,就在上个月,欧盟也发布了一项监管人工智能使用的提案:《关于“欧洲议会和理事会条例:制定人工智能的统一规则(人工智能法案)并修订某些联盟立法”的提案》。

该提案规定了企业和政府应如何使用人工智能技术,长达108页,对人工智能在一系列活动中的使用都进行了限制,其中就包括限制警方在公共场合使用人脸识别软件。

这些领域因其可能对人们的安全或基本权利造成威胁,而被欧盟视为“高风险”领域。不过,出于国家安全和其他目的的应用,可能会有一些豁免权。根据该提案要求,欧盟将有可能对违规最严重的公司处以相当于其全球年销售额6%的罚款。

雷锋网编译,参考来源:The Verge

雷锋网雷锋网(公众号:雷锋网)雷锋网

时讯快报

5.5亿用户的选择

立即打开