因人脸识别错误被关监狱,究竟谁之过?
本文来自微信公众号:量子位(ID:QbitAI),作者:萧箫,原文标题:《他是第一个因人脸识别错误被关监狱的人,证据仅仅是1张驾照照片》,题图来自:unsplash
只因和小偷长得像,就被人脸识别“抓”进监狱关了30个小时。
而人脸识别系统的依据,仅仅是一张驾照照片。
这是发生在2019年的事情,被错误逮捕的对象,是一位名叫Robert Williams的黑人男子,在交了1000美元后,他才被保释出去。
据《连线》(Wired)杂志报道称,这可能是同类案件中已知的第一个案例。
而直到现在,这起案件才正式向联邦提起诉讼。
人脸识别错误第一案
事情得从三年前说起。
2018年,一个小偷在一家Shinola零售店偷了几块名表,被店里的监控拍了下来。
监控拍到的图像非常模糊,那名小偷全程没有抬头看监控。
在这种情况下,警方用了人脸识别技术,并仅凭借一张驾照照片锁定了42岁的Robert Williams。
2019年,警方拿着他的照片询问店中的一名保安,后者确定是他,但其实这名保安并没有目击现场事发。
在被逮捕时,Robert Williams刚下班回家,就在自己的妻女面前被警方带走,期间根本没问他是否有不在场证明。
随后,他在监狱里肮脏的水泥地板上躺了30个小时。
直到缴纳1000美元的保释金,Robert Williams才被放出来。
现在,美国公民自由联盟(ACLU)、密歇根大学法学院,代表Robert Williams正式提起联邦诉讼。
从诉讼文件来看,这是在美国第一起因人脸识别错误被非法逮捕的案件。
但Robert Williams想要的,不只是赔偿损失。
他希望这起案件能修改相关政策,以制止人脸识别技术的滥用。
Robert Williams本人表示:
仅仅因为机器算法的问题,就在妻女面前被逮捕,希望这种事情不要再发生在其他人身上。
相似案件不止一起
但事实上,人脸识别“抓”错人的事情,在这之后又发生了好几起。
第二起因人脸识别导致的错误逮捕,同样是一名黑人男子Michael Oliver,他在去年起诉了警察局。
而据NJ Advance Media报道,新泽西州也发生过同样的事情,警方在用人脸识别逮捕一位名叫Nijeer Parks的黑人男子后,将他在监狱关了10天,才发现抓错了人。
在此期间,警方没有验指纹、没有测DNA,仅仅凭借人脸识别系统就锁定了嫌疑人。
目前,Nijeer Parks也仍然在上诉中,新泽西州也已经禁止使用这种软件。
但据了解,数以千计的执法机构已经在采用人脸识别的技术,查找罪犯。
人脸识别系统,却往往并不那么可靠。
2017年的欧冠比赛上,英国警方采用了人脸识别系统,总共发出2470次警报,错误率高达92%。
而美国警方采用的人脸识别软件,通常只依赖于数十亿张社交媒体照片来识别犯罪嫌疑人。
从技术上来说,人们无法从人脸识别中确定某个嫌疑人的唯一性。
该不该用人脸识别?
人脸识别技术,已经被美国警方采用了二十多年。
但来自MIT和NIST的研究人员发现,这项技术对于白人男性的识别效果相对更好,这也和人脸识别数据集中的样本数量有关。
而其他人种,在这类数据集下训练出来的识别效果往往并不理想。
不止数据集。
人脸识别的另一个问题是,监控摄像头会压缩视频图像,导致用来区分嫌疑人的皮肤、静脉和痣等图案被去除、损坏或变形。
事实上,由于采集视频的光照条件不同,一些伪影可能会被误认为是面部特征(如痣)之一。
最重要的是,人脸识别所用的AI模型算法,可解释性非常差,缺乏支持法医意见的经验数据。
目前,微软、IBM和亚马逊等互联网巨头,已经保证不将人脸识别系统出售给警方。
但人脸识别技术本身,却处在了一个有点尴尬的位置上。
一方面是技术伴随的隐私和准确率的问题,另一方面却是它带来的便利性和商业利益。
就连国内售楼部的摄像头,都已经对准了路人,进行“身份识别”。
人脸识别用在哪里、怎么使用,仍旧亟待商榷。
参考链接:
[1]https://www.theverge.com/2021/4/13/22382398/robert-williams-detroit-police-department-aclu-lawsuit-facial-recognition-wrongful-arrest
[2]https://www.aclu.org/press-releases/michigan-father-sues-detroit-police-department-wrongful-arrest-based-faulty-facial
[3]https://www.wired.com/story/flawed-facial-recognition-system-sent-man-jail/
本文来自微信公众号:量子位(ID:QbitAI),作者:萧箫
相关推荐
因人脸识别错误被关监狱,究竟谁之过?
人脸识别泛滥,谁有权拿走你的人脸数据?
亚马逊人脸识别技术Rekognition被爆种族歧视
著名分析师 Benedict Evans:人脸识别与AI伦理(二)
欧盟拟在公共场所禁用人脸识别五年,防止滥用
IBM高调宣布放弃人脸识别业务,只是为了“不作恶”?
人脸识别十字路口:脸的恐慌
著名分析师 Benedict Evans:人脸识别与AI伦理(一)
“人脸识别”事故频发,我们是否该说“不”?
“人脸识别”,我们还能承受多少风险?
网址: 因人脸识别错误被关监狱,究竟谁之过? http://www.xishuta.com/newsview41711.html
推荐科技快讯
- 1问界商标转让释放信号:赛力斯 94758
- 2人类唯一的出路:变成人工智能 17671
- 3报告:抖音海外版下载量突破1 17182
- 4移动办公如何高效?谷歌研究了 16947
- 5人类唯一的出路: 变成人工智 16771
- 62023年起,银行存取款迎来 9949
- 7网传比亚迪一员工泄露华为机密 7894
- 812306客服回应崩了 12 6314
- 9山东省大数据局副局长禹金涛率 6091
- 10从TikTok在美困境看全球 6049