人脸辨识在追捕犯人,或是协寻失踪人口是相当好用的工具,但可能侵犯人权和过度介入人民生活却是隐忧。如今又爆出训练出来的人脸辨识 AI 出错,人权团体用 Amazon 的人脸辨识程式 Rekognition 来扫国会议员,却将不少位议员误认为罪犯,其中大部分是黑人议员。
美国人权团体美国公民自由联盟 (American Civil Liberties Union,ACLU) 的部落格发布他们的发现结果,他们用 Amazon 的人脸辨识程式 Rekognition,扫描所有美国众议院、参议院议员,预设的信赖区间 80% 下去做,这意味有 80% 的机会辨识正确。
▲ ACLU 进行脸部扫描辨识的步骤。(Source:ACLU)
ACLU 运用公共数据库中 25,000 个大头照为训练素材,再去辨认国会议员。结果发现有 28 位议员有被误判状况,辨识为犯人。有 40% 的误判状况是有色人种,尽管全部国会的人中,只有 20% 是有色人种。
▲ Amazon 的脸部辨识出差错的状况。(Source:ACLU)
当训练资料不够代表普及状况时,AI 的辨识效果会被有偏差的资料误导,导致出来的结果出问题。Amazon 发言人回应,称用人脸辨识在警政、执法上面,信赖区间要设高些,至少要 95%。
先前 Google 也曾发生类似事情,Google 相簿将上传的黑人女性,辨识为大猩猩。
- Amazon’s Rekognition messes up, matches 28 lawmakers to mugshots
- Amazon’s facial recognition tool misidentified 28 members of Congress in ACLU test