在 AI 技术不断发展的大趋势面前,几乎所有科技巨头都要面临愈加严苛的道德评判和舆论──之前不得不接受美国国会听证的 Facebook 如此,被迫放弃与国防部合约的 Google 也是如此。
现在,轮到另一个巨头了,这次是电商老大亚马逊。
当脸部辨识被警方使用
事情不是突然发生的,而是长期酝酿。
2016 年,亚马逊推出一款脸部辨识工具 Rekognition,能辨识图像和影片,分类内容, 比如人物面孔、场景、文字、物体等;当然,背后还是亚马逊强大的人工智能技术和 AWS。技术本身看起来没什么问题,且带来很多好处,问题在于实际应用场景会引起人们的不同反应;比如说警察部门。
的确,亚马逊 Rekognition 已用于美国相关政府部门,亚马逊官网的介绍页面,Rekognition 已用于 Washington County Sheriff’s Office in Oregon(华盛顿郡警长办公室),当然该页面介绍的是正面案例:利用该工具成功捕获商店扒手。
2017 年 6 月,亚马逊在官方部落格发表一篇来自警长办公室分析师撰写的文章,介绍如何利用 Amazon Rekognition 辨识案件嫌疑人。
文章提到两个案例:第一个案例,银行监控镜头捕捉到失窃信用卡用来领现的影像,但光线和角度问题,办案人员无法人工辨识,透过 Amazon Rekognition 则达成 95% 的人物符合度。另一个案例是,利用 Amazon Rekognition,办案人员成功在 Facebook 找到一名使用假名发表内容的个人。
文章最后强调利用 AWS 进行人脸辨识的便利性,并表示 Amazon Rekognition 已成为警长办公室辨认嫌疑人的有利工具,并希望它成为法律案件脸部辨识的标准工具。
当然,除了上述案例,Amazon Rekognition 也用于其他警察相关机构,比如说奥兰多警察局。亚马逊声明也提到,不少机构利用这项技术找到被拐骗人员和走失儿童。另外,其实 Amazon Rekognition 也有很多非执法类的商业用户,比如 Pinterest 和 C-SPAN。
亚马逊面临的舆论
即使如此,Amazon Rekognition 与美国执法部门合作的负面舆论效应渐渐发酵,尤其涉及隐私层面,已有不少机构和个人对亚马逊表达不满。
2018 年 5 月下旬,美国公民自由同盟(American Civil Liberties Union,简称 ACLU)和其他隐私保护团体,要求亚马逊停止对警察机构售卖 Amazon Rekognition,原因是执法部门可能会利用这技术,简单地构建能辨识并即时监控任何人行踪的系统。
ACLU 表示:
人们应当自由地走在街上,而非处于政府眼皮下。在美国社区进行脸部辨识威胁了这样的自由……脸部辨识并不是中立技术,不管亚马逊如何部署。它使大规模监控自动化,威胁到人们在政府监视之外的私人自由,并准备放大刑事司法系统的偏见和不平等。
根据 ACLU 得到的邮件显示,华盛顿郡警长办公室只需花 400 美元就可以把 305,000 图片导入有 Amazon Rekognition 技术的辨识系统,每个月付 6 美元就能持续使用这项服务。但警长办公室并不认为威胁到 ACLU 所提的自由,一位发言人表示:
其实我们并没有大规模搜集资料,且也没有把镜头装在每个街角。我们希望民众知道我们在干什么,以及我们如何利用它处理犯罪问题──它是什么,它不是什么。
显然包括 ACLU 在内,众多关注个人隐私的美国民众并不买账──他们不仅担忧这项技术的应用已用于某些领域,也在担忧用于隐私侵犯的潜在可能性。不过他们发给亚马逊的信并没有得到明确的回应。
事情在上周五(6/15)进一步发酵。将近 20 家亚马逊股东机构寄信给亚马逊 CEO Jeff Bezos,担忧亚马逊 Rekognition 用于执法部门会有的问题和影响。
股东联合信写到:
亚马逊股东担心这种政府监视设施技术,不仅可能对全国和其他利益相关者构成隐私威胁,且可能提高公司面临的实质性风险,为股价带来负面影响,并为股东增加金融风险。
当然,这些股东也在担心,Rekognition 可能违反女性、有色人种、移民及其他边缘化群体的权利,这些人特别容易成为警方关注的目标。
截至目前,亚马逊还没有公开回答股东的问题。
(本文由 雷锋网 授权转载;首图来源:亚马逊)