18 日消息，亚马逊脸部辨识工具 Rekognition 由于与美国警方合作，受到员工反对。一名员工在 Medium 平台匿名发表公开信，对公司与警方的合作表示担忧。
事情起源是 15 日，亚马逊 CEO 贝佐斯在 Wired 会上为美国国防部 JEDI 云端合约辩护时，强调“做出可能不受欢迎的决定（如与军方合作）是商业领袖工作的一部分”。仅过一天后，这封员工公开信就在各大媒体传开了。
这封信这样说：
我们知道贝佐斯意识到这些担忧，现在正在进行全产业对话。在舞台上，他承认高科技的产品可能被滥用，甚至被独裁者剥削。但不是有意义的解释，亚马逊将采取行动以防止自己的技术被滥用，贝佐斯建议我们等待社会的“免疫反应”。
如果亚马逊等待，我们认为伤害将很难还原。
关于 Rekognition 计划
进一步探究“Rekognition”计划，根据公开资料显示，Rekognition 是强大的即时脸部辨识系统，可利用警察身上的镜头和市政监控系统，追踪逃犯、被贩卖人口等对象。这项技术是亚马逊 2017 年 11 月正式推出。
主要功能是：即时分析串流影片、人物辨识和追踪、脸孔辨识、脸孔分析、对象场景和活动侦测、影片侦测、名人辨识等。
▲ Rekognition 在社交媒体寻找失踪人口。
查询当时发表 Rekognition 新闻稿时，摘取以下这段说明文字：
现在可对有数千万个面孔的集合执行即时脸部搜寻。这表示搜寻延迟减少了 5~10 倍，同时允许储存比以前多 10~20 倍的脸部集合。对于公用安全应用程序而言，此更新有助于即时辨识数百万个面孔的集合，进而做出需要立即回应的判断和举动。
目前，这款技术主要在帮助 Marinus Analytics 公司打击人口贩运（注：Marinus Analytics 是美国一家授权执法部门技术的创业公司）。借助 Amazon Rekognition，使用 Marinus Analytics 的调查人员可在几秒钟内搜寻数百万条纪录，以便找到受害者，进而采取快速有效的行动。
简而言之，执法人员可使用失踪儿童的照片、社交媒体照片或社会工作者的照片，并将其与 Traffic Jam 的数据库其他人员比较，如果他们的照片用来在网络当作交易等广告资讯发表，将透过符合照片帮助执法人员找到受害者。
但是，这项技术有被“扩大化利用”的风险。
根据之前华盛顿邮报进一步报导，一位警长每月支付 6~12 美元用于存取 Rekognition，这使得该部门能根据即时镜头扫描追踪对象的大头照。据悉，Rekognition 能在整个城市的摄影机网络执行即时脸部辨识。
Rekognition 计划总监 Ranju Das 透露，整个奥兰多市都有经过授权的摄影机。这些摄影机将资料串流传送 Kinesis 串流，亚马逊再即时分析这些资料并搜寻他们拥有的脸部集合。也许当警方想确定这个城市的市长是否在某个地方，或他们想要追踪的某个其他人，这都可以做到。
公民自由引发社会联盟关切
对 ACLU（美国公民自由联盟）而言，这种能力引发重大的公民自由关注。该组织声明说：“透过自动化大规模监视，像 Rekognition 这种脸部辨识系统威胁到公民自由，对目前政治气候下已被不公正对待的社群构成特殊威胁。人们应该在没有被政府监视的情况下自由走在街上。
之前 2018 年 5 月 22 日，ACLU 写给贝佐斯的信也阐述这种关切。
▲ 2018 年 5 月 22 日，ACLU写给贝佐斯的信。
可见，刚在员工加薪问题引发部分员工抵触情绪的亚马逊，又因为员工的反对遇上一件麻烦事。
据了解，这是技术员工不到一周内发出的第二封匿名信。上一封，来自微软。
12 日，一名微软员工也同样在 Medium 表达对该公司参与 100 亿美元 JEDI 国防部云端合约的担忧。
这是一个秘密的 100 亿美元计划，目标是打造川普政府监管的“更致命的”军事力量。Google 员工对这点看得很清楚，于是发起抗议并最终迫使公司结束投标，而我们看得也很清楚。
在美国的科技大公司，鼓励员工表达意见一直是传统。以下整理近些年因为“员工反对”而被迫中止的一些项目或计划：
- Google：员工联名反对 Google 参与国防部 AI 计划“Maven”，导致 Google 放弃续签；员工反对 Google 参与中国审查版搜索引擎的开发，高层离职抗议并爆料；员工反对 Google 参与 JEDI 国防部云端计算合约，Google 只能宣布结束竞标。
- 微软：员工反对微软竞标 IEDI 云端合约，称不符合 AI 伦理原则；员工反对公司提供 ICE 服务。（注：ICE 是美国移民海关执法部门）
- Salesforce：参与移民政策，最终在员工反对与批评声中与美国海关和边境保护局中断技术合作。
- 苹果：因为保密措施极其严格，甚至影响员工正常生活，也曾遭遇员工抱怨。2017 年，苹果共计抓到“29 名泄密者”，其中 12 名已被逮捕。
- Facebook：由于 Facebook 一位全球政策高层 Kaplan 支援最高法院大法官提名人，并出席提名听证会，数百名 Facebook 员工表示愤怒。员工认为企业遭政治绑架，随后，Kaplan 在内部论坛为自己唐突出席听证会道歉。
小结
可见美国的大型科技公司，“员工责任制”正形成巨大的影响力，或超过媒体影响力，推动公司不断调整决策。即便 CEO 都是全球性的商业领袖，也没办法忽视这些意见。
眼下，当亚马逊员工坚持“不作恶”的理念继续走下去时，我们并不确定 Rekognition 是否会执行。相比中国，与警方、军方的合作显得非常重大且有战略意义，因为政府的采购是强有力的背书，对技术和流程有十分严格的程序，重要的一点是，这种计划一般都是大单子，动辄上千万，甚至上亿。在中国企业趋之若鹜追求军事合约当下，旁观者其实更应该多清醒思考。
公开信全文：
《我是亚马逊员工。我的公司不应该向警察出售脸部辨识技术》
10 月 17 日
当一个公司把新技术引进世界时，有责任思考后果。我工作的亚马逊公司目前允许全国各地的警察部门购买脸部辨识产品“Rekognition”，我和其他员工要求我们公司立即停止。
几个星期前，同事写了一封信给杰夫‧贝佐斯和其他高层，上面有 450 多名员工签名。这封信还包含要求将 Palantir 公司踢出 AWS，并规定对员工进行道德监督。Palantir 是 ICE 大部分遣返和追踪程式的软件公司。
我们知道贝佐斯意识到这些担忧，现在正在进行全产业对话。在舞台上，他承认高科技的产品可能被滥用，甚至被独裁者剥削。但不是有意义的解释，亚马逊将采取行动以防止自己的技术被滥用，贝佐斯建议我们等待社会的“免疫反应”。
如果亚马逊等待，我们认为伤害将很难还原。
毕竟，我们关注的不是其他公司将来可能造成的危害，而是亚马逊目前正在设计、行销和销售的一套用于危险、大规模监控的系统：Rekognition。亚马逊网站吹嘘说，该系统可以一次性储存和搜寻数千万张人脸。执法部门已经开始使用亚马逊的这项脸部辨识技术，但几乎没有任何公众监督，也没有对此公开辩论，或有所限制。佛罗里达州奥兰多市正在透过遍布全市的监控镜头的即时视讯讯号来测试 Rekognition。奥勒冈州的一个警察部门目前正在利用 Rekognition，让现场的警官将照片与数据库的脸部照片比对。这已不再是假设情况。
如果我们想要领导，我们需要在人与利润之间做出选择。
历史告诉我们，新的强大的监控工具仍然掌握在国家手中，将用于针对没有做错事的人；在美国，由于缺乏公用问责制，已导致对有色人种、移民和行使第一修正案权利的人过度干扰和过度监管。在向政府和执法机构提供强大技术的同时，忽视这些紧迫问题既危险又不负责任。
这就是为什么当 AWS 全球公用部门副总裁 Teresa Carlson 最近表示，亚马逊“坚定的支援”执法、国防和情报用户时，我们失望的原因，即使我们不知道他们实际上是利用这工具做什么。
亚马逊甚至建议，为警官随身相机提供 Rekognition 功能，这将把本来做为警察问责的工具变成针对公众的行动监控装置。我们为什么要这样做？
我们都有权利过生活，而不被政府不断监控。像我们这样的公司不应该参与促进威权监督。不是现在，也不是以后。但 Rekognition 支援透过从一帧影片撷取几十个脸部辨识，并将它们储存起来供以后使用，或立即将它们与有数百万张图片的数据库比对。
出售这个系统与亚马逊的价值观背道而驰。我们把自己视为以用户为中心的公司。贝佐斯也直接反对不道德的政府政策、穆斯林的禁令。
我们无法以牺牲公众利益为代价，从那些拥有强大权力的用户群体中获利；我们无法忽视业务对公众利益的损害。我们销售的 Rekognition 系统是一种有缺陷的技术，它强化了美国现有的偏见。研究表明，脸部辨识技术更容易误认拥有深色皮肤的人。这一点在最近 Rekognition 的测试中得到明确的证明。这项调查将美国国会议员的照片与数据库一些脸部照片逐一比对，结果出现 28 项错误符合，而在有色人种不正确结果比例特别高。但即使这些错误修正了，允许执法部门使用这种软件仍是不负责任、危险和不道德。现在，产生这种偏见的根源存在于美国更广泛的社会和司法系统中。脸部辨识技术的使用只会复制和放大美国现有的这种偏见。
美国目前的政治环境使得向政府出售脸部辨识产品的想法更加令人反感。美国警方增加对黑人活动人士的监视力度，川普政府也在继续全力打击移民。我们不希望以任何方式为美国政府的超级监视系统做出贡献。亚马逊表示已要求 Rekognition 用户遵守法律，但这只是一种为这项技术的负面使用逃避责任的方式。
Google 员工公开反对公司与美国国防部的 Maven 合约，微软员工公开反对公司与美国国防部的云端计算合约 JEDI，我们将跟随他们的步伐。不管我们对美国军方的观点如何，任何人都不应该从“增加军队的杀伤力”获利。
亚马逊谈论了很多关于领导力的价值观问题。如果我们想要拥有领导力，我们需要在人类利益与利润之间做选择。我们可把危险的监视系统卖给执法部门，或我们可以维护正义。但无法两者兼得。
（本文由 雷锋网 授权转载；首图来源：shutterstock）
延伸阅读：
- 微软员工发公开信，呼吁集团放弃国防部百亿美元计划
- Google 放弃 100 亿美元订单，退出美国国防部云端服务合作竞标
