因今年美国总统大选，Deepfake 再次引发关注。
Deepfake 的深度造假能力自不必多说，支援换脸、换头、对嘴型，逼真程度已达肉眼无法察觉的地步。由于广泛用于制造假色情影片，学术界、企业界开始联合发力研发 Deepfake 侦测工具。
近日，微软推出两项最新 Deepfake 侦测技术，不过目的是保护美国大选免受假讯息威胁。
Deepfake 伪造政治言论
近几年，有关政界的假资讯充斥社交网络。
据普林斯顿大学教授 Jacob Shapiro 最新研究结果，2013~2019 年，社交媒体累计发起 96 次政治运动，多为诋毁政客、误导公众、激化辩论等。
涉及 30 多国中美国占 26%，其他国家有亚美尼亚、澳洲、巴西、加拿大、法国、德国、荷兰、波兰、沙特阿拉伯、南非、台湾、乌克兰、英国和也门等。
这些运动 93% 为原创内容、86% 夸大的内容、74% 歪曲客观事实。报告还显示，关于 COVID-19 大流行的假资讯导致大量人们死亡和感染。
Deepfake 出现和发展，再次为制造假资讯提供更方便的路。YouTube 有关 Donald Trump、Barack Obama、Elon Musk 等名人政客的假换脸影片屡见不鲜。
▲ 川普的脸无缝贴到演员（Alec Baldwin）身上，发表与本人不相关的言论。
影片虽多为网友恶搞，但美国大选在即，难免有人利用这项技术扰局。而 Deepfake 的深度造假能力，以及对政界可能产生的影响，也早有先例：
2018 年，加蓬（非洲中西部国家）总统 Ali Bongo 因病消失数月，为了打消外界图谋不轨的猜测，-发表一支 Ali Bongo 录制的新年致辞影片，这支由 Deepfakes 技术合成的影片，差点引发军方兵变。
2019 年，一段关于马来西亚经济部长 Azmin Ali 与男性发生性关系的影片在网络疯传（同性性关系在马来西亚属违法）。虽然 Azmin Ali 声称这段影片是用 Deepfakes 技术假造，是政治阴谋，但国际专家声称找不到伪造迹象。
CNAS 技术与国家安全项目主任 Paul Scharre 曾警告，Deepfakes 有极大破坏性，利用它操控选举只是时间问题。
另外，今年美国因武汉肺炎疫情肆虐，美国大选期间所有活动几乎都改为线上，无疑为伪造假言论提供许多素材。
微软近日宣称最新研发的 Deepfake 侦测工具，可有效帮助用户辨识假资讯，目前已经与多家媒体合作，保护美国大选期间免受假消息的威胁。
捍卫民主，微软推出 Deepfake 侦测工具
Deepfake 侦测是微软“保护民主”计划之一。该计划于 2018 年启动，截至目前陆续推出 Election Guard、Account Guard，Microsoft 365 for Campaigns 和 Election 等多项技术，并广泛用于政治活动。
除了以上技术，针对 Deepfake 可能带来的政治威胁，研发了两项最新侦测技术。
其中一项为影片认证器（Video Authenticator）。Deepfake 广泛用于影像、音讯和影片造假，其中影片是常用且可信度更高的方式。影片认证器可在影片播放每帧与原图即时比对，并分析资料，工作原理是侦测人眼无法察觉的深伪、细微褪色或灰阶元素的混合边缘。
（Source：微软）
影片认证器透过 DeepFake Detection Challenge 数据库测试，数据库是训练和测试 DeepFake 侦测技术的领先模型。
今年 Deepfake 挑战赛，参赛团队基于此数据库在辨识虚假准确性最高达 80% 以上，黑盒测试准确率最高达 65%。
但由于数据库使用有一定限制，影片认证器的训练是透过建立 Face Forensic ++ 资料集完成。
目前这项技术已与 AI 基金会达成合作，AI 基金会是位于旧金山的商业和非营利性企业，使命是将 AI 力量和保护带给全世界每个人。透过这种合作关系，影片认证器可供参与民主程序的组织（包括新闻媒体和政治运动）广泛使用。
不过，影片认证器仅透过 RD2020（Reality Defender 2020)使用，因将指导组织透过任何 Deepfake 侦测技术固有的局限性和道德考量。
除了对侦测已有资讯，微软另一项技术，是支援从资讯源头杜绝伪造。微软部落格写道：
从长远来看，我们必须寻求更有力的方法来维护和证明社群媒体资讯的真实性。 目前几乎没有任何工具可帮助读者确信网络看到的资讯来源可靠，且没有被篡改。今天我们宣布的技术，既可侦测受操纵的内容，又可以向人们保证收看的媒体是真实的。
具体来说，这项技术有两个组成部分。 第一个是内建于 Microsoft Azure 的工具，使内容制作者向内容片段添加数位函式（Digital hashes，又称数位杂凑）和证书（Certificates）。函式和证书将内容当成数据储存在任何网络可传递的地方。
第二个是阅读器，可当成浏览器延伸或其他形式，检查证书并符合函式值，让人们高度准确知道内容是真的，没有被变更，并提供关于谁制作的详细资讯。
此技术由微软研究院、微软 Azure 与捍卫民主计划（Defending Democracy Program）合作开发，并与英国广播公司（BBC）、加拿大广播电台和《纽约时报》等多家媒体公司组成合作伙伴关系。
- Microsoft launches a deepfake detector tool ahead of US election
- Microsoft Debuts Deepfake Detection Tool to ‘Combat Disinformation’
- Microsoft’s Deepfake Detection Tool Uses ‘Confidence Score’ To Find Fake Content
（本文由 雷锋网 授权转载；首图来源：微软）
延伸阅读：
- 伪造 CEO 语音骗走 712 万元，语音版 Deepfake 诈骗案正在兴起
- 20 种“AI 犯罪”危险度大排名，Deepfake 引领其他 5 种 AI 成新型犯罪催化剂
- 美国登月失败影片流出？原来是 MIT 要世人防范 Deepfake 的造假影片
