“Deepfake 兴起，让影片和音乐不再是记录历史的可靠证据！”近日一则电影片段在 YouTube 爆红，2 位主演分别是好莱坞顶级巨星席维斯·史特龙（Sylvester Stallone）和阿诺·史瓦辛格（Arnold Schwarzenegger）。
（Source：影片截图）
然而短片爆红的原因不是两位巨星，而是逼真的合成效果。这部名为《烂兄烂弟》的电影主演是另两位演员，短片创作者利用 Deepfake 将脸部替换成两位巨星。
短片中人脸自然、毫无痕迹的融合效果，让不少网友惊叹太恐怖。但更让人觉得恐怖的是短片背后，Deepfake 愈演愈烈的负面应用。自 2017 年，某 Reddit 用户首次用来伪造色情影片开始，Deepfake 造假逐渐渗透到政治、媒体等多领域，甚至还威胁到今年美国总统大选。
同时伪造品数量也逐年增长，特别是 2020 年再次创下历史新高，达 49,081 个。
那么，快速增长的 Deepfake 有哪些特点，有哪些应对措施？
Deepfake 泛滥成灾，增长率逾 330%
近些年，电脑视觉技术开始飞速发展。尤其是 2014 年生成式对抗网络（GAN）提出，让图像和影片合成不断取得惊人效果。
2017 年，这项技术被不良分子用来伪造一支色情影片，自此人们称为“Deepfake”，后来 Deepfake 负面应用不断发酵，并逐渐涵盖图像、影片乃至音讯领域。
具体来说，Deepfake 主要是篡改和重新编辑人脸，包括表情修改，换脸、换嘴型、合成新脸 4 种模式。其中换脸和对嘴是 Deepfake 最主要的应用模式，破坏性和杀伤力也最强，如篡改政客演讲及伪造色情影片。
值得注意的是，造假者无需了解这些修改模式背后的技术原理，诸多开源软件已经可让人轻松制造假内容。如 DeepFaceLab 之类工具，任何人都可拍一张图片或影片，就替换或操纵人脸。
技术的普及和便捷性，让造假品数量成等比级数增长。根据安全分析公司 Sensity 最新结果显示：
自 2018 年 12 月以来，Deepfake 网络造假品数量约每 6 个月翻一倍。
2019 年 7 月 Deepfake 总数达 14,678 个，相比于 2018 年 12 月 7,964 部造假影片增加近 100%。截至今年 6 月，造假影片多达 49,081 支，比 2019 年 7 月增长 330% 以上。
色情影片占比最高，美英成重灾区
2019 年，14,678 个公开的 Deepfakes 作品，假色情影片就占 96%。
据 Sensity 调查分析显示，Deepfake 制作色情作品的目标对象超过 95% 来自影视娱乐业，只剩下一小部分来自商业、新闻媒体及政治领域。
今年影视娱乐仍是涵盖最广的行业，占 62.7%，加上时尚类别（21.7%）和运动类别（4.4%），总计占所有目标 88.9%。
其中娱乐行业 62.7% 占比，来自 Instagram、Twitch 及 YouTube 等社群媒体的目标数量显著增加。同时商业（4.1%）和政治（4%）背景的目标也有增加。
值得注意的是，上述 4% 政治背景的目标对象，主要集中于知名政客，如川普、奥巴马等。在信息时代，利用这些政客身份伪造虚假政治言论，可能会造成灾难性成果。
尤其随着技术提升，伪造品越来越难以用肉眼分辨。去年，一名马来西亚政治家就因涉嫌从事同性恋活动的影片被判入狱（马来西亚同性恋是非法的），但后来证实影片是 Deepfake 伪造。
另外，比利时政治团体也曾利用 Deepfake 伪造一段川普关于巴黎气候协定的演讲影片，当时造成不小轰动。
总体来看，大部分有关政客的假作品多以讽刺为目的。
另外，这些虚假作品有明显的地区分别特点。从 Sensity 的统计结果来看，政客伪造品主要集中西方国家，尤其美国和英国；同时韩国和印度今年也成为主要目标。
美国和英国整体占据 61%，超过一半。韩国（9.6%）、印度（5.0）和日本（4.0）也构成很大一部分。总体来看，说明亚洲的政治造假活动持续增长。
反 Deepfake 技术有哪些？
Deepfake 的危害无需再多说。为了应对日益泛滥的伪造品，学、政界和各大企业也在联合发力，研发反 Deepfake 技术。
值得一提的是，Kaggle 和 Facebook 已经举办了多场 Deepfake 探测器研发竞赛，并收集大量用于训练的数据集。
Deepfake 检测器主要透过对大量图像和影片进行训练，从中查找不同的 Deepfake 标识符来鉴别内容真伪。目前最先进的监测手段，分为以下几种：
- 人脸 X 射线（ Face X-ray）检测：它是一种将假脸重新混入目标图像或影片，以从中寻找边界的方法。经过 FaceForensics 数据集上测试，精准度可达 99% 以上。
- 背景差异检测：该方法透过将人脸区域与背景区域进行对比，从中寻找微小差异以辨别真假。
- 情绪辨识网络（Emotion Recognition Network）：该方法透过检测脸部情绪是否与场景上下文或音讯内容相匹配，来确定影片是真是伪。
- 生物学信号：透过检测影片目标的心跳并分析该信号的残差确定真假，该方法的准确率已达到 97.29%，同时还可以检测背后所用的 Deepfake 模型。
以上大多数这些 Deepfake 检测方法都没有可用的开源程式码，不过，目前也有一些商业上可用的 API，例如 Sensity、Deepware，以及微软的 Video Authenticator。
此外，要说明的是，虽然人脸 X 射线检测法精准度已经达到 99%，但它仅限于 FaceForensics 数据集，对于“Wild”数据集可能并不适用，很多其他检测工具也是如此。
一位研究人员证实说，他上述某款模型用于《Step Brothers》和川普伪造影片检测，结果并不能证伪。尽管川普的伪造影片有明显的缺陷（嘴边周围有合成痕迹）。
因此，在特定 Deepfake 检测数据集上表现良好的模型，在现实世界中也不一定达到理想效果。
但庆幸的是，高品质的 Deepfake 造假品仍需要人工干预来完善输出，这会极大地减慢传播速度，并为改进 Deepfake 检测模型提供时间。
- The State of Deepfakes in 2020
- Deepfake Threat Intelligence: a statistics snapshot from June 2020
- Spectacular The Irishman deepfake blows away the original
（本文由 雷锋网 授权转载；首图来源：Facebook AI）
延伸阅读：
- 伪造 CEO 语音骗走 712 万元，语音版 Deepfake 诈骗案正在兴起
- 美国登月失败影片流出？原来是 MIT 要世人防范 Deepfake 的造假影片
- 病毒式传播！Deepfake 一键合成成人色情影片，遭各大平台封杀
