当 Deepfake 这种技术开始被普通人所运用时，它的威力也开始显现。约 96% 为色情内容，这对那些莫名成为色情内容主角的人造成了困扰，而当它被用在选举等政治领域时，它的威力也丝毫没有减弱，但对于大多数人来说，Deepfake 中涉及到的人工智能还是太遥不可及了。要打击“假”影片，还是先关注一下影片剪辑软件做出的“假”影片吧。
美国前副总统拜登最近的悲惨遭遇就与影片剪辑造假有关。在那个“假”影片中，剪辑者断章取义地让这位总统候选人看起来像一个种族主义者：“我们的文化不是从非洲国家或亚洲国家引入的，我们的法律文化源于英国。”这段“假”影片的标题是“拜登宣称美国的欧洲身份：我们的文化不是从某个非洲国家引入的。”
群众的愤怒被这条 Twitter 点燃了，20 秒的短影片迅速获得百万的点击量，且该影片还在迅速传播。民众在这条 Twitter 下面把拜登称为白人至上的种族歧视者，说他是右翼，疯狂地辱骂他、抨击他。但在评论区仍有不少用户表示，这段影片删掉了拜登的部分内容，漏掉了重要的上下文，这使得拜登的意思被完全曲解了。CNN 的记者 Daniel Dale 就表示这是一个“假”影片：
一段断章取义的拜登影片在 Twitter 上流传。拜登进行十多分钟的演讲，讲述他反对家暴和性侵的历史，他反复将其描述为一个“文化问题”，认为这可以追溯到宽松的英国法律历史。他讲了一个过去英国法官容忍丈夫殴打妻子的故事。几分钟后，他回到了他的论点，即美国人对虐待妇女的纵容是从几个世纪前的英国人的纵容中衍生出来的。
Biden video going around is cut to make it appear that he’s touting European cultural supremacy and disparaging Asian/African culture. He wasn’t.
Full video below still shows that his terrible skill in speech disqualifies him, but not for that.pic.twitter.com/IHl5uOafZD
— rafael #NoWarOnIran (@rafaelshimunov) 2020年1月2日
从这个角度来说，拜登的真实意图和影片剪辑者想要表达出的意思完全相反，但大家不会花时间去看更长的影片，一一验证消息来源，他们常直接将对方定义为种族主义者。我们现在更应该担心这类任何人都能“做”出的影片，透过断开前后文、忽略语境、断章取义，它可以让每个人的影片都成为被痛批的政治不正确影片。而当每个平台都在用新的技术手段和营运手段来减少 Deepfake 影片的时候，平台对这类断章取义的影片却“束手无策”。Twitter 的发言人就表示，拜登影片的热门推文并未违反公司的规定，他们正在制定一项新的政策来处理被操纵的影片。虽然缺少具体的限定原则，但 Twitter 仍会将其界定为被操纵的媒体内容，只是我们不清楚，Twitter 的新政策是否也能限制这类断章取义的影片。
（Source：Facebook AI）
Deepfake 的神奇之处在于无中生有，将你没有做过的事情用影像来“证明”，它甚至能在真实的影片之上改变你的嘴形和表情，完全改变你想表达的状态和原意。而断章取义的影片则不同，因为那些话都是你真实说出来的，你没办法拍桌子告诉其他人你没说过，你很难让别人知道你的原意被曲解。围观群众哪有那么多的时间呢？他们把你定义为种族歧视者就走了。不管是哪种“假影片”，对我们来说都很可怕。
政治学家 Emily Thorson 就表示，人总是容易受到错误讯息的影响。
我认为，现在真正的挑战在于社群媒体等新技术的即时性、范围和易传播性。在什么情况下，人们更容易接受错误讯息？弄清这个，会引出一些有趣的领域。我们知道语境很重要，但认知、语言、社会和其他因素也会发挥作用。
（本文由 爱范儿 授权转载；首图来源：pixabay）
