自从 AI 深度伪造影片技术出现后,各国普遍担心这项技术将被用来作为资讯战或混合战争工具,但麻省理工学院近日发表一项研究,透过受试者观看伪造影像及伪造文字稿,比较两者之间的影响力,发现影片对受试者的认知判断,与文字没有多大差异。
美国参议院从 2019 年开始,就由共和党籍 Rob Portman 与民主党籍 Gary Peters 两名参议员,推动深度伪装影片专门法案(Deepfake Taskforce Act),认为 Deepfake 影片将很快成为新型态的国家安全威胁。
“由于 Deepfake 技术出现,眼见为凭这种传统认知变得越来越不可靠。”Portman 参议员表示,伪造的影片或图片经过网络,可以在一瞬间欺骗全世界的观众。
麻省理工学院(MIT)为了验证 Deepfake 影片对于人们的认知影响,发起了这项研究,将 7,600 名受试者分为两组,一组观看随机知名政治人物发表政策的 Deepfake 影片,另一组受试者则观看同样内容的文字稿,并用问卷调查两组受试者,是否相信政治人物发表过影片里的政策,以及是否认同政策内容。
研究显示,看过影片的受试者,相信政治人物确实发表过政策的比例,的确高于只阅读文字稿的人,但若比较两组之间对于政策内容的认同度,影片和文字组的受试者几乎没有差别。
“即使影片的确比文字更容易令人相信真有其事,但不代表 Deepfake 影片能真的改变人们想法。”论文主笔之一的 Adam Berinsky 教授表示,虽然 7,600 人规模的测试结论,比起全美国广大选民来说仍属小众,但以研究团队的计算模型来看,影片在实验中之于文字稿的微小优势,放大到全国范围后,因受众的种族、社经背景多元性更高,差距会比实验数据更小。
不过研究团队仍然强调,Deepfake 影片比起其他形式的假讯息,仍然有一项不可取代的优势,就是触及率高,但政治人物的 Deepfake 影片,虽然观看数累积较快,影响力却不见得比文字版的假新闻高。
- Deepfakes Maybe Not Quite the Political Apocalypse We Feared, MIT Researchers Find
- The (minimal) persuasive advantage of political video over text
(首图来源:影片截图)