随着人工智能(AI)技术持续进步,图像辨识系统已广泛存在日常生活,一些装置也开始运用脸部辨识技术来认证身份,但这项技术的安全性真的无懈可击吗?
正如同先前迷幻贴纸、棉花田演唱会图片的研究,研究人员正试图透过测试任何潜在的骇客手段,让图像辨识技术能更安全。来自中美两国研究团队近日在 arXiv 平台公布了一篇论文,详细介绍他们发现如何欺骗“脸部辨识”应用的细节。
▲ 帽子中放置的红外线 LED。(Source:Zhe Zhou)
其实团队的概念非常简单,要欺骗脸部辨识应用,最直接的就是为受辨识者“替换”一张脸。为了达成这点,团队先运用深度神经网络解读一些人物脸部图像,再透过棒球帽连接的微型红外线 LED,将解读过的人脸图像运用无数个红外线光点投射到受辨识者脸上,达成掩盖身份的效果。
当然,由于投射的是其他人脸孔,只要概念成功,以脸部辨识系统为身份认证的前提下,让受辨识者冒充他人身份也可以做到。
为了检验这项理论,研究团队选择了 4 张随机照片尝试欺骗脸部辨识软件,包含了美国音乐人魔比(Moby)的照片。研究人员实验发现,只要受辨识者与投射脸孔来源长相有些微相似,欺骗脸部辨识系统的成功率约可达到 70%。
▲ 下方第一列数字指的是受辨识者与投射脸孔来源对象的距离,第二列则是理论上应用后的差距,第三列则是实际差距。(Source:Zhe Zhou)
由于红外线(Infrared)是一种非可见光,人们单凭肉眼无法察觉,同时贴在帽沿内侧的 LED 体积也非常小,甚至也可以藏在其他穿戴物里使用,即使有人类保全也很难察觉系统被欺骗的情况,这让被利用的可能性又更提升。
当然必须提及的是,这只是一个小型研究,还未经过同行评审,因此可能有些争议,但基于这些研究结果和测试,团队认为以身份认证或监控关键场景的需求来说,现今的脸部辨识技术距离安全可靠还有很长一段距离。
“相关研究者应该更关注红外线的威胁性。”
- This Hat Can Fool a Face Recognition System Into Thinking You’re Moby
(首图来源:shutterstock)
延伸阅读:
- Google 研究员用一张简单贴纸,成功吸走图像辨识系统的所有目光
- 在进入社会实际应用前,Google 要让 AI 向人类学习如何“看”图片