当大家目光在防范 DeepFake 产生假造的政治人物说话影片，或是影剧明星被移花接木演 A 片，有个悄悄潜伏而且更难以防范的危机。交友网站需要妹子，广告文案要呈现多元族群形象，情报员想要靠近目标获取情报，但都不想寻求模特儿。因此采用 AI 生成的不同类型人脸，相当便宜而且想要什么类型都能满足。
当不少人已经习惯在约会网站档案当中，显示艺术照形式个人照片，好像也不能怪业者找来模特儿假冒平台上的女性。如果技术进步之下，连找模特儿拍照建档案都省了，只用 AI 就可以轻易产生以假乱真的档案照，恐怕在被不实讯息轰炸的今日，要花不少精力辨别何者是真何者是假了。
目前 AI 的技术，可以轻易制造人类的影像，而且难以辨别真假，不论是开源的软件，例如 Nvidia 的 SytleGAN，还是兜售技术的新创公司，提供各式各样产生真人影像的实力。如果只是交友约会网站基于宣传目的，在宣传品当中加上各种像真人有不同族裔的人类影像，那还是小事，最怕是诈骗集团拿来运用。
AI 专家警告 AI 生成真人影像的技术，落入诈骗集团、机器人账号可能就是短期敲诈个人金钱。但如果是间谍或是资讯战操作者，搭配适当的档案故事，能轻易建立拥有可信度的假账号，进而在社群网站兴风作浪，传递不实资讯。或者是情报员背后操纵的美女账号，套取华盛顿特区流传的政治情报。
加州大学洛杉矶分校法学院专长为 AI、法律和政策研究的研究员 Elana Zeide 就认为科技进步之下，对比一般人没有多少辨识网络上资讯的权利和知识。相比真实世界容易辨识真假，面对网络上真假难辨的资讯往往束手无策。
▲ Icons8 网站 Generated Photo 提供相当拟真的真人照片生成服务。
Rosebud AI 是其中一家用 AI 生成 25,000 照片组的新创，要解决小型电商苦楚，那就是店家不必花大钱请来模特儿摆拍服饰与配件照片。他们用线上免费且无版权的照片来当制作的材料，商务上则是严格筛选客户，希望他们不要用他们技术在不好的事情上。
AI GAN 技术如 SytleGAN 还是有限制，GAN 算法无法无中生有，而且假若训练的照片缺少某些族裔，AI 并无法在产生的影像当中，凭空生产出来。另外需要的运算能力也相当的大，需要架设服务器以及采购效能好的显卡。
▲ Which Face is Real 网站考验大家辨识能力，要大家挑选哪张不是 AI 生成照片，是真的人脸照片。(Source：Which Face is Real)
不过不少 AI 公司受惠于公有云业者，例如彼此竞争市占的 Google 以及亚马逊，提供新创能够负担的价格。另外不少公司觉得 AI 技术被乱用不是他们责任，而应该使整体社会要想出应对新技术的管理办法。
▲ This Person Does Not Exist 能够给你几可乱真的人类头像。
尽管照片越来越能够用 AI 来自己生成，但是 AI 生成的人脸照片还是有破绽，像是人身体与背景之间处理不干净出现不自然的背景，观察人脸与背景交界处很容易找出破绽，如头发与边界处出现像小水泡的斑点。另外带着眼镜的影像目前模拟的状况也不好，牙齿太对称了，真实的人类牙齿并不对称，还有 AI 产生有 3 个门牙的影像。
▲ 连猫影像也能用 GAN 产生像是真猫的影像。(Source：This Cat Does not Exist)
至于可能因为 AI 被取代的真人模特儿，他们有的担心有的不担心，认为不必担心的人觉得真人摆拍的模特儿仍会存在，至于担忧的人，他们则是说尽管担忧，最终并无法阻止被取代的趋势。
- Dating apps need women. Advertisers need diversity. AI companies offer a solution: Fake people
- Which Face Is Real?
(首图来源：Generated Photo)
延伸阅读：
- 哪张是真脸，专家教你用蛛丝马迹破解合成照
