换脸 App ZAO 爆红后，不少人担心自己的脸部资讯泄露后，刷脸支付会被破解进行盗刷，虽然后来支付宝表示 AI 换脸无法破解刷脸支付，但已经有人开始利用 AI 语音合成软件进行诈骗了。
据《华尔街日报》报导，有骗子透过 AI 合成的语音，冒充一家英国能源公司德国母公司的 CEO ，成功诈骗该公司员工进行大额转账，成功骗走了 22 万欧元（近台币 770 万元）。
AI 语音真有这么逼真吗？据称这家英国能源公司的 CEO 接到自称是德国母公司 CEO 的电话，要求他将一笔 22 万欧元资金转账给一个匈牙利供应商，十万火急，必须在一个小时之内完成。
这位英国 CEO 一开始并没有意识到有什么问题，他表示对方操著德国口音，语调也跟德国母公司的 CEO 几乎一样，因此他不觉得可疑，就把款项转了过去。
有意思的是，在收到这笔转账之后，骗子还没有收手，而是再次打电话，要求英国公司向德国母公司进行一笔汇款来偿还一些费用，不过这次的电话号码却显示来自奥地利，英国公司这才开始怀疑，没有再次转账。
这起案件发生在今年 3 月，事后调查发现，这 22 万欧元并没有转给所谓的匈牙利供应商，而是被转移到墨西哥等多个国家。
幸运的是，这笔损失并不需要这家英国能源公司承担，而是全部由投保的保险公司 Euler Hermes 负责。警方对这起事件进行调查后发现，骗子用了一种 AI 语音合成软件来模仿德国母公司 CEO 的声音，但至今仍无法找到幕后的诈骗者。
该保险公司的反诈骗专家 Rüdiger Kirsch 表示，他们之前从未处理过使用人工智能进行犯罪而造成的索赔案件，这种透过 AI 技术进行诈骗的模式也被称为 vishing（语音网络钓鱼）。
更令人担忧的是，这起案例很可能不会是个案，随着这样的 AI 技术不断进步，且门槛逐渐降低，类似的 AI 语音诈骗很可能会一发不可收拾。
根据一家开发语音诈骗软件的网络安全公司的调查报告，从 2013 年到 2017 年，语音诈骗的数量增长了 350%，其中每 638 个诈骗电话中就有一个是机器合成的。
实际上我们很多人可能都已经接到过 AI 打来的电话，这些 AI 电话的对话、语调都和真人十分相近，每个机器一天能打 1,000 通电话，效率远高于人类。
而 DeepFake 技术现在已经发展到可以任意篡改影片和语音，之前史丹佛等几所学校发布了一项新研究，只要输入任意文本，就能让影片中的演讲者说出对应的话，还能修改原影片的语句，比如将电视台主持人报导的“苹果股价收盘于 191.45 美元”的数字改为“182.25 美元”。
尽管这两个数字的发音和嘴型完全不同，但几乎看不出修改痕迹。研究者经过调查发现，59.6% 的受试者认为被修改过的影像是真的，这项技术成功骗过了大部分人的眼睛。
这些 AI 技术不断发展，逐渐就出现像 ZAO 这样便捷、低门槛的工具，让每个人可以使用类似的机遇合成换脸影像，或者模仿别人的声音，同时也难以避免被不法分子利用在犯罪用途。
（本文由 爱范儿 授权转载；首图来源：Unsplash）
延伸阅读：
- 中国制 ZAO 变脸 App，变身电影主角后引发隐私问题
