最近遭受道德困境的不只是基因编辑，还有人工智能。在今年夏天的 Google I/O 大会上，Google 向大众展示了一项名为 Duplex 的 AI 新功能──代替你预约理发或餐厅订位。
这项功能之所以这么受人关注和让人激动，最大的原因是接近以假乱真让 AI 用自然语言和人类交流，而人类甚至完全没意识到电话另一头并不是真人，而是 Google 的 AI。
最近，这个服务终于在 Pixel 用户群组小范围测试了。根据 VentureBeat 报导，目前 Google 正缓慢推送这项服务，不是直接正式开放，目前只在“精选城市”中的 Pixel“精选用户”测试，凡是支援这个服务的人上辈子大概都是被选召的孩子吧。
此外。这个服务目前功能也非常有限──哪怕跟 Google I/O 的展示版比。因为目前测试并不支援理发预订（Google I/O 专门展示一段预约理发的影片），只集中在餐厅预订，此外，一些餐厅也因一些不明原因无法支援。
向大众开放 Duplex 是非常好的事，我们终能亲自检验人工智能领域的佼佼者究竟达到何种地步。但最近一些测试，Google Duplex 却让人产生担忧，当然这不是说它在智慧方面超出大众预计，而是整个对话过程，Duplex 都没有告诉对方自己只是 AI 服务。
当 Duplex 预约时只告诉对方“这个电话来自 Google，并可能会被记录”，仅此而已，之后它就按部就班预约餐厅，并在处理完成后挂断电话。
（Source：影片截图）
这显然跟之前的宣传不符，The Verge 表示，Google 今年 6 月 YouTube 的宣传影片，Duplex 会清楚表示是人工智能服务，表示这通电话是透过 Google Assistant 打来并为客户预订。
对于为何会出现不同的处理，The Verge 表示根据熟悉早期测试的人士说，这个测试并不完全由 AI 构成，即一部分来自 Google 员工，其他部分是 Google 的 AI。所以 Google 没有透露人工智能助理的资讯。
显然，人和 AI 的界线被模糊了，因为 Duplex 听起来和真人非常接近，它有停顿、会有各式各样语调和语气词。但对大众来说，这测试会理解为完全使用 AI 进行，而在人和 AI 的对话中，人们非常需要 AI 表明自己的身份。
Venturebeat 表示 Google 需要找到完美的平衡：
准确而智慧，透明而诚实。
另外，Google 也在部落格展示 Duplex 如何工作的。
Google 表示，这是一项透过手机来执行“真实世界”任务的新技术，核心就是面对自然语言的挑战：自然语言难以理解，自然行为难以建模，需要快速处理以及使用恰当的语调进行自然语言发声，都是难点所在。
Google 也明确表示透明度是重要的部分，Google 需要明确告知意图而对方理解前后文，未来几个月 Google 会在这方面继续调整。
（Source：Google）
而让 Google Duplex 的对话听起来很自然要归功于递回神经网络（RNN），为了应对这些挑战采用 TensorFlow Extended（TFX）构建。为了提高精准度，Google 还透过匿名电话的会话数据在数据库训练 Duplex 的递回神经网络；他们还为每个场景专门对理解模型进行了训练，最后透过理解、互动和时间完成 Duplex“口语”的进步。
最后 Google 表示，Google Duplex 朝着像人类和他人互动一样与技术互动迈出了一步，自然语言与人工智能的交流在特定场景成为现实。Google 希望这些技术进步最终有助于改善人们与电脑日常互动的体验。
但就像开头说的，与真人界线的模糊更需要 AI 先验明正身，而不是装作和真人无异，这对人类来说是一件很重要的事，或说需要这种仪式感。随着技术演化前进，AI 可能很快就在大部分语音领域达到接近人类的水准，届时关于人工智能的伦理问题，将更直白地摆到桌上。
从结果讲，人类并不愿意和与真人几近无异的 AI 对话，这会给我们不安全感，类似的事情其实也发生在外貌，著名的恐怖谷理论看来不仅可用在外貌，其实语音也有相似状况。
Oxford Internet Institute 的数位道德实验室博士 Thomas King 就直接表示，Google 这项测试其实就是骗局，假定人类和 AI 已无法区分，那对总机来说，会认为自己一直在和一群机器对话（所以总机也换成 AI 不就好了？），他还能保持和以前一样的沟通方式吗？没有礼貌和更粗鲁是不是也没关系？哪怕接到一通真人的电话，但这种想法或许已在他脑中挥之不去了。
对人类来说，如何思考人与科技的关系已是日常话题，我们也不缺乏相关科幻电影的想像，比如阿诺·史瓦辛格主演的《魔鬼克隆人》就讨论人与克隆人的伦理冲突，2004 年《机械公敌》把艾西莫夫三定律带进大众视野，电影《云端情人》则进一步探讨人类和人工智能的情感问题。
但等到 Duplex 把人类与人工智能的关系在现实中摆出来时，人类可能才发现自己有多么敏感和自我保护。对 AI 没有标明身份这件事，我们已衍生出很多问题和想法，在人与人工智能产生联系的过程中，双方的地位、责任及更多事都会变得难以认定。
某些时候，如果我们忽略一些 Bug，其实电脑是比人类更完美的形态，它们能确实反映出你的行为和如实给你要的结果，但随着人工智能模拟真人越来越像，我们可能更容易和 AI 产生矛盾和摩擦，导致与预期结果不符或受到其他损失。
因为，人类就是如此不完美的生物啊。
（本文由 爱范儿 授权转载；首图来源：shutterstock）
延伸阅读：
- 会打电话的 AI 背后：Google Duplex 技术解析
- 让 AI 帮忙餐厅订位！Google Duplex 技术正式上线
