5月份,在 Google I/O 2018上,智能预测拼写功能: Smart Compose 惊艳全场,该新特性利用机器学习,交互式地为正在写邮件的用户提供补全句子的预测建议,从而让用户更快地撰写邮件。而近期, Google 大脑团队首席软件工程师 Yonghui Wu 在 Google AI Po 给我们带来介绍 Smart Compose 的博文。
据博文介绍,Smart Compose 基于此前智能回复 Smart Reply 技术开发而来, Smart Compose 提供了全新的方式来帮助用户撰写邮件。Google 在开发 Smart Compose 的过程中,遭遇到了以下这些关键挑战:
· 延迟:因为 Smart Compose 需基于用户的每一次输入来提供预测,所以它必须提供 100毫秒以内的理想预测,这样用户才察觉不到任何延迟。这时候,平衡模型复杂性和推理速度就成了一个需要解决的关键难题。
· 用户规模:Gmail 拥有超过 14亿的各种用户。为了面向所有用户提供自动组句预测,模型必须拥有足够强的建模能力,这样它才能精细地在不同上下文中提供定制建议。
· 公平性和用户隐私:在 Smart Compose 的开发过程中,Google 需要在训练过程中处理潜在偏倚的来源,并遵守像 Smart Reply 功能一样严格的用户隐私标准,以确保模型不会暴露用户的隐私信息。另外, Google 的研究人员也不 具备查看用户邮件的权限,这意味着他们不得不在一个自己都无法查看的数据集上开发和训练一个机器学习系统。
· 未来研究: Google 将持续地研究改良语言生成模型的预测质量,为此Google会通过使用最先进的构架(如Transformer,RNMT+等)和试用最新、最先进的训练技术来实现这一目标。一旦模型的实验结果满足了 Google 的严格延迟约束条件,Google 就会把这些更加的先进模型部署到自家产品上去。另外,Google 还在进行结合个人语言模型的研究,该模型的目的是给系统增加一个新特性,让它能够更加准确地模拟每个用户自己的写作风格。
那么用户如何才能体验到这项功能呢?首先,你需要使用最新版 Gmail,点击右侧的“设定”,在面板中勾选“实验功能存取权”框为启用,然后点击底部的保存按钮。一旦激活这个选项之后,用户就可以尝试新建邮件,然后当你输入的时候就会看到 Smart Compose 功能提供的推荐内容,如果喜欢推荐的内容只需要按下 Tab 按键就会自动生效。