Google 日前于 Google IO 大会展示 Smart Compose 技术，能在使用者撰写电子邮件时，只需输入前半段语句，系统就会自动预测并推荐适合的后半段内容，有效增加文字撰写速度并提高生产力。这种技术最大的挑战，就是该如何让人工智能了解自然语言，并产生恰当的语句。
从自动回覆进步到自动撰文
先前 Google 曾推出 Smart Reply，分析 Gmail 信箱收到的电子邮件，并自动产生多组回覆范本，方便使用者快速点选并回信。这次推出的 Smart Compose，则是将功能提升到新境界，在使用者撰写电子邮件的过程中，即时预测接下来的语句，并以类似自动完成的方式，协助使用者完成后半段语句。
不过两者毕竟还是有许多不同。传统的自动完成是透过记录先前输入过的语句，并在侦测到输入相同内容时，将后半段语句显示出来，输入地址等长用固定语句时能发挥很大的功能，但并没有「凭空产生语句」的功能。Smart Compose 则是透过人工智能与机械学习的方式，来产生有意义的回覆。
Smart Compose 设计主要有三大考量，首先系统的反应速度要很灵敏，需要在 0.1 秒内即时产生回覆。再来需要提供不同类型邮件内容的准确分析，以满足超过 14 亿 Gmail 使用者的需求。
最后则是为了确保使用者的隐私，所以限制开发人员接触邮件内容，这也意味着开发人员要在无法阅读邮件的前提下，设法训练深度学习系统。
透过 TPU 提生效能
为了要满足即时显示预测语句的目的，开发人员舍弃 Sequence-to-Sequence 序列式自然语言分析，改采融合 Neural Bag-of-Words （BoW）与 RNN Language （RNN-LM）等语言产生模型（Language Generation Model）的技术，能在牺牲少量预测精准度的情况下提升运作速度。
在决定模型之后，下一步就是要调整模型的 超参数 （Hyperparameter，在系统开始学习之前设定的参数），并透过数十亿则范例来训练系统，并使用 TPU 进行训练工作，以缩短训练所需花费的时间。
在系统训练完成后，若使用一般处理器进行运算，产生语句预测大概也需花费数百毫秒的时间，仍无法满足使用上的需求。因此 Google 仍然依赖 TPU 进行运算，能让所需的时间缩短至数十毫秒，并大幅提升单一服务器能够同时处理的工作数量，
开发团队表示他们会持续改善预测语句的品质，并采用最先进的训练方式进行实验，一旦这些新的技术能够满足低延迟等条件，就能正式应用于 Smart Compose。此外开发团队也着手于个人化的语句模型，以求更加精准模拟每个使用者的文笔风格。
（本文由 T客邦 授权转载；首图来源： pixabay ）
