正如我在上文提到的那样，perplexity 从某处程度上来是一个让人困惑的指标，大的混淆（perplexity）并不反映真正的提升，而是带来楼主“夸大”效应。
这篇论文只提供了语言建模的提升，但是，LM 一般都会被嵌入到复杂的使用场景中，比如语音识别或者机器翻译。如果本论文中提供的 LM 可以分享一下与一些端到端的产品融合的结果，那会更有见解性。鉴于论文的作者在谷歌大脑团队工作，这一要求并不过分。
据我所知，本论文使用的数据库来自新闻报道，这种类型的数据比起口语数据更加规范。在实际的应用中，我们面对的通常是非正式化的数据（比如搜索引擎和语音识别）。论文中提到的最好的模型，能否适应更加实际的应用，目前依然是一个问题。再次的，对于谷歌大脑团队来说，把这一模型融合到既有的系统中进行测试，并不是什么难事。
原文PPT
