本次讲座将介绍文本表示和文本生成方面的近一年重要进展。文本表示和生成是两个不可分割的任务。今年包括ELMo、GPT、BERT等新工作通过上下文语境对词向量建模。而今年也有一系列工作寻找最优表达句子的树以及研究基于树结构表示句子中的决定性因素。利用更好的表示，我们改进了翻译模型中过翻译和欠翻译的问题。我们也将介绍利用监督和非监督的方法训练模型根据关键词生成句子，进而推广到一般受限文本生成。基于这些技术，我们研发的写稿机器人已经写作超过6万篇文章跨6个语言，拥有12万多粉丝关注。我们也将介绍文本生成在搜索和广告等场景中的应用。

演讲提纲：

1. 写稿机器人概述
2. 句子表示
（1） 上下文相关向量话表示ELMo、GPT、BERT
（2） 树结构的神经网络句子表示
3. 机器翻译中的词覆盖问题
（1）词覆盖模型
（2）Past-and-future模型
4. 受限文本生成
（1）监督方法
（2）非监督贝叶斯采样方法CGMH
（3）时间序列补全模型
5. 应用介绍

听众收益：

1. 了解机器写稿、文本生成和翻译的工业界应用
2. 了解文本句子表示的最近一年新进展
3. 了解文本生成中的监督和非监督方法