近两年，预训练技术给自然语言处理领域带来了持续不断的技术变革，其使用海量无监督的数据学习通用的语义表示，并使用统一的范式解决各类自然语言处理任务。该技术的突破性发展给自然语言处理技术应用到各行各业带来了全新的机遇。在该领域，百度发布了文心（ERNIE）语义理解技术与平台，在语言理解、文本生成、跨语言理解、跨模态理解等多个领域取得一系列突破，并在百度搜索、小度音箱、信息流推荐等一系列产品中发挥了重要作用，同时通过百度智能云助力金融、通信、教育、互联网等各行业的智能化升级。2020 年，文心荣获了世界人工智能大会（WAIC）最高奖项 SAIL 奖和中国人工智能学会优秀成果。今年 7 月，文心发布了知识增强大模型 ERNIE 3.0，取得 54 个中文 NLP 任务世界最好效果，并在国际权威的复杂语言理解任务评测 SuperGLUE 上登顶全球榜首。

本次演讲主要介绍百度文心语义理解技术的最新进展和应用实践。

演讲提纲：

1. 语义理解技术简介
2. 文心（ERNIE）最新进展
   • 知识增强大模型 ERNIE 3.0
   • 多粒度语言知识预训练模型 ERNIE-Gram
   • 基于回顾式建模的长文本预训练模型 ERNIE-Doc
   • 基于多流机制的预训练语言生成模型 ERNIE-Gen
   • 知识增强视觉-语言预训练模型 ERNIE-ViL
3. 文心（ERNIE）应用实践
   • 文心应用实践案例
   • 文心应用工具详解

你将获得：

• 了解 NLP 预训练技术的前沿进展
• 了解文心应用实践方案，解决业务实际问题