作为阿里巴巴集团的商业营销平台，阿里妈妈承载着集团电商业务的核心收入。一方面，随着深度学习的广泛应用，算法模型创新日新月异，这就对整个在线服务架构提出了高效快速迭代与持续推升算力供给天花板的挑战；另一方面，我们面对的是CPU/GPU/NPU的硬件资源池环境，如何在在离线混布大背景下，最大化资源利用效率也是一个有趣的挑战。

本次演讲将从搜索/推荐广告的场景出发，结合真实需求，阐述问题的解法、选型与相关思考，从算法-系统-硬件协同优化的角度给出通用与定制优化方案，即如何切实解决超大规模稀疏场景下 DL 复杂模型的异构计算效能问题。

演讲提纲：

1. 阿里妈妈模型服务演进历史与现实挑战
   • 广告场景下模型迭代对算力及系统的需求
   • 业务迭代范式抽象
   • 算力供给与异构计算
2. 算法-软件-硬件（CPU/GPU/NPU）协同优化
   • 软-硬件协同优化：NPU 低精度实践
   • 算法-系统协同优化：广告创意压缩
   • 系统优化：CPU-GPU 异构计算与编译优化
3. 未来趋势发展到一些思考
   • 关于系统评价体系
   • 混布资源池下在线系统的最优化问题
   • 未来系统演进的可能方向

你将获得：

1. 了解阿里广告平台阿里妈妈在线异构计算加速的一些实战沉淀
2. 阿里妈妈广告场景下算法-软件-硬件协同性能优化的一些通用方法
3. DataCenter 中面向算力和超大规模稀疏场景的在线服务未来趋势演进思考