自 OpenAI 发布 ChatGPT 起，大语言模型的惊艳效果吸引了越来越多的人和资本关注到该领域，近年模型本身的参数量和序列长度也呈指数级增长，要面对的算力瓶颈问题接踵而至。本次分享将结合大模型的的算力需求和模型结构，详细介绍零一万物在构建 Yi 模型在线推理服务过程中所运用的优化技术手段，并就此展开讨论。

演讲提纲：

1. 大语言模型算力需求分析及当前增长趋势
2. 大模型结构特征，与传统模型推理优化手段上的差异
3. 零一万物模型推理服务优化技术方案介绍
4. 大模型应用场景与业务落地探讨

听众收益：

• 了解大模型推理算力瓶颈，主要工程优化手段
• 了解大模型应用场景，未来发展趋势