目前以大模型为代表的 AI 技术高速发展，目前 Scaling Law 依然生效，模型参数持续增大，序列不断增长，响应速度越来越快，但大模型商业闭环依赖推理的规模落地，如何在不断提升用户体验的基础上不断降低推理成本，以满足大模型规模落地的诉求，成为大模型推理技术研究的核心关键。为了满足大模型推理规模落地对客户体验和成本的诉求，昇腾推出高性能大模型推理软硬件解决方案，满足客户多样性开发诉求，助力大模型规模落地。

演讲提纲：

1. 大模型发展趋势分析
2. 昇腾大模型推理软硬件方案
3. 昇腾大模型推理关键特性
4. 应用案例与关键进展

听众收益：

• 了解昇腾在大模型推理方向的技术探索
• 了解昇腾大模型推理关键特性