演讲提纲:
- 整体介绍挑战:涵盖数据处理、训练和调度、云服务
- 介绍海量数据处理的关键挑战和解决方案:
- 认知、图像、语音领域数据的技术解决方案
- 数据清洗方案基于集群的处理方案
- 大模型训练的挑战
- 大模型训练关键挑战:算力墙、内存墙、效率墙
- 超大模型解决方案:算力上多维并行
- 非计算的效率优化
- 数据离线处理
- 权重加载和报错
- 通信建链优化
- 基于框架+平台的超大训练的容错和稳定性保障
- 基于国产生态的训练优化技术
- 算子的高性能优化:针对精度和 Shape 的极致优化
- 结合国产芯片通信特点优化-优化通信和计算掩藏
- 训练算子融合
- 模型的低比特量化方案
听众收益:
- 了解讯飞模型训练踩坑经验





