讯飞星火大模型训练挑战和技术方案详解

所属专题:大模型训练

嘉宾 : 张海俊 | 科大讯飞 内核技术部 副总监

会议室 : 会议室 4+5

讲师介绍

专题演讲嘉宾:张海俊

科大讯飞 内核技术部 副总监

议题介绍

地点:会议室 4+5
所属专题:大模型训练

演讲:讯飞星火大模型训练挑战和技术方案详解

演讲提纲:

  1. 整体介绍挑战:涵盖数据处理、训练和调度、云服务
  2. 介绍海量数据处理的关键挑战和解决方案:
    •  认知、图像、语音领域数据的技术解决方案
    •  数据清洗方案基于集群的处理方案
  3. 大模型训练的挑战
    •  大模型训练关键挑战:算力墙、内存墙、效率墙
    •  超大模型解决方案:算力上多维并行
    •  非计算的效率优化
      •  数据离线处理
      •  权重加载和报错
      •  通信建链优化
    •  基于框架+平台的超大训练的容错和稳定性保障
  4. 基于国产生态的训练优化技术
    •  算子的高性能优化:针对精度和 Shape 的极致优化
    •  结合国产芯片通信特点优化-优化通信和计算掩藏
    •  训练算子融合 
  5. 模型的低比特量化方案

听众收益:

  • 了解讯飞模型训练踩坑经验

交通指南

北京乐多港万豪酒店

Beijing Marriott Hotel Changping
地址:北京市昌平区南口路29号
  • 微信咨询

  • 电话咨询

    联系电话:13269078023

微信联系我们

如您在购票过程中遇到问题,请扫码咨询票务小助手