专题演讲嘉宾:张力寰

零一万物AI Infra分布式训练优化架构师

负责训练性能优化和新特性的设计开发,有多年性能优化工程经验

by 张力寰

零一万物
AI Infra分布式训练优化架构师

本次演讲主要介绍千亿模型训练过程中的训练优化实践经验,如何在 MFU 和 Goodput 两个维度提升模型训练的效率。其中包括分布式训练策略、异步存储 CKPT、FP8 训练经验分享、MOE 训练优化分享等。

演讲提纲:

  1. 模型训练硬件利用率影响因素
  2. 提升分布式训练效率
  3. 异步存储 CKPT
  4. FP8 训练经验分享
  5. MOE 训练经验分享
  6. 总结与展望

听众收益:

  • 了解大模型训练优化方法
  • 了解 FP8 训练相关经验
  • 了解 MOE 训练相关经验

交通指南

上海中谷小南国花园酒店

China Grain Hotel
地址:上海市杨浦区佳木斯路777号(近营口路口)
  • 微信咨询

  • 电话咨询

    联系电话:13269078023

微信联系我们

如您在购票过程中遇到问题,请扫码咨询票务小助手