时间:2024年8月18日-8月19日
地点:上海中谷小南国花园酒店
购票电话:13269078023
负责训练性能优化和新特性的设计开发,有多年性能优化工程经验
本次演讲主要介绍千亿模型训练过程中的训练优化实践经验,如何在 MFU 和 Goodput 两个维度提升模型训练的效率。其中包括分布式训练策略、异步存储 CKPT、FP8 训练经验分享、MOE 训练优化分享等。
演讲提纲:
听众收益:
微信咨询
电话咨询
微信联系我们