专题演讲嘉宾:贾珂

阿里云PAI 训练平台产品负责人

10年+大数据和AI 研发和产品设计经验,专注AI基础设施与大模型训练服务产品研发。阿里云人工智能平台PAI,算力调度和训练服务产品经理,主导大规模异构资源超大规模分布式训练、弹性资源调度等核心模块的架构设计与商业化落地。致力于通过"稳定、高效、高性价比"的云上训练方案,降低千行百业大模型训练门槛,助力技术普惠化。

by 贾珂

阿里云
PAI 训练平台产品负责人

AI时代,大模型训练面临稳定性、效率与成本的三重挑战,而超大规模集群的管理更是难上加难。本次分享将系统解读阿里云人工智能平台PAI的训练服务架构:管理数个超大规模AI训练集群,总规模达数十万张GPU卡。目前该平台已支撑多个行业的大模型训练任务,覆盖不同规模的训练需求与应用场景。

演讲提纲:

  1. PAI平台全景:阿里云PAI 整体设计框架和介绍,"1个构建平台+2大核心服务"架构解析:最佳开发平台 + 超大规模训练 + 推理服务
  2. 云上服务的挑战和设计思路,服务多租户,需要兼具架构设计领先型和使用灵活性。
  3. 超大规模训练的调度,通过多级配额、抢占式调度、竞价实例等机制实现极致性价比。
  4. 超大规模训练的高稳定: 容错训练与自动自愈、秒级模型保存恢复、全链路健康检测与可观测性
  5. 超大规模训练的易用性:深度学习容器化体验;预集成主流框架;一键提交训练任务
  6. 多行业多客户使用场景

听众收益:

  • 可以了解云上大模型商业化产品的深度解析

交通指南

上海虹桥祥源希尔顿酒店

Hilton Shanghai Hongqiao
地址:上海市红松东路1116号
  • 微信咨询

  • 电话咨询

    联系电话:13269078023

微信联系我们

如您在购票过程中遇到问题,请扫码咨询票务小助手