云原生遇见 AI 基础设施:xPU 节点异常的体系化检测与自愈之道

所属专题:大模型系统工程

嘉宾 : 陈聪 | 蚂蚁集团高级技术专家

会议室 : 秦宫

讲师介绍

专题演讲嘉宾:陈聪

蚂蚁集团高级技术专家

目前负责蚂蚁集团AI基础设施以及大规模Kubernetes集群的稳定性工作。曾就职于搜狗、滴滴和红帽公司,担任架构师及虚拟化工程师。职业生涯中,一直专注于云原生相关技术领域,并热衷于在CNCF技术沙龙、kubecon等活动中分享和学习云原生相关的最佳实践。

议题介绍

演讲:云原生遇见 AI 基础设施:xPU 节点异常的体系化检测与自愈之道

当前智算节点的异常发现、定位、自愈主要依赖事后和被动式的监控工具,如DCGM-Exporter、Device Plugin等。这些方法虽已成熟,但普遍存在滞后性,无法在异常发生前有效预防,且本质是通算场景的延续,未能充分适应智算任务对节点稳定性更高的敏感度,导致智算业务面临更大的潜在风险。

本次演讲将深入探讨我们在智算节点压测拦截方面的创新实践。我们利用云原生Kubernetes的强大调度能力,将一系列定制化压测任务赋能到节点上线前、节点故障后、节点空闲时以及重点任务运行前等多个关键场景。通过这种全天候、立体化、且可任意组合的检查机制,我们实现了对智算节点的深度异常发现,远超传统监控手段。实践证明,这套压测体系能有效识别并阻断携带隐患的节点直接影响在线业务,最终显著提升智算系统的整体稳定性和业务连续性。

演讲提纲 

  1. 1智算节点稳定性的挑战与现状
    • 智算场景对节点稳定性的极致要求
    • 现有异常发现、定位、自愈方法的局限性:
      • 事后被动:无法有效预防业务损失
      • 通用化:未针对智算特点优化,风险承载能力差异
      • 传统工具(DCGM-Exporter, Device Plugin, 日志, nvidia-smi等)的优缺点
  2. 创新理念:主动式压测拦截
    • 从“被动防御”到“主动出击”的思维转变
    • 主动出击的一般思路:前置压测、故障预测等,及其优缺点
  3. 核心实践:基于云原生K8s的智算节点压测体系
    1. 架构设计:如何利用K8s调度能力编排和自动化压测任务
    2. K8s赋能下的多场景压测实践与效果:
      • 节点上线前压测:源头阻断,直接拦截异常节点,确保新节点健康入池。
      • 节点故障后压测:深度诊断,快速定位问题根源,实现节点快速流转(不闲置)。
      • 节点空闲时压测:持续巡检,为节点定期体检保鲜,害群之马及时剔除。
      • 重点任务运行前压测:重保策略,确保千卡、万卡等关键任务的稳定运行。
    3. K8s的灵活性:根据实际异常情况、负载情况,实现压测项与异常场景的任意组合编排。
    4. 智算专属压测项简述与案例分享
  4. 效果与价值
    • 与传统监控手段的对比分析
    • 业务稳定性指标的显著提升:故障率降低、MTTR缩短、有效训练时长增加。
  5. 展望与未来方向

听众收益:

  • 基于云原生K8s实现多场景主动式智算节点压测的先进框架与实施思路。
  • 学习如何利用K8s的灵活调度能力,实现压测项的任意组合与异常场景的动态编排。
  • 了解如何在节点上线前拦截异常、故障后快速定位、空闲时定期体检以及重点任务前重保,全方位提升智算系统稳定性
  • 启发性思考如何将主动式压测思维拓展到其他复杂系统稳定性保障中。


     

交通指南

北京石景山万达嘉华酒店

Wanda Realm Beijing
地址:北京市石景山区石景山路甲18号院
  • 微信咨询

  • 电话咨询

    联系电话:13269078023

领取往期热门演讲视频

领取往期热门演讲视频二维码
如您在购票过程中遇到问题,请扫码咨询票务小助手