GenAI时代,从容应对数据驱动的 AI 带来的 I/O 挑战

所属专题:大模型在企业中的成本优化实践

嘉宾 : 汤文军 | Alluxio 资深架构师

会议室 : 天山厅

讲师介绍

专题演讲嘉宾:汤文军

Alluxio 资深架构师

专注于云原生以及分布式缓存技术。曾在联想研究院负责私有化容器产品以及内部基础架构平台,后期致力于腾讯云云原生产品 TKE 在边缘计算以及 AI 领域的探索,拥有超过 10 年的容器相关领域的产品架构经验。当前致力于云原生和数据编排领域的融合,以推进 AI 场景下的计算性能优化。

议题介绍

演讲:GenAI时代,从容应对数据驱动的 AI 带来的 I/O 挑战

在以数据驱动的 AI 时代,高效访问存储中的大量数据对于模型训练和服务至关重要。然而,I/O 挑战往往会阻碍性能并限制 GPU 的利用率。在本次会议上,我们将介绍基于 Alluxio 构建的高性能数据访问层,如何克服 I/O 挑战并显著提高 GPU 利用率。通过丰富的用户案例和实验数据,您将了解在 Alluxio 中缓存数据集和模型的方法,将带来多大幅度的性能提升。目前,全球市值前十名的互联网公司中,已经有九家在生产环境中使用了 Alluxio。

演讲提纲:

  1. 介绍常见的 I/O 挑战及其对 GPU 利用率和整体性能的影响
  2. 如何将高性能数据访问层无缝集成到 ML 流水线中,以减少 I/O 开销
  3. 提高AI工作负载性能的缓存策略
  4. 增强数据访问和加速AI工作负载的未来方向
  5. 行业应用案例分享

听众收益:

  • 将深入了解到由数据驱动的AI工作负载所带来的 I/O 挑战,
  • 并了解如何将 Alluxio 作为一种有效解决方案加以利用,从而消除数据加载瓶颈,最大限度提高GPU利用率,以及加速了人工智能工作负载等方面。

交通指南

北京丰大国际大酒店

Beijing Fengda International Hotel
地址:北京市大兴区荣华中路20号
  • 微信咨询

  • 电话咨询

    联系电话:13269078023

领取往期热门演讲视频

领取往期热门演讲视频二维码
如您在购票过程中遇到问题,请扫码咨询票务小助手