随着 AI 大模型迈入“通用人工智能（AGI）”加速发展的新阶段，算力需求呈指数级增长，如何构建具备高性能、高可靠性与可持续性的 AI 基础设施，成为支撑大模型演进的关键课题。尤其在国产化进程加速的大背景下，如何有效调度和利用包括 NVIDIA 及多种国产芯片在内的“异构算力集群”，成为当前业界普遍关注的技术挑战。

本次分享将结合商汤在“大装置 SenseCore”体系下的实战经验，探讨异构算力集群在资源调度与系统优化中的关键技术路径。内容涵盖从底层硬件到上层服务的一体化基础设施架构设计，重点聚焦异构资源的统一管理、弹性调度与高效利用等问题。

演讲将深入解析多芯片协同训练中的核心技术，例如分层集合通信、异步训练、自动负载均衡等，如何帮助系统突破“木桶效应”，实现国产与主流芯片在实际训练与推理中的协同加速，进而支撑如“异构混训”“大规模 EP 推理”等大模型场景的高效落地。

演讲提纲：

1. 背景与挑战：介绍AI大模型时代，算力需求猛增，以及管理“国产+海外”混合算力的核心痛点 
2. 如何构建从基础设施、平台、算法到服务的全栈一体化AI Infra解决方案
3. 如何通过大规模的异构集群调度、通信库优化技术、训练推理优化让不同芯片高效协同
4. 成果与展望

听众收益：

• 了解当前国产异构算力的现状，并获得务实可行的国产算力适配与优化策略，业务迁移至国产算力的可能性和商业可行性
• 学习提升混合硬件集群效率的关键技术与架构思路
• 洞察AI算力基础设施的未来发展方向与国产化趋势