专题演讲嘉宾：伏光莲

企业 AI 应用正从验证走向规模化，基础设施需要系统性解决算力利用、训练/微调、部署/推理与治理等问题。本演讲聚焦工程实践，围绕异构算力的统一接入与调度到训推一体化的端到端方案，展开国产芯片适配与算子兼容、并行与通信优化（拓扑感知、带宽优先、KV-Cache）、推理成本工程（量化/切分/混部）、以及可靠性与运维（SLO、故障域、观测性）与安全合规（身份、审计、数据边界）等关键议题。结合电力、能源、制造、金融与互联网场景，给出可复现配置、指标与权衡，并复盘典型反模式与踩坑。目标是提供一套可迁移的工程基线，帮助团队在规模化场景下降低 TCO、稳定达标 SLO，加速从 PoC 到生产化落地。

演讲提纲：

1. 引言：企业大模型应用的算力挑战
   • 大模型算力需求的指数级增长（逆摩尔定律，每3-4个月翻番）
   • 当前，企业在推进 大模型规模化工程落地时普遍面临以下挑战：
     • 国产芯片模型适配速度慢，拖慢业务创新
     • 推理性能与成本难以兼顾，制约规模化应用
     • 可靠性要求高，系统容错与运维能力不足
     • 模型输出质量与稳定性影响应用可信度
     • 安全与合规压力持续加大
   • 国产芯片与异构算力整合的必要性与战略价值
2. 异构算力整合的技术路径与实践方案
   • 硬件层：多元芯片的协同创新
     • 国产芯片突破：昇腾等性能接近国际水平
     • 异构计算架构：CPU/GPU/FPGA/ASIC的差异化优势与组合策略
     • 高速互联技术：PCIe、NCCL、NVLink等提升通信效率
   • 软件层：跨平台调度与优化
     • 推理加速技术：模型量化、采样、并行、调度与大EP＋PD分离策略
     • 模型微调：多lora适配
     • 异构云模式：解决异构、异域、异属算力的统一管理
     • 平台化实践案例
   • 未来发展趋势
     • 芯片技术：异构GPU集成与存算一体架构突破内存限制
     • 算法演进：MoE架构（PD分离，AF分离）与轻量化技术降低端侧部署成本
     • 产业生态：算力交易市场与普惠化发展趋势
3. 总结与展望

听众收益：

• ​了解可落地的“选型—适配—部署—优化”方法：快速引入并筛选模型（模型库+评测基线+Multi-LoRA），统一接入异构/国产芯片并进行推理加速（KV/Prefix/Continuous Batching、PD 分离），附关键指标与权衡，直接用于工程决策与落地。
• 获得稳定性与安全的工程清单：多租户隔离、精细化权限与全链路审计、限流与抗攻击、分钟级恢复与秒级弹性扩缩容；在大规模并发下实现“高性能、低成本、可合规、可运维”。