专题演讲嘉宾：苏中

以DeepSeek为代表的开源大模型创新让普惠“满血大模型”走入千行百业成为可能，而在作为大模型应用基础的算力层面，特别是端侧推理场景，同样也已掀起了一场以开源架构实现普惠高性能算力的“革命”。

传统算力架构因迭代缓慢、成本高昂等原因已逐渐无法适应大模型创新飞速变化的算力需求，开源、开放的RISC-V架构正成为算力架构创新的主力。本次演讲将从算力厂商的角度，介绍开源大模型创新为端侧推理算力带来的机遇与挑战，并分享RISC-V架构如何凭借开源、开放的优势，成为算力架构创新的“最终答案”。

演讲提纲：

1. 大语言模型及其背后算力的发展历程
   • AI语言模型发展的三个阶段
   • 应用于AI语言模型的算力的发展历程
2. 大模型端侧应用的发展情况与典型应用场景分享
   • 大模型端侧应用推动千行百业全面升级
   • 热门应用场景分享（具身智能、汽车等）
3. DeepSeek等开源大模型创新给端侧推理算力带来的新需求与新机遇（算力、内存容量、内存带宽、推理成本等）
   • DeepSeek在算力相关层面的创新技术解析
   • 算力层面的新需求
4. 端侧推理算力领域目前发展所遇到的挑战
   • 算力架构的挑战
   • 软件生态的挑战
   • 算力成本的挑战
5. RISC-V架构如何满足开源大模型的全新需求，实现更普惠的端侧推理应用
   • RISC-V架构的特点介绍
   • RISC-V架构如何针对AI端侧推理打造标杆产品
6. 未来端侧推理场景中，RISC-V架构算力应用落地的展望

听众收益：

• 了解大模型端侧部署中算力层面的发展现状与主流趋势
• 了解开源RISC-V架构的基本情况，以及在AI端侧推理中的应用前景
• 共同探讨开源硬件架构如何与开源大模型创新融合，造就更强大的“普惠大模型”