随着人工智能技术的飞速发展，将强大的模型能力部署到端侧设备（如手机、嵌入式设备等）的需求日益增长。然而，端侧设备在计算资源、存储空间和功耗等方面存在诸多限制，给传统的大模型带来了巨大的挑战。本次演讲将首先分析端侧智能面临的关键问题，然后重点介绍当前主流的端侧大模型架构设计方向。同时，也将探讨针对端侧场景的基础算法改进思路。最后，将展望端侧智能未来的发展趋势，并探讨其在各个领域的潜在应用价值。

演讲提纲：

1. 端侧智能的兴起与挑战
2. 端侧大模型架构设计方向
3. 端侧场景的基础算法改进思路
4. 端侧智能的未来发展趋势展望
5. 端侧智能的潜在应用价值

听众收益：

• 了解端侧智能面临的核心技术难题
• 掌握当前主流的端侧大模型架构设计方法
• 理解针对端侧场景进行算法优化的基本思路
• 洞悉端侧智能未来的发展方向和潜在机遇

演讲提纲：

1. 大模型技术发展给芯片带来的挑战
2. 传统端侧SOC VS 大模型端侧SOC
3. 原生大模型端侧AI SOC设计思路
4. 基于大模型的创新NPU架构设计
5. 端侧大模型+端侧SOC结合
6. 生态合作伙伴建设

听众收益：

• 了解大模型时代端侧芯片架构设计思路
• 了解端侧芯片生态建设

传统算力架构因迭代缓慢、成本高昂等原因已逐渐无法适应大模型创新飞速变化的算力需求，开源、开放的RISC-V架构正成为算力架构创新的主力。本次演讲将从算力厂商的角度，介绍开源大模型创新为端侧推理算力带来的机遇与挑战，并分享RISC-V架构如何凭借开源、开放的优势，成为算力架构创新的“最终答案”。

演讲提纲：

1. 大语言模型及其背后算力的发展历程
   • AI语言模型发展的三个阶段
   • 应用于AI语言模型的算力的发展历程
2. 大模型端侧应用的发展情况与典型应用场景分享
   • 大模型端侧应用推动千行百业全面升级
   • 热门应用场景分享（具身智能、汽车等）
3. DeepSeek等开源大模型创新给端侧推理算力带来的新需求与新机遇（算力、内存容量、内存带宽、推理成本等）
   • DeepSeek在算力相关层面的创新技术解析
   • 算力层面的新需求
4. 端侧推理算力领域目前发展所遇到的挑战
   • 算力架构的挑战
   • 软件生态的挑战
   • 算力成本的挑战
5. RISC-V架构如何满足开源大模型的全新需求，实现更普惠的端侧推理应用
   • RISC-V架构的特点介绍
   • RISC-V架构如何针对AI端侧推理打造标杆产品
6. 未来端侧推理场景中，RISC-V架构算力应用落地的展望

听众收益：

• 了解大模型端侧部署中算力层面的发展现状与主流趋势
• 了解开源RISC-V架构的基本情况，以及在AI端侧推理中的应用前景
• 共同探讨开源硬件架构如何与开源大模型创新融合，造就更强大的“普惠大模型”

本次演讲将从 vivo 已上线的业务场景出发，深度剖析大模型落端过程中的核心瓶颈问题及其对应的解决方案，包含模型参数规模选择，性能 / 内存 / 功耗技术指标的优化等多个方面。

演讲提纲：

1. AI 业务端侧化相关背景
2. vivo 大模型端侧化业务场景介绍
3. 大模型端侧化瓶颈问题与解决方案
   • 大模型端侧化核心瓶颈指标
   • 端侧大模型参数规模选择
   • 端侧大模型性能/内存/功耗优化方案
   • 针对不同任务类型的业务场景如何定制优化策略
4. 未来展望

听众收益：

• 大模型落端过程中有哪些技术难点，如何克服
• 了解 vivo 在支撑业务场景良好体验的一些思考