大模型能力持续增强,但落地仍受算力、成本、隐私与场景约束。本报告从高效端侧视角出发,梳理技术演进与产业动向,探讨如何让智能更贴近用户与设备,在合规与体验之间取得平衡,并支撑多类终端与应用场景的规模化落地。
演讲提纲:
- 引言:背景与问题
- 行业背景:大模型从云端走向端侧的整体趋势
- 主要挑战:成本、实时性、隐私、弱网/离线、跨设备协同等
- 核心问题:如何在资源受限的终端上,以可接受的成本交付可用的智能能力
- 技术趋势:高效端侧大模型
- 发展脉络:从“堆规模”到“提效率”的思路转变
- 关键方向:模型轻量化、系统与芯片协同、推理与部署优化等
- 端侧 vs 云端:在部署、算力、数据、网络、成本等方面的差异与取舍
- 产业观察:生态与落地路径
- 模型与框架:主流技术路线与开源/闭源生态概况
- 硬件与系统:芯片、操作系统、开发工具链的协同
- 商业模式:端侧智能在产品形态、付费方式、用户黏性上的特点
- 应用场景
- 消费类终端:[如手机、PC、可穿戴等]
- 行业与物联:[如车载、家居、工业、机器人等]
- 典型价值:隐私、实时、离线、个性化等
- 总结与展望
- 端侧大模型的发展方向与判断
- 对技术方、产品方与产业方的启示
听众收益:
- 了解高效端侧大模型的整体趋势与关键矛盾
- 建立技术—产业—应用的粗线条认知框架,便于后续按最新信息更新细节
- 获得可迁移的场景选型与落地思路,便于结合自身业务填空





