业内 AI 大模型正在飞速发展，近年来，行业内不断涌现各种十亿，百亿，千亿级别的大模型，在各个领域均展现了强大的能力。而智能手机作为拥有最大用户数量的终端设备，正成为大模型实现个性化场景与服务的核心载体。然而想在移动端有限的硬件资源上部署参数量庞大的大模型，其性能，内存，功耗均面临着严峻的挑战。

本次演讲将从 vivo 已上线的业务场景出发，深度剖析大模型落端过程中的核心瓶颈问题及其对应的解决方案，包含模型参数规模选择，性能 / 内存 / 功耗技术指标的优化等多个方面。

演讲提纲：

1. AI 业务端侧化相关背景
2. vivo 大模型端侧化业务场景介绍
3. 大模型端侧化瓶颈问题与解决方案
   • 大模型端侧化核心瓶颈指标
   • 端侧大模型参数规模选择
   • 端侧大模型性能/内存/功耗优化方案
   • 针对不同任务类型的业务场景如何定制优化策略
4. 未来展望

听众收益：

• 大模型落端过程中有哪些技术难点，如何克服
• 了解 vivo 在支撑业务场景良好体验的一些思考