近两年来小规模模型的性能和端侧算力在高速发展，这为模型端侧化提供了可行性。本次分享介绍 OPPO 大模型端侧化的技术路线，该路线支撑了 OPPO 端侧智慧语音，AI 搜索等线上业务，并在模型压缩，解码加速等方面做到了行业领先水平。

演讲提纲：

1. OPPO 端侧化算法技术栈全景：介绍 OPPO 最新模型端侧化算法技术路线
2. 稀疏化 & QAT：端到端的量化损失训练，绕过 PTQ 步骤，直接和芯片平台的量化格式打通
3. 编解码加速：支持最高 128k 的上下文和最高 240token/s 的通用场景解码速度
4. QALFT 框架：自研端侧量化感知训练框架，为业务解耦优化和高效 OTA 升级提供支持
5. 总结和展望

听众收益：

• 了解OPPO端侧化团队本年度内最新的技术实践路线
• 了解相对领先的端侧化模型压缩和解码加速技术方案