何亮亮,小米深度学习框架负责人,软件工程师,目前负责服务端与移动端深度学习框架,移动端异构计算优化等方面的研发工作。在分布式系统、存储与数据库、异构计算、深度学习、计算机视觉等领域有丰富的实践经验。
何亮亮,小米深度学习框架负责人,软件工程师,目前负责服务端与移动端深度学习框架,移动端异构计算优化等方面的研发工作。在分布式系统、存储与数据库、异构计算、深度学习、计算机视觉等领域有丰富的实践经验。
随着深度学习领域的快速发展,以及移动端芯片计算能力的逐步提升,设备端上的深度学习推理正在变成一个趋势,一个好用的深度学习框架成为深度学习应用落地的关键。MACE是开源的专门为移动端芯片优化的深度学习框架。本次分享主要介绍MACE在开发和使用中的一些经验总结。
演讲提纲:
1. 设备端深度学习的趋势
2. 设备端深度学习框架的优化方法
(1)性能优化
(2)内存优化
(3)框架精简
(4)模型加载
(5)模型安全
3. 小米设备端深度学习应用场景举例
听众收益:
1. 了解设备端深度学习的典型应用情况
2. 了解设备端深度学习框架MACE开发优化与使用经验总结