汤斌,美图高级算法专家,硕士毕业于哈尔滨工业大学,曾任职腾讯社交与效果广告部高级研究员,负责广告排序策略与广告基础画像的研发工作。2018年加入美图,目前负责美图深度学习平台建设以及推荐排序算法与策略的研发。在美图就职期间,主导了美图内部机器学习平台从支持传统机器学习任务向支持深度学习建模的升级,以及用户行为序列建模和多任务学习在美图推荐排序中的落地。主要研究方向为大规模推荐排序、点击率预估和自然语言处理等。
汤斌,美图高级算法专家,硕士毕业于哈尔滨工业大学,曾任职腾讯社交与效果广告部高级研究员,负责广告排序策略与广告基础画像的研发工作。2018年加入美图,目前负责美图深度学习平台建设以及推荐排序算法与策略的研发。在美图就职期间,主导了美图内部机器学习平台从支持传统机器学习任务向支持深度学习建模的升级,以及用户行为序列建模和多任务学习在美图推荐排序中的落地。主要研究方向为大规模推荐排序、点击率预估和自然语言处理等。
美图公司目前拥有3亿多月活跃用户,日均处理上亿图片和视频。为了让用户收获更多,2018年,美图正式转型“美和社交”的战略,社交化转型的过程中遇到了不少困难和挑战。
本次分享将介绍美图推荐算法团队如何应用深度学习技术,来克服社交化转型中遇到的各种挑战。首先,内部基于传统机器学习任务开发的工具,通过特征编码方案和特征数据结构的升级以支持深度学习建模。同时通过对Neural Factorization Machine模型的三次改进,适应了业务对模型的需要。另外通过用户行为序列特征建模进一步增强了模型端到端的能力。为了解决模型因复杂度过高导致的在线耗时增加的问题,我们也实现了多塔网络的模型框架。最后,通过多任务模型的几次迭代,解决了推荐场景下多个优化目标的需求。
在过去一年的具体实践中,从模型改进到特征建模再到多目标优化,我们也总结一些经验,相信也能带给大家一些的启发和帮助。
演讲提纲:
1. 美图推荐场景与面临的挑战
2. 支持深度学习的传统机器学习工具的升级
3. 基于NFM模型的几次模型改进
a) 基于特征空间线性变换的改进
b) 基于二阶特征加权Pooling的改进
4. 用户行为序列特征建模
a) 用户行为序列特征建模的几种方法
b) 基于用户行为加权的序列建模方法
5. 解决在线推理效率的多塔网络
6. 推荐场景下的多任务学习
a) 基于样本reweight的方法
b) 多任务模型之Multi-Task NFM
c) 多模型以及多个多任务模型
7. 未来的工作计划
听众受益:
1.了解推荐场景下,传统机器学习工具向深度学习工具转变的几个优化点与方案
2.了解NFM在推荐排序下的应用,以及存在问题和优化方案
3.了解用户行为序列特征建模在真实推荐场景下的应用方法
4.了解推荐场景下,多任务学习的几种方法以及各自的优缺点
前沿亮点:
1.深度学习的特征编码方案
2.NFM模型的改进
3.行为序列特征建模方法
4.排序模型在线推理加速策略
听众知识储备:
1. 具备基本的机器学习、深度学习模型实践经验
2. 对推荐场景,以及推荐排序有一定的了解