推荐算法经历了从协同过滤到深度特征交互，再到序列推荐的演进。推荐效果依赖于特征工程和特征交互的方式，推荐算法的迭代主要围绕特征选择（senet）、特征交叉（dcn）、注意力机制（attention）等方向构建。这种推荐范式存在过度依赖大量特征工程、中长期行为难以捕捉、冷启动效果不佳等问题。而随着LLM快速发展，scaling laws极大提升其预测能力和泛化能力，也为推荐算法的迭代带来新的启示。荣耀在LLM的早期开始，持续投入构建推荐大模型，并积累了丰富的经验。
本次分享将从推荐算法模型构建的特征工程、训练、推理三个环节，探讨如何与大模型相结合，解决传统深度推荐模型存在的问题，并结合荣耀实际的推荐和广告场景，分享应用实践案例和实际业务效果。最后，总结和展望推荐大模型的未来发展方向。

演讲提纲

1. 荣耀的推荐场景介绍
2. 推荐算法模型和大模型的特点分析
   • 推荐算法结构演进及特点
   • 大模型与推荐的结合方式
3. 基于LLM的特征工程
   • 基于LLM的多模态内容理解
   • 基于LLM的Embedding构建
   • 游戏推荐场景案例分析
4. 基于大模型的训练与推理
   • 基于LLM和对比学习的模型训练
   • 基于HSTU的模型训练与推理
   • 广告场景案例分析
5. 总结与展望
   • 总结：快速落地推荐大模型
   • 展望：生成式推荐覆盖推荐全链路

您认为，这样的技术在实践过程中有哪些痛点？

• 训练样本和模型结构的设计，如何与业务场景相结合并带来收益
• 让推荐模型出现scaling laws的同时，保证线上推理性能

您的演讲有哪些前沿亮点？

• 推荐全链路与大模型结合的方式和实践案例
• 生成式推荐落地的技术难点和迭代方向

听众收益

1. 有助于从推荐特征工程、模型训练和推理全链路出发，分析推荐和大模型结合的方式
2. 了解生成式推荐落地的技术难点和迭代方向，便于用户构建适合自己场景的推荐大模型