马泽宏,PayPal 算法工程师,专注于搜索和对话相关应用,拥有丰富的人工智能和机器学习经验。

马泽宏,PayPal 算法工程师,专注于搜索和对话相关应用,拥有丰富的人工智能和机器学习经验。
越来越多的企业利用大模型构建专属领域的知识问答型机器人。通过使用 RAG 和提示工程技术,企业可以快速基于预训练大模型构建功能和产品,但随着业务量和场景的增加,其性能受到多种因素制约,比如大模型调用成本、多场景支持、法务合规等。本次演讲将介绍我们通过大模型微调,完成 GPT-3.5 /开源模型完全替换 GPT-4 的实践和经验,并展望未来发展方向。
演讲提纲
1.系统架构的演进
2.RAG 系统的问题
3.子模块的指标设计
4.数据问题及解决方案
5.微调技术实践
6.微调后调优与测试
7.总结与展望
听众收益
1.了解 RAG 和微调的异同与适用场景
2.了解大模型微调的技术难点和实践经验
3.了解微调的副作用以及微调后调优策略



微信咨询

电话咨询
微信联系我们

