专题演讲嘉宾:马泽宏

PayPal 算法工程师

马泽宏,PayPal 算法工程师,专注于搜索和对话相关应用,拥有丰富的人工智能和机器学习经验。

by 王元

PayPal
高级 ML 科学家

by 马泽宏

PayPal
算法工程师

越来越多的企业利用大模型构建专属领域的知识问答型机器人。通过使用 RAG 和提示工程技术,企业可以快速基于预训练大模型构建功能和产品,但随着业务量和场景的增加,其性能受到多种因素制约,比如大模型调用成本、多场景支持、法务合规等。本次演讲将介绍我们通过大模型微调,完成 GPT-3.5 /开源模型完全替换 GPT-4 的实践和经验,并展望未来发展方向。

演讲提纲
1.系统架构的演进
2.RAG 系统的问题
3.子模块的指标设计
4.数据问题及解决方案
5.微调技术实践
6.微调后调优与测试
7.总结与展望

听众收益
1.了解 RAG 和微调的异同与适用场景
2.了解大模型微调的技术难点和实践经验
3.了解微调的副作用以及微调后调优策略

交通指南

上海中谷小南国花园酒店

China Grain Hotel
地址:上海市杨浦区佳木斯路777号(近营口路口)
  • 微信咨询

  • 电话咨询

    联系电话:13269078023

微信联系我们

如您在购票过程中遇到问题,请扫码咨询票务小助手