基于检索增强生成的企业GenAI开放平台的全栈落地实践

所属专题:AI全栈解决方案及行业实践

嘉宾 : 吴震华 | 英特尔AI首席工程师

会议室 : 钻石厅B

讲师介绍

专题演讲嘉宾:吴震华

英特尔AI首席工程师

英特尔数据中心和AI事业部AI首席工程师。在加入英特尔之前,吴震华曾任多家互联网公司的算法总监/技术VP,负责构建端到端的推荐系统,包括人工智能建模、特征工程、效果分析以及推荐增强。目前,吴震华专注于人工智能的解决方案深度开发和优化。同时他还拥有多个美国和中国专利。

议题介绍

演讲:基于检索增强生成的企业GenAI开放平台的全栈落地实践

虽然人工智能技术发展迅速,尤其是生成式人工智能应用井喷式的涌现。但是企业生成式人工智能落地面临众多挑战,包括异构加速计算的优化带来的复杂性,基础设施扩展性和并发处理能力的矛盾,数据(提示词、向量数据库)和模型从传输到使用的安全问题,以及中台和应用社区的碎片化等。这些阻碍了企业采用 GenAI 及其为企业带来的巨大价值。英特尔与其他几家行业合作伙伴合作,在Linux基金会组织中推出了企业 GenAI 开放平台 (OPEA) 。以创建开放、多提供商、强大且可组合的 GenAI 解决方案,从而利用整个生态系统中的最佳创新。
本次演讲介绍了企业Gen AI开放平台(OPEA) 架构的高效、开放、安全和可扩展性。并针对具体的落地场景比如GenAI检索增强的对话探讨了软硬全栈落地的若干问题比如服务编排,并发处理,性能指标收集等。从而在解决了算力焦虑的基础上,进一步释放了产品运维焦虑。

演讲提纲:

  1. 生成式人工智能应用井喷
  2. 企业GenAI落地的挑战
  3. 企业 GenAI 开放平台 (OPEA)
  4. 结合案例的全栈架构介绍(安全,扩张性,编排,指标)
  5. 期待和总结

听众收益:

  1. 深入了解Gen AI在企业产品化中的痛点
  2. 深入了解开放式企业GenAI平台的特点、使用场景及设计思路,以便快企业使用OPEA加快自身的Gen AI应用转型

交通指南

上海中谷小南国花园酒店

China Grain Hotel
地址:上海市杨浦区佳木斯路777号(近营口路口)
  • 微信咨询

  • 电话咨询

    联系电话:13269078023

微信联系我们

如您在购票过程中遇到问题,请扫码咨询票务小助手