英特尔数据中心和AI事业部AI首席工程师。在加入英特尔之前,吴震华曾任多家互联网公司的算法总监/技术VP,负责构建端到端的推荐系统,包括人工智能建模、特征工程、效果分析以及推荐增强。目前,吴震华专注于人工智能的解决方案深度开发和优化。同时他还拥有多个美国和中国专利。
虽然人工智能技术发展迅速,尤其是生成式人工智能应用井喷式的涌现。但是企业生成式人工智能落地面临众多挑战,包括异构加速计算的优化带来的复杂性,基础设施扩展性和并发处理能力的矛盾,数据(提示词、向量数据库)和模型从传输到使用的安全问题,以及中台和应用社区的碎片化等。这些阻碍了企业采用 GenAI 及其为企业带来的巨大价值。英特尔与其他几家行业合作伙伴合作,在Linux基金会组织中推出了企业 GenAI 开放平台 (OPEA) 。以创建开放、多提供商、强大且可组合的 GenAI 解决方案,从而利用整个生态系统中的最佳创新。
本次演讲介绍了企业Gen AI开放平台(OPEA) 架构的高效、开放、安全和可扩展性。并针对具体的落地场景比如GenAI检索增强的对话探讨了软硬全栈落地的若干问题比如服务编排,并发处理,性能指标收集等。从而在解决了算力焦虑的基础上,进一步释放了产品运维焦虑。
演讲提纲:
听众收益:



微信咨询

电话咨询
微信联系我们

