下一代 RAG 引擎的技术挑战与实现

所属专题:RAG 落地应用与探索

嘉宾 : 张颖峰 | 英飞流CEO

会议室 : 钻石厅 D

讲师介绍

专题演讲嘉宾:张颖峰

英飞流CEO

张颖峰,英飞流(上海)信息科技有限公司创始人,连续创业者,先后负责7年搜索引擎研发,5 年数据库内核研发,10年云计算基础架构和大数据架构研发,10 年人工智能核心算法研发,包括广告推荐引擎,计算机视觉和自然语言处理。先后主导并参与三家大型企业数字化转型,支撑过日活千万,日均两亿动态请求的C端互联网电商平台。

议题介绍

演讲:下一代 RAG 引擎的技术挑战与实现

RAG 1.0 是以 LLMOps 为核心的 RAG 编排系统,通过把各种组件如 Embedding 模型,向量数据库等编排在一起,快速让用户搭建起原型。然而在面向企业级场景使用的时候,常常会面临各种问题却无法应对。RAG 2.0 是以搜索为核心的端到端系统,它将整个 RAG 按照搜索的典型流程划分为若干阶段:包含数据的信息抽取、文档预处理、构建索引、以及检索,并且每个环节都围绕一系列模型协同工作。本次分享主要带来 InfiniFlow 在这些环节的具体进展,并介绍如何打造标准化的企业级 RAG 2.0 产品。

演讲提纲

1、RAG 1.0 的痛点

2、以搜索为中心的 RAG 2.0

1)数据抽取模型——实现与演进

2)文档预处理模型

  •  知识图谱
  •  聚类
  •  Embedding 的选择与微调

3)召回和排序

  •  全文搜索
  •  Blended RAG 三路召回
  •  Tensor 召回与Cross Encoder

4)Agent 与 Agentic RAG

3、RAG 的未来发展


听众收益
1. 如何解决 RAG 落地场景的技术挑战
2. 如何实现企业级 RAG 和 Agent

交通指南

上海中谷小南国花园酒店

China Grain Hotel
地址:上海市杨浦区佳木斯路777号(近营口路口)
  • 微信咨询

  • 电话咨询

    联系电话:13269078023

微信联系我们

如您在购票过程中遇到问题,请扫码咨询票务小助手