RAG（检索增强生成）是大模型应用的重要方向，它大幅缓解了大模型幻觉、信息更新不及时、专业域或私有域知识匮乏等问题，显著提升了大模型在知识库问答、网页搜索、客服等领域的可信赖度。但我们发现，在实际落地中，RAG 仍存在不少问题，如：文档解析结构丢失、大模型生成幻觉、复杂问题无法解答等等，本次演讲我将主要分享以上问题的解决方案，希望能给大家带来一些启发和思考。

演讲提纲

1. RAG 技术背景及应用场景介绍；
2. 文档结构化：基于大模型的文档层次结构提取；
3. RAG 场景生成幻觉优化：面向 RAG 的大模型微调；
4. RAG Agent 探索：基于 Agent 的自适应 RAG；
5. RAG 案例解析；
6. 总结与展望。

听众收益

1. 阿里云 AI 搜索 RAG 在实际应用场景中碰到的问题及尝试的解决方案
2. 阿里云 AI 搜索 RAG 大模型优化实践中的失败和成功经验

越来越多的企业利用大模型构建专属领域的知识问答型机器人。通过使用 RAG 和提示工程技术，企业可以快速基于预训练大模型构建功能和产品，但随着业务量和场景的增加，其性能受到多种因素制约，比如大模型调用成本、多场景支持、法务合规等。本次演讲将介绍我们通过大模型微调，完成 GPT-3.5 /开源模型完全替换 GPT-4 的实践和经验，并展望未来发展方向。

演讲提纲
1.系统架构的演进
2.RAG 系统的问题
3.子模块的指标设计
4.数据问题及解决方案
5.微调技术实践
6.微调后调优与测试
7.总结与展望

听众收益
1.了解 RAG 和微调的异同与适用场景
2.了解大模型微调的技术难点和实践经验
3.了解微调的副作用以及微调后调优策略

大模型落地应用中，RAG（Retrieval-Augmented Generation）与大模型文档相关 Agent 在落地时常遇到文档无法正确解析、表格公式目录等文档元素解析丢失、知识库文档解析速度慢、机械分 chunk 丢失语义信息、目标内容召回不到等问题，极大影响了 RAG 落地应用效果与用户体验。

本次演讲从 RAG 应用落地时常见问题与需求（文档解析、检索精度）出发，介绍针对性的高精度、高泛化性、多版面多元素识别支持的文档解析技术方案与整合长文档解析引擎、层级切片技术的向量化 Embedding 模型技术方案，最后分享开放域多模态信息抽取应用与知识库问答应用等实际场景的产品实践案例。

演讲提纲

1. RAG 落地时的常见的问题与需求
2.文档解析技术+向量化技术的研究内容
3.文档解析技术方案介绍
4.向量化 Embedding 模型技术介绍
5.实际场景产品实践案例

听众收益

1. 深入了解 RAG 应用落地的挑战与解决方案
2. 掌握文档解析与向量化 Embedding 模型技术逻辑与原理
3. 通过 RAG 应用落地的案例分享，获得实践经验

RAG 1.0 是以 LLMOps 为核心的 RAG 编排系统，通过把各种组件如 Embedding 模型，向量数据库等编排在一起，快速让用户搭建起原型。然而在面向企业级场景使用的时候，常常会面临各种问题却无法应对。RAG 2.0 是以搜索为核心的端到端系统，它将整个 RAG 按照搜索的典型流程划分为若干阶段：包含数据的信息抽取、文档预处理、构建索引、以及检索，并且每个环节都围绕一系列模型协同工作。本次分享主要带来 InfiniFlow 在这些环节的具体进展，并介绍如何打造标准化的企业级 RAG 2.0 产品。

演讲提纲

1、RAG 1.0 的痛点

2、以搜索为中心的 RAG 2.0

1）数据抽取模型——实现与演进

2）文档预处理模型

•  知识图谱
•  聚类
•  Embedding 的选择与微调

3）召回和排序

•  全文搜索
•  Blended RAG 三路召回
•  Tensor 召回与Cross Encoder

4）Agent 与 Agentic RAG

3、RAG 的未来发展

听众收益
1. 如何解决 RAG 落地场景的技术挑战
2. 如何实现企业级 RAG 和 Agent

虽然 Naive RAG 通常作为初步方法效果不错，但要将 RAG 应用产品化需要更先进的技术。在本次演讲中，我们将探讨提高 RAG 准确性的技术，以及如何使用 LlamaIndex 实现这些技术。

演讲提纲

1. LlamaIndex简介

2. 五行代码实现简单 RAG

3. Advanced RAG

• 解析
• 索引
• 查询路由和规划

4. Agentic RAG

听众收益

通过这次演讲，听众将更好地了解如何在产品中实际实现 RAG，了解可能的关键痛点以及如何解决（部分）这些痛点。