本次分享聚焦大模型与Agent技术在B端对话系统中的深度实践，覆盖外呼语音对话、客诉进线场景及商家服务三大场景。基于架构演进视角，拆解从传统多轮对话框架过渡到LLM-Agent化的算法架构演进历程。重点介绍以下技术技术模块：1）端到端大模型对话技术实现多SOP融合与流程遵循， 2）强化学习在SFT基座上的优化策略，同时保持高准确性以及高度拟人化3）Agent化工作流以动态编排替代硬编码，支持复杂场景的灵活性。

演讲提纲

1. 对话技术架构演进与飞猪的对话场景
   • Bert模型与传统workflow式“NLU-DM-NLG”对话架构
   • LLM升级传统架构中单一模块
   • 端到端LLM对话架构+Agent协作框架
   • 飞猪对话落地场景
2. 端到端对话技术
   • 高准确率场景的SOP
   • 多SOP融合挑战
   • 模型结构与训练策略
   • 引入COT显式生成决策依据
3. 强化学习在对话场景的应用
   • SOP对话场景下的RL选型
   • 奖励函数设计
   • 强化学习训练框架与策略
4. LLM-Agent化
   • 传统workflow的问题
   • Agent化的核心思想
   • 动态编排机制

您认为，这样的技术在实践过程中有哪些痛点？

• 多SOP融合的复杂性与高准确率要求：不同业务场景SOP逻辑差异微小，模型需同时兼容多套策略且避免互斥或混淆，业务方对准确率要求高。
• 长上下文与动态意图理解：电话对话场景噪音多、口语化强、意图切换频繁，模型需精准捕捉核心需求并保持连贯性。
• 工作流Agent化的稳定性问题：动态决策链路中，Agent的流程跳转、状态管理与异常回退易出错，需平衡灵活性与可控性。
• 实时性要求与推理效率：端到端模型需低延迟响应（如电话对话的<1秒），但Agent的多步推理可能拖累性能。

您的演讲有哪些前沿亮点？

• 端到端SOP对话的难度与解决方案
• COT与对话场景的结合
• 训练数据的生成方法
• 不同场景的强化学习策略
• Agent技术的工程化方法

听众收益

1. LLM-Agent技术在B端供应链和客服场景一手的经验
2. 端到端SOP对话的难度与解决方案
3. 语音对话场景下一手经验，如何做到高准确率与性能的平衡