专题演讲嘉宾：唐飞虎

本次分享将介绍 Kimi 智能助手背后的推理加速方案，以 KVCache 为中心的分离式推理架构，以及在设计时所需要考虑的指标和在真实生产环境中部署的表现。

演讲提纲：

1. 介绍 Kimi 智能助手相关简介
2. 介绍长文本大模型推理中所遇到的挑战
3. 介绍围绕 KVCache 相关的推理优化技术
4. 介绍设计分离式推理架构设计时需要权衡的指标
5. 线上实际推理结果和测试数据集的表现
6. 总结与展望

听众收益：

• 了解一线C端应用的推理实践指导生产，以及 KVCache 相关的长文本推理的相关技术。