专题演讲嘉宾:刘方鑫

上海交大助理教授 & 博士生导师

刘方鑫,上海交通大学计算机科学与工程系助理教授、博士生导师,兼任上海期智研究院研究员。主要研究方向包括计算机体系结构与设计自动化、大模型加速与AI编译优化等。

以第一或通讯作者身份在HPCA、ISCA、MICRO、ASPLOS、PPoPP等国际顶级会议和期刊上发表论文60余篇,其中CCF-A类论文40余篇,体系结构四大顶会论文20篇。

主持国家自然科学基金青年项目、上海市自然科学基金面上项目,以及华为、阿里巴巴、蚂蚁金服、中兴通讯、小米、OPPO、CCF-蚂蚁科研基金、CAAI-蚂蚁科研基金等十余项企业及学会合作课题。

曾入选上海交通大学首届“吴文俊人工智能博士项目”,并担任“国智班”项目导师。研究成果入选华为火花奖(2022)、中国计算机学会容错计算专委40周年代表性成果等,此外,获ACM MM 2025杰出论文奖(System Theme)、DATE 2022最佳论文奖及最佳论文提名、上海市计算机学会优秀博士论文奖(每年仅2–3人入选)、ACM上海优秀博士论文奖(每年仅2–3人入选)、上海市优秀毕业生、CCF体系结构优秀博士论文提名等奖项与荣誉。指导学生获CCFSys图计算系统设计大赛特等奖、CCFSys 2025最佳项目海报奖及第二届集成芯片与芯粒技术开源社区大赛一等奖等荣誉。

by 刘方鑫

上海交大
助理教授 & 博士生导师

当前大模型推理受限于非均匀数据分布与同构算力架构的严重错配,导致存储冗余、精度浪费与访存瓶颈。

针对上述问题,本报告提出一套面向大模型推理的跨层协同优化方案。在数据表征层面,通过分布感知的自适应数据编码,降低信息冗余度,实现模型参数的紧凑化与硬件友好型存储;在计算范式层面,重构运算逻辑,引入基于重要性感知的高精度近似计算,以低成本的轻量运算替代非关键数据的高精度运算,有效提升硬件算力利用率;在数据流层面,通过协同编排计算与访存数据流,优化调度策略,减少缓存未命中与流水线阻塞。为构建高效的 AI 算力底座提供了系统性的演进路径。

听众收益:

  • ​学会诊断:从“数据分布与算力错配”角度,定位大模型推理中的存储冗余、精度浪费和访存瓶颈
  • 学会压缩:掌握基于数据分布的自适应编码方法,实现硬件友好的紧凑化存储
  • 学会协同:理解如何通过重要性感知的近似计算和数据流编排,减少缓存未命中与流水线阻塞

交通指南

上海虹桥祥源希尔顿酒店

Hilton Shanghai Hongqiao
地址:上海市红松东路1116号
  • 微信咨询

  • 电话咨询

    联系电话:13269078023

微信联系我们

如您在购票过程中遇到问题,请扫码咨询票务小助手