面向智能体的“安全即服务”模式探索:书安智能体操作系统的实践与思考

所属专题:Agent 安全、评测与可信治理

嘉宾 : 胡侠 | 上海人工智能实验室领军科学家

会议室 : 祥源宴会厅 中厅

讲师介绍

专题演讲嘉宾:胡侠

上海人工智能实验室领军科学家

胡侠教授现任上海人工智能实验室主任助理、领军科学家。曾任美国莱斯大学正教授、数据科学中心主任,并作为联合创始人兼首席科学家参与创立 AIPOW 公司。胡教授长期致力于机器学习和人工智能领域的研究,在 ICLR、NeurIPS、KDD、WWW、SIGIR 等国际顶级会议及期刊上发表论文 200 余篇,论文被引用次数超过 40,000 次。主导开发的自动机器学习开源系统 AutoKeras 已成为最常用的 AutoML 框架之一;其提出的 NCF 算法及系统(单篇论文被引超 8000 次)被纳入主流人工智能框架 TensorFlow 的官方推荐;此外,他开发的异常检测系统已在 NVidia、通用电气、Trane、苹果等企业的产品中得到广泛应用。胡教授曾获 ICML、WWW、WSDM、INFORMS 等会议最佳论文奖或提名,以及美国国家科学基金委杰出青年奖、KDD Rising Star Award 和 IEEE Atluri 学者奖等荣誉。他现任 ACM TIST 和 Big Data 期刊副主编、DMKD 编委,并曾担任 WSDM 2020 大会主席及 ICHI 2023、CHASE 2025 医学信息学会议大会主席。

议题介绍

演讲:面向智能体的“安全即服务”模式探索:书安智能体操作系统的实践与思考

随着智能体逐步进入企业生产环境,其安全问题已不再局限于模型本身,而是延伸至代码执行、数据访问、权限控制与业务流程协同等多个层面。尤其在涉及敏感数据和复杂系统交互的真实场景中,如何在提升智能化能力的同时,建立可控、可信的运行机制,成为产业落地的重要挑战。

本次分享将围绕上海人工智能实验室在“安全即服务”方向的探索展开,介绍书安智能体操作系统在产业场景中的设计思路与实践经验。报告将重点讨论如何将安全能力内嵌于智能体运行全流程,构建覆盖系统隔离、流程治理、行为约束与持续演化的安全机制,以支持智能体在复杂业务环境中的稳定运行。

同时,分享还将结合产业智能化过程中的典型需求,探讨智能体安全体系如何从底层基础设施逐步延伸至任务协同与业务治理层面,为AI规模化应用提供更加系统化的安全支撑。

听众收益:

  • 探索如何将安全能力内嵌于智能体全生命周期,实现Make AI Safe与Make Safe AI的互补融合,系统性降低智能体运行风险,全方位适配真实业务场景下的安全挑战
  • 沉淀产业级AI安全技术体系实践经验,依托“底层隔离—流程守护—认知进化”三层安全机制,构建从系统底层安全到智能体行为管控,到“Make Safe AI”内核安全进化的多层协同

交通指南

上海虹桥祥源希尔顿酒店

Hilton Shanghai Hongqiao
地址:上海市红松东路1116号
  • 微信咨询

  • 电话咨询

    联系电话:13269078023

微信联系我们

如您在购票过程中遇到问题,请扫码咨询票务小助手