当 AI 从生成内容走向访问数据、调用工具并代表用户采取行动,安全风险也从&ld... 展开 >



企业安全领域资深专家,拥有丰富的大型甲方安全建设与实战经验,现任快手信息安全负责人,致力于探索 AI 时代安全新范式,推动企业安全体系的建设、升级与持续演进。
2010年起,程岩先后任职于百度安全、京东安全、蚂蚁安全,担任关键安全岗位。他秉持"控制风险、对抗威胁、建立信任"的安全理念,坚守"风险视角、技术驱动、机制持续"的实战打法,并曾带领团队将多项安全技术实践对外开源。
当 AI 从生成内容走向访问数据、调用工具并代表用户采取行动,安全风险也从“输出是否可信”升级为“行动是否可控”。传统围绕账号、接口和单次请求建立的安全机制,已经不足以解释 Agent 是谁、代表谁、为何获得权限,以及谁应为其行动负责。
本专题围绕身份、权限与行动三条主线,探讨 Agent 身份注册与委托关系、最小权限与临时凭证、工具及 MCP 信任机制、多 Agent 间的身份传递与权限衰减,以及提示注入、数据泄露和越权行动的运行时防护。我们也将讨论如何按风险对 Agent 行动进行自动放行、人工审批、实时阻断与隔离,如何通过自动化红队持续验证控制有效性,并以全链路审计还原从用户目标、模型决策到工具调用和真实副作用的完整过程。
目标不是限制 Agent 的能力,而是建立 Agent 规模化进入办公、研发和生产场景所必需的信任基础设施:让 Agent 以正确的身份,获得完成当前任务所必需的权限,并始终在可验证、可干预、可追责的边界内行动。
当智能体开始代表用户访问数据、调用工具、执行交易,并将任务委托给其他智能体,身份管理需要回答的问题也随之扩展:正在执行任务的是哪个智能体,由谁开发和管理,代表谁行动,获得了什么授权,以及这些关系能否在跨平台协作中被验证和追溯。
围绕这些问题,国际标准化工作正在从既有数字身份技术向智能体场景延伸。ITU-T 已开展智能体身份数据模型、身份互操作等研究,IEEE 已布局基于可信数字身份的多智能体协作框架,IETF 正在推进智能体身份管理相关工作组草案。如何将这些工作与现有身份系统、凭证机制和应用协议衔接,仍需明确共同的术语、角色关系与技术边界。
本次演讲将系统梳理 ISO/IEC、ITU-T、IEEE、IETF、W3C 及其他相关组织的标准布局与研制进展,重点分析不同组织分别解决哪些问题、已有成果如何复用、哪些需求仍需补充。在此基础上,提出智能体身份的术语梳理与体系框架建议,结合相关项目分享研制实践,介绍 IEEE C/DTSC 数字信任标准委员会的工作布局。最后,讲解 IEEE 与 ITU-T 标准的立项路径、材料准备和参与方式,介绍我们面向两类标准建设的相关标准工具箱,为参会者参与标准研制提供具体参考。
演讲提纲
听众收益
Agent 已从内容生成工具演变为能够调用工具、访问内外部资源的执行主体,传统的"用户—资源"模型随之升级为"用户—Agent—资源"的代理访问模型。直接复用传统身份与权限方案,难以清晰回答三个问题:Agent 代表谁、能访问什么、操作如何追溯。本议题聚焦 Agent 身份基建如何解决身份可信传递、权限管理与行为审计,结合快手从 0 到 1 的建设实践,讲清关键方案的设计取舍与落地代价。
演讲提纲
听众收益



微信咨询

电话咨询
领取往期热门演讲视频

