随着 AIGC 内容爆发与对抗成本降低，传统“识别-拦截-人工修改”的内容安全模式正遇到效率与体验瓶颈。本次分享将介绍快手如何以大模型与 Multi-Agent 技术重构内容安全范式：构建“精细拒绝—AI修复—自动过审”的生成式闭环，多智能体协同实现审核、回扫、验真等流程自动化，显著提升安全治理效率与创作者体验。同时，大模型也带来了组织层面的跃迁，产品、算法、运营、研发等岗位从“规则维护”升级为“AI-Native协同”，形成以 HITL（Human-in-the-loop）、大小模型协同、MLLM as Judge 为核心的增强型安全体系，为企业构建 10x 的治理效率和未来进化能力。

演讲提纲

1. 大模型带来的生产力变革：内容安全的新挑战与新范式
   • 技术出现“不连续性”：传统经验不再适用
   • AIGC内容井喷：创意门槛消失，安全边界模糊
   • Prompt攻防：低成本对抗的新战场
   • Scaling Law下的“模型平权”：小团队也能玩大模型
   • AI带来的“马太效应”：强者愈强，弱者愈弱
2. 组织架构重构：AI驱动产运研角色持续向价值链上游升级
   • 产品工程师：从“PRD设计”到“AI-Native产品范式”
   • 运营工程师：从“写规则”到“Prompt Engineer”
   • 算法工程师：从“风险识别”到“内容理解+生成”统一
   • 数据工程师：从BI报表到“AI数据飞轮”构建者
   • 研发工程师：从“写代码”到“Vibe Coding + AI Copilot”
   • 组织效率：从“师级单位”到“AI合成旅”
3. 协同模式升级：构建“人机协同”的AI增强型安全系统
   • 大小模型协同：效率与效果的“双轮驱动”
   • Multi-Agent编排：构建“多模态安全大脑”
   • HITL（Human-in-the-loop）人机混合协同
   • MLLM as Judge：让大模型成为“AI质检员”
4. 未来展望：打造AI-Native型安全组织
   • 从“被动防御”到“主动免疫”：构建主动进化、主动修复的安全系统
   • 从“人机协同”到“人机共生”:It is not for you，it is you
   • 给听众的3个行动建议

听众收益

1. 大模型和商业应用的有机结合，背后的思考逻辑
2. 内容安全领域的最新前沿技术实践经验
3. 大模型通过内容理解+内容生成的生产力变革，重塑垂直领域生产关系