多模态大模型正在融合文本、图像、音频、视频等多种模态,推动跨模态理解与生成能力不... 展开 >


长期深耕多模态大模型技术研发与商业化落地,现任快手Keye多模态大模型及大模型应用负责人。主导研发的Keye多模态大模型,在综合感知能力对标同规模顶尖模型的基础上,在视频理解场景实现显著优势,并在开源社区引发广泛关注。
同时持续推进大模型工业化落地,构建覆盖短视频内容理解、直播实时交互、电商智能互动、广告AIGC的全链路技术方案,有效推动技术价值与商业价值的协同增长。
多模态大模型正在融合文本、图像、音频、视频等多种模态,推动跨模态理解与生成能力不断增强。本专题将聚焦多模态模型的最新技术进展与实践,分享应用场景与创新价值,探讨其在场景落地中的机遇与挑战。
多模态大模型作为人工智能的最前沿领域之一正在快速发展。然而,多模态大模型的训练与推理效率已成为影响其普及性与可扩展性的核心瓶颈。为应对这一挑战,我们推出 MiniCPM-V 4.5 训练方案,兼具训练推理的高效性和强大的性能。我们在模型结构、数据策略与训练方法三个方面进行了关键改进:使用了统一的 3D-Resampler 模型架构,实现对图像与视频的高压缩率紧凑编码;构建了统一的文档知识与文本识别学习范式,无需繁重的数据工程;并设计了混合强化学习策略,使模型在短推理与长推理两种模式下均具备卓越能力。
MiniCPM-V 4.5 在 OpenCompass 评测中超越了广泛使用的闭源模型(如 GPT-4o-latest)以及显著更大的开源模型(如 Qwen2.5-VL 72B)。MiniCPM-V 4.5 在保持强大性能的同时也展现出极高的效率。例如,在广泛采用的 VideoMME 基准测试中,MiniCPM-V 4.5 在 30B 规模以下的模型中取得了最优秀的性能,甚至仅用 46.7% 的 GPU 显存成本和 8.7% 的推理时间(相较于 Qwen2.5-VL 7B)。
演讲提纲
您认为,这样的技术在实践过程中有哪些痛点?
您的演讲有哪些前沿亮点?
通过 3D-Resampler 提高压缩率、通过统一文档&OCR学习简化数据工程、混合强化学习提高训练效率。
听众收益
OPPO在2025年开发者大会上发布了“AI实景对话”首次让助手“走出屏幕”。在线下门店场景中,我们与大众点评达成深度合作,支持用户在逛街时(CityWalk),通过实景对话功能调用手机中大众点评的店铺信息与菜单数据,完成类似“AI版探店助手”的体验。即使站在餐厅门口,也无需手动搜索,AI即可提供评价、推荐菜品与价格信息。
CityWalk Agent作为“AI实景对话”一个独特的Agent,在实际场景中遇到并解决了诸多技术挑战:
通过组合优化,CityWalk Agent意图店名的召回率和准确率达到了90%以上的效果。
演讲提纲
1、同行VideoAgent产品或有影响力的开源项目
2、CityWalk Agent整体交互流程图和“AI实景对话”其它Agent
3、技术拆解(路由意图、店铺指代、记忆管理)和实际案例,推荐AndesVL
4、VideoAgent未来技术展望
您认为,这样的技术在实践过程中有哪些痛点?
在流式视频问答中,将videoqa转化为单帧imageqa可以解决大部分问题,但是仍然存在多画幅问题,目前取帧数量动态调整算法尚处于研究阶段,过多取帧会引入更大时延,过少取帧会牺牲效果,于是产生了tradeoff。
您的演讲有哪些前沿亮点?
听众收益
随着直播行业的飞速发展,快手平台每天产生海量的直播内容。传统的技术手段在内容理解深度、用户交互实时性、以及个性化体验优化方面逐渐面临瓶颈。例如,如何精准刻画数亿用户与千万主播之间的匹配关系?如何实现主播与观众之间更自然、有趣的互动?又如何推进用户对主播的第一印象的形成来促进主粉关系的转化?这些问题在大模型能力日新月异的当下,有了越发清晰的回答。
演讲提纲
您认为,这样的技术在实践过程中有哪些痛点?
如何在有限资源下做好U-A的个性化;
如何差异性优化头部好主播与中长尾主播的策略。
您的演讲有哪些前沿亮点?
技术创新上,我们如何通过多模态大模型与用户反馈信息,实现主播与用户的理解,并通过强化学习进一步拟合用户对主播的偏好,带来直播业务的提升。
业务落地上,在直播这样相对成熟的业务场景下,大模型能力如何优化用户的看播体验,提高主播的服务质量。
听众收益
随着生成式多模态大模型技术的爆发,游戏行业正经历从“人工密集型”到“AI原生驱动”的颠覆性变革。面对高成本、长周期、创意同质化的行业瓶颈,AIGC通过文本、图像、视频、3D、代码等多模态生成,已实现美术、设计、开发的效率提升。然而,游戏美学、风格一致性控制、物理规则、生成内容版权争议等问题仍待解决。本次分享将介绍腾讯在AIGCx游戏领域的技术进展和业务实践。
演讲提纲
您认为,这样的技术在实践过程中有哪些痛点?
您的演讲有哪些前沿亮点?
听众收益



微信咨询

电话咨询
领取往期热门演讲视频

