实测13个类Sora视频生成模型,8000多个案例,一次看个够

452 阅读5分钟

最近,腾讯 AI Lab 联合中科大发布了一份针对类 SORA 视频生成模型的测评报告,重点聚焦目前最前沿的类 SORA DiT 架构的高质量视频生成闭源模型,产品以及部分开源模型评估,从技术上,这些模型相较于之前 Stable Diffusion 类的视频模型不仅全面提升了画质,还在动作自然度和多样性、视觉 - 语言对齐以及控制精度上做出了显著进步,测评涵盖了从文生视频(T2V)、图生视频(I2V)以及视频到视频(V2V)生成模型全面能力评估,甚至连前几天刚更新的 pika1.5 特效以及 Meta 公布的 Movie Gen 都加进来了!

为了更加系统全面地测试,作者团队从多个维度系统地设计了 700 多个生成提示词和图片,分别从 1) 视频垂类场景,2) 多个客观评价角度,3) 十大视频应用场景以及用户需求等角度,从基础能力到应用和落地能力多方面进行了测试设计,评估了 13 个主流模型(包括 10 个闭源和 3 个最新开源模型),生成了超过 8000 个视频案例,以多模型对比可视化地形式直观展示生成效果,帮助大家更好地理解现在模型的能力与不足,作者强调需要关注各个维度的实际例子的比较,而不仅仅是一个数值指标。

图一:视频生成的多维度测评一览

这篇文章可以说是现阶段视频生成领域的一次全面梳理和深度评估。之前视频生成测评报告里多用客观数值指标来判断模型的能力,但目前的自动化评估仍然难以完全反映模型的真实表现并且难以对齐人类偏好,同时测评的模型有较大的滞后性,且极少有生成视频的案例梳理,难以体现视频生成研究的前沿性。本文以最直观的测评方式:把测评视频公开,把答案交给读者,强调了人眼观感的重要性,读者可以在网站上直接观看并对比多个模型的生成结果来直观感受。这种 “眼见为实” 的评估方式,也为行业带来了更多的透明性和参考价值,给创作者实实在在带来了更多参考来源。

研究的亮点之一在于对模型在垂直领域中的应用,包括以人为中心的视频生成、机器人、动画插帧、自动驾驶、世界模型、相机可控的视频生成等领域的垂类模型的深入对比。

以下是部分提示词测试结果展示:

视频详情

文字提示词:一支足球队在赢得比赛后在球场上挤在一起、跳跃和欢呼的动态镜头。相机捕捉到了欢乐和友情。

注:目前视频生成对多人场景生成较差

总的来说,这篇报告不仅系统性地展示了 SORA 类模型的现状,还提供了大量的视频结果分析,特别是在不同场景中的应用表现和未来的研究挑战方面。作者鼓励社区利用这些公开资源进行深入研究,并通过直接观察生成视频,获取更细致的理解,总结共性问题。随着领域的快速发展,报告对未来的突破持乐观态度,并承诺持续更新研究成果,探索更全面的定量评估方法,推动对视频生成领域的更深刻理解。对于视频生成领域的研究人员和开发者来说,这篇文章为理解模型的能力边界、局限性以及未来的研究方向提供了宝贵的参考。

今年初伴随着 Sora 的出现,也是视频生成的元年。从本文的大量视频来看,真的如题目所写 “视频生成的黎明时期”,尚有很多不足但这一年确实进展很快。我们也期待随着技术的迭代进步,以语言交互的方式做视频以及把创作视频内容门槛降低,人人都能释放更多创意和制作高质量视频内容的时代终将到来,到那个时候也许会迎来新一轮 AIGC 生产革命。

回顾近期人工智能的发展,可以看到目前正处于规模化阶段,各公司竞相扩大模型规模,工程执行成为主要任务。未来将进入以研究和创新为主导的第三阶段,数据生产和模型评估将至关重要。单纯出租模型的商业模式可能难以为继,构建模型之上的应用程序和提供模型基础设施将更有前景。

最后划重点:为了方便研究人员和用户更好地查看和对比,作者非常贴心地在网站中分别展示了一个视频对比所有的模型以及单个模型单独查看模式,一次看个够!

(图二、图三、图四参考原项目查看。)

图二:一个视频对比所有的模型的查看方式

图三:网站贴心地准备了三大任务以及 12 个模型分别的查看入口

图四:点击每个模型的名字,就能单独查看每个模型的视频生成结果了!

针对本文测评的持续更新结果,作者建立了一个专业用户交流群,欢迎感兴趣的读者加入。点击以下链接访问:

github.com/AILab-CVC/V…