Stable Video Diffusion问世!3D合成功能引关注,网友:进步太快

PHPz
发布: 2023-11-22 20:14:48
转载
604人浏览过

稳定扩散官方终于开始处理视频——

发布生成式视频模型Stable Video Diffusion(SVD)

Stable Video Diffusion问世!3D合成功能引关注,网友:进步太快

Stability AI官方博客显示,全新SVD支持文本到视频、图像到视频生成:

Stable Video Diffusion问世!3D合成功能引关注,网友:进步太快

并且还支持物体从单一视角到多视角的转化,也就是3D合成

Stable Video Diffusion问世!3D合成功能引关注,网友:进步太快

根据外部评估,官方宣称SVD甚至比runway和Pika的视频生成AI更受用户欢迎。

尽管目前只发布了基础模型,但官方透露“正计划继续扩展,建立类似于稳定扩散的生态系统”

目前论文代码权重已上线。

Stable Video Diffusion问世!3D合成功能引关注,网友:进步太快

近期视频生成领域不断涌现新的玩法,如今轮到了Stable Diffusion的出现,以至于网友们纷纷感叹“快”,这样进步的速度太快了!

Stable Video Diffusion问世!3D合成功能引关注,网友:进步太快

但仅从Demo效果来说,更多网友们表示并没有感到很惊喜。

虽然我喜欢SD,而且这些Demo也很棒……但也存在一些缺陷,光影不对、而且整体不连贯(视频帧与帧之间闪烁)

Stable Video Diffusion问世!3D合成功能引关注,网友:进步太快

总归来说这是个开始,网友对SVD的3D合成功能还满是看好:

我敢保证,很快就会有更好的东西问世,只需要简单描述一下,就能够呈现一个完整的3D场景

Stable Video Diffusion问世!3D合成功能引关注,网友:进步太快

SD视频官方版来袭

除了以上所展示的,官方还发布了更多的演示,下面来先看一下:

Stable Video Diffusion问世!3D合成功能引关注,网友:进步太快

太空漫步也安排上:

Stable Video Diffusion问世!3D合成功能引关注,网友:进步太快

保持背景静止,只让两只鸟移动也可以:

Stable Video Diffusion问世!3D合成功能引关注,网友:进步太快

SVD的研究论文目前也已发布,据介绍SVD基于Stable Diffusion 2.1,用约6亿个样本的视频数据集预训练了基础模型。

可轻松适应各种下游任务,包括通过对多视图数据集进行微调从单个图像进行多视图合成。

经过微调后,官方公布了两种图像到视频模型。这些模型可以根据用户的需求,以每秒3到30帧的自定义帧速率生成14帧(SVD)和25帧(SVD-XT)的视频

Stable Video Diffusion问世!3D合成功能引关注,网友:进步太快

对多视角视频生成模型进行了微调后,我们将其命名为SVD-MV

Stable Video Diffusion问世!3D合成功能引关注,网友:进步太快

根据测试结果,在GSO数据集上,SVD-MV得分优于多视角生成模型Zero123、Zero123XL、SyncDreamer:

Stable Video Diffusion问世!3D合成功能引关注,网友:进步太快

值得一提的是,Stability AI表示SVD目前仅限于研究,不适用于实际或商业应用。SVD目前也不是所有人都可以使用,但已开放用户候补名单注册。

视频生成大爆发

近期,视频生成领域出现了一种“混战”状态

前有PikaLabs开发的文生视频AI:

Stable Video Diffusion问世!3D合成功能引关注,网友:进步太快

后又有号称“史上最强大的视频生成AIMoonvalley推出:

Stable Video Diffusion问世!3D合成功能引关注,网友:进步太快

最近Gen-2的“运动笔刷”功能也正式上线,指哪画哪:

Stable Video Diffusion问世!3D合成功能引关注,网友:进步太快

这不现在SVD又出现了,又有要卷3D视频生成的可能。

但文本到3D生成方面好像还没有太多进展,网友对这一现象也很是困惑。

Stable Video Diffusion问世!3D合成功能引关注,网友:进步太快

有人认为数据是阻碍发展的瓶颈:

Stable Video Diffusion问世!3D合成功能引关注,网友:进步太快

还有一些网友认为问题在于强化学习的能力还不够强

Stable Video Diffusion问世!3D合成功能引关注,网友:进步太快

家人们对这方面的最新进展有了解吗?欢迎评论区分享~

论文链接:https://static1.squarespace.com/static/6213c340453c3f502425776e/t/655ce779b9d47d342a93c890/1700587395994/stable_video_diffusion.pdf 需要重新写的内容是:

以上就是Stable Video Diffusion问世!3D合成功能引关注,网友:进步太快的详细内容,更多请关注php中文网其它相关文章!

最佳 Windows 性能的顶级免费优化软件
最佳 Windows 性能的顶级免费优化软件

每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。

下载
相关标签:
来源:51CTO.COM网
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
最新问题
开源免费商场系统广告
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习
PHP中文网抖音号
发现有趣的

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号