- N +

媲美Sora,面菲使用!带物理模拟的,Luma AI文生视屏模型Dream Machine开放使用

媲美Sora,面菲使用!带物理模拟的,Luma AI文生视屏模型Dream Machine开放使用原标题:媲美Sora,面菲使用!带物理模拟的,Luma AI文生视屏模型Dream Machine开放使用

导读:

根据中央气象台的微博公布的数据月日时河北省平山县的实时气温达到了甚至超越了新疆吐鲁番的河北省内多个地区的气温更是突破了标志着炎热夏声明本文来自于微信公众号开放社区作者开放社区授...

根据中央气象台的微博公布的数据,6月11日13时,河北省平山县的实时气温达到了41.4℃,甚至超越了新疆吐鲁番的41.2℃。河北省内多个地区的气温更是突破了42℃,标志着炎热夏

声明:本文来自于微信公众号 AIGC开放社区(ID:AIGCOPEN),作者:AIGC开放社区,授权 转载发布。

6月13日,知名3D建模平台 AI发布最新模型Dream Machine,向所有用户面菲开放使用。

Dream Machine除了支持文本之外,还可使用图片作为引导来生成视屏,其生成的视屏质量、动作一致性、色彩、光影、饱和度、运镜等方面,可以媲美OpenAI的Sora。

Dream Machine的另外一个技术特点是支持物理模拟,这意味着生成的视屏更能体现出物理世界的特点,包括重力下落、碰撞、光影变化等。

Dream Machine生成的视屏

为什么物理模拟,对文生视屏很重要

目前,国内外文生视屏赛道都主打“物理模拟”这个技术特点,可以确保生成的视屏不仅看起来非常真实,并在时间和空间上保持连贯性、一致性。

麻省理工学院、斯坦福大学、哥伦比亚大学和康奈尔大学联合开源的3D交互视屏模型就深度介绍过该技术。

动态模拟与物理一致性是大模型生成高质量视屏的核心技术之一,要想实现这两点,就需要理解和模拟现实世界中的物理规律。

动态模拟指的是视屏生成过程中对物体和场景的运动进行精确的模拟。在一个视屏片段中,物体的运动轨迹、速度和加速度需要符合现实世界的物理定律。

例如,当一盆花在风中左右摇摆时,视屏中的每一帧都必须展示花盆和花朵按照风力的作用进行摆动,花盆由于重力和风力的交互作用而略微倾斜,然后在风力减弱时逐渐恢复到垂直状态。

这种模拟需要对物体的运动状态进行连续的计算和更新,确保视屏前后帧之间的连贯性。

物理一致性是视屏中的物体和场景遵循现实世界的物理规律,包括重力、碰撞、摩擦力、空气阻力等。

这不仅仅是对单个物体运动的模拟,还包括物体之间的相互作用。例如,在生成两辆车相撞的场景时,模型需要模拟碰撞时的力和反作用力,考虑车体的变形和碎片飞散的方向和速度。这种物理一致性使得生成的视屏更加逼真和可信。

所以,为了实现动态模拟与物理一致性,文生视屏模型通常会使用大量包含了现实世界中物体运动和相互作用的视屏数据和互作用实例。

通过学习这些数据,模型可以捕捉到物体运动的规律和相互作用的模式,并将其应用到新的视屏生成过程中。

此外,有的视屏模型可能还会加入物理引擎,将场景中的物体和环境参数输入到模拟器中,然后通过数值计算来模拟这些物体在受力后的运动和变化。

媲美Sora,面菲使用!带物理模拟的,Luma AI文生视屏模型Dream Machine开放使用

例如,当生成一个描述风吹动树叶的视屏时,物理模拟引擎会计算风力对树叶的影响,包括风的速度、方向对树叶的摆动和飘落的影响。可以让大模型生成的视屏不仅在视觉上逼真,而且在物理行为上也是一致的。

Dream Machine生成案例展示

由于Dream Machine面菲开放使用,使用的人非常非常多,目前生成的效率比较差。

正式宣称生成一个视屏是120秒左右,实际是几分钟甚至10分钟左右才能生成一个视屏,效果还是相当好的。

那就先为大家展示一下其他人已经生成好的视屏作品。

例如,一个真实的废墟场景拍摄镜头。这个生成的视屏有点像虚幻引擎5游戏里的场景,已经非常真实了。

一辆飞奔在高速公路上的跑车。虽然这个视屏只有5秒钟,但是它的运镜、场景切换浮动很大,而且连贯、丝滑,这比Gen-2、Pika等同类产品生成的效果更好。

下面这个是图片生成视屏的案例,本身是一张静止的图片,加上图片和文本描述轻松就动起来了,可以看到运动性的幅度依然很大。

也有一些接受过内测邀请的,通过Dream Machine做了不少微电影。例如,下面这个做的《Tales of the Other Side》电影预告。

制作的人类在未来与机器人关系的微电影。

一部关于怪物的卡通动漫视屏

今年年初OpenAI发布的Sora确实很惊艳,但将近4个月的时间还在封闭测试中,无疑极大打击了用户的热情。

而国内快手发布的“可灵”和今天最新的Dream Machine已经全面开放使用,并且在生成的视屏质量方面不输Sora,文生视屏赛道的竞争格局将会像文本一样更加激烈。

面菲体验地址:https://lumalabs.ai/dream-machine/creations

返回列表
上一篇:
下一篇: