“3d视频版sora”来了 -金沙娱场城app

输入单个物体视频，就能获取任意拍摄视角的全视图3d动态视频了！

智东西7月25日消息，昨日晚间，ai独角兽stability ai推出其首个视频生视频（video-to-video）模型stable video 4d（sv4d），该模型能够将单个物体的视频输入，转换为8个不同视角的多个新视频，用户可任意指定摄像机角度。

▲输出全视图视频演示

目前，sv4d可以通过一次推理，在约40秒内生成8个视图的各5帧视频，整个4d优化需要20-25分钟。该模型已在hugging face上开源，适用于游戏开发、视频编辑、虚拟现实（vr）等场景的应用，可免费用于研究、非商业用途。

sv4d技术论文也同步发表，研究团队由stability ai和东北大学学者组成，其中详细解读了该模型的框架结构、优化策略、测评结果等。

▲sv4d论文

stability ai从2019年成立起，就致力于研发文字、图像、音频、视频等多个领域的开源模型，其在2022年跻身独角兽行列。虽然从去年以来它就陷入寻求卖身、核心技术团队离职、ceo卸任等困境，但即便如此也没能打断其不断开源新模型的脚步。

今年6月，stability ai在债台高筑的情况下获得前facebook总裁sean parker等投资者的8000万美元注资，并迎来了新任ceo——前weta fx（维塔数码）负责人prem akkaraju。自akkaraju上任以来，stability ai在一个月内又接连发布聊天机器人stable assistant、音频生成模型stable audio open以及此次发布的sv4d。

论文地址：

https://arxiv.org/abs/2407.17470

hugging face开源地址：

https://huggingface.co/stabilityai/sv4d

01.基于svd升级4d框架，40秒生成多视角视频

sv4d主要用在3d模型的多视角视频生成。其输入为单个物体的单视角视频，输出为同一物体8个不同角度的多视角视频。

据介绍，该模型以图生视频模型stable video diffusion（svd）为基础，实现了从图生视频到视频生视频的能力飞跃。

具体运行时，用户首先上传一段视频并指定所需的摄像机角度，sv4d会根据指定的摄像机视角生成8个新视角视频，从而提供拍摄对象的全面、多角度视频。生成的视频可用于优化拍摄对象的动态表示，适用于游戏开发、视频编辑、vr等场景的应用。

▲sv4d输入输出

目前，sv4d仍处于研究阶段，可在40秒左右的时间内生成8个视角各5帧视频，整个4d优化流程约耗时20-25分钟。

以往用于多视角视频生成的方法，通常需要从图像扩散模型、视频扩散模型和多视图扩散模型的组合中进行采样，而sv4d能够同时生成多个新视图视频，大大提高了空间和时间轴的一致性。此外，该方法还可以实现更轻量的4d优化框架，而无需使用多个扩散模型进行繁琐的分数蒸馏采样。

▲sv4d与其他方法对比

与其他方法相比，sv4d能够生成更多样的多视图视频，且更加细致、忠实于输入视频，在帧和视图之间保持一致。

sv4d是stability ai推出的首个视频到视频生成模型，已在hugging face上开源发布。stability ai称，团队仍在积极完善该模型，使其能够处理更广泛的现实世界视频，而不仅仅是用于训练的合成数据集。

02.混合采样保持时间一致，4d生成全面超基准线

sv4d的技术论文也同步发表，其中详细解读了该模型的框架结构。

总的来说，sv4d是一个用来生成动态3d对象新视图视频的统一扩散模型。给定一个单目参考视频，sv4d为每个视频帧生成在时间上一致的新视图，然后使用生成的新视图视频来有效地优化隐式4d表示，而不需要基于分数蒸馏采样的优化。

▲sv4d框架概述及生成的4d资产

sv4d的模型结构如下图。基于相机条件，sv4d将相机视点的正弦嵌入传递给unet中的卷积块，并在空间和视图注意力块中，使用输入视频进行交叉注意力条件设定。为了提高时间一致性，sv4d引入了一个额外的运动注意力块，并以第一帧的相应视图为交叉注意力条件。

▲sv4d模型结构

为了在保持时间一致性的同时，扩展生成的多视图视频，研发团队在推理过程中提出了一种新颖的混合采样策略。

首先，sv4d采样一组稀疏的锚定帧，然后将锚定帧作为新的条件图像，对中间帧进行密集采样/插值。为了确保连续生成之间的平滑过渡，sv4d在密集采样期间，交替使用时间窗口内的第一帧前向帧或最后一帧后向帧进行条件设置。

▲sv4d模型采样

在框架的优化上，sv4d使用参考多视图图像的第一帧，优化由多分辨率哈希网格以及密度和颜色多层感知机（mlp）表示的静态nerf，然后解冻时间变形mlp，并使用随机采样的视图和帧来优化动态nerf。

▲优化框架概述

为了训练统一的新视图视频生成模型，sv4d研发团队从现有的objaverse数据集中整理了一个动态3d对象数据集。在多个数据集上的实验结果和用户研究表明，与之前的工作相比，sv4d在新视图视频合成以及4d生成方面具有最先进的性能。

▲objaversedy数据集上4d输出的评估

在objaversedy数据集上的4d输出评估中，sv4d在所有指标方面优于基线，在视觉质量（lpips和clip-s）、视频帧一致性（fvd-f）、多视图一致性（fvd-v）和多视图视频一致性（fvd-diag和fv4d）方面都击败了此前的模型。

03.结语：stability ai多模态再添新布局

stability ai以文生图开源模型起家，在文本、视频、3d等多个模态上都有所布局。此次开源sv4d，是其在3d 视频生成两个方向上的共同进展。

尽管该模型目前仍处于前期研究阶段，但它在各指标表现出的优秀能力和模型架构上的创新思路，为未来的发展开辟了广阔的前景。随着模型的迭代和优化，sv4d有望在游戏、vr等更多领域的应用发挥重要作用。

本文来自微信公众号，作者：香草，编辑：李水青，36氪经授权发布。