运行文件代码nerf
比如这个妹子在书架前拍了四张自拍,她都不满意。
现在我可以把选最美角度的事交给艾了,让姐姐不再苦恼。只要有几张照片,它就能生成各种角度的自拍。
然后,你可以在AI生成的视频中找到最美的角度,分享到朋友圈。
这个人工智能是由华盛顿大学和谷歌联合开发的。
这种方法不需要太复杂的设备,只需要智能手机的摄像头和CPU就可以完成计算和渲染。这比iPhone 12 Pro使用内置激光雷达生成3D图像的成本要低很多。
看到nerfies这个名字有没有似曾相识的感觉?Nerfies其实是nerf+self的组合。
NeRF(神经辐射场)是谷歌最近开发的一种将2D图像转换为3D的模型,但NeRF要求主体在整个过程中保持完全静止。
比如上面这个女生拍四张照片的时候,头部姿势必然会发生变化。如果直接应用NeRF,效果会很可怕。
Nerfies是一个可变形的NeRF,可以用非刚性变形来重建场景。
在NeRF的基础上,作者从几何和物理模拟原理出发,提出了NeRF的弹性正则化,进一步提高了2D对三维转换的鲁棒性。
在可变NeRF中,作者引入了弹性正则化、背景正则化和局部最小退火技术来避免不良影响。
作者将潜在变形代码(ω)和外观代码(ψ)与每幅图像相关联。在观测坐标系中跟踪相机光线,利用变形场将样本沿光线转换到标准坐标系,变形场由变形码ω编码为MLP。
此外,转换后的样本位置(x0,y0,z0)、观察方向(θ,φ)和外观代码ψ作为MLP查询模板NeRF模块的输入,样本沿光线进行积分。
可变NeRF不仅可以用来自拍,还可以有更多好玩的用途。
例如,创建希区柯克变焦效果过去需要特殊的摄影技巧,或者通过从远及近拍摄视频,然后进行后期处理。现在只要几张照片就可以了。
如果不需要场景角度的变化,而是人物姿态的变化呢?
可变NeRF可以在头部左右之间线性插入任意姿势的照片。
最后,另一个目的是生成防抖视频。既然变量NeRF可以生成任意角度的图像,那么现在你可以让手负责抖动,让它负责稳定。
目前作者还没有公布源代码,但是他们已经把GitHub的按钮放在了他们项目的主页上。看来他们准备开源了。你渴望试一试吗?
项目地址:
/事件/2571160736900