谷歌搞了个 AI 自拍神器,绝对包你女朋友满意!!!

Python学习与数据挖掘

共 1184字,需浏览 3分钟

 ·

2020-12-05 18:12

点击关注"Python学习与数据挖掘"

更多超级干货第一时间推送给你哦!!!


爱自拍的女生,为了拍一张美照总是需要很久,就是为了找到最美的角度。
比如这位妹子,在自己的书架前拍了 4 张自拍照,都不太满意。
现在可以把选最美角度这件事交给 AI 了,让妹子不再苦恼。只要几张照片,它能从中生成各种角度的自拍。
然后,你可以在 AI 生成的视频里,找到一个自认为最美的角度,分享到朋友圈。
这个 AI 就是华盛顿大学和谷歌联合开发的 nerfies
这种方法不需要太复杂的设备,只要智能手机的摄像头和 CPU 就能完成运算和渲染。这可比 iPhone 12 Pro 用内置激光雷达来生成 3D 图像的成本低多了。

原理

看到 nerfies 这个名字是不是有种似曾相识的感觉?nerfies 其实就是 NeRF+Selfies 两个单词合并而来。
NeRF(神经辐射场)是谷歌最近开发的一种 2D 图像转 3D 的模型,但 NeRF 要求拍摄对象在整个过程保持完全静止。
比如,上面的妹子在自拍 4 张照片的时候,头部姿势不可避免地会发生变化,如果直接套用 NeRF,效果惨不忍睹。
而 nerfies 则是可变性神经辐射场(Deformable NeRF),它能够重建非刚性变形的场景。
在 NeRF 的基础上,作者从几何和物理模拟的原理出发,提出了 NeRF 的弹性正则化,进一步提高了 2D 转 3D 的鲁棒性。
在可变性 NeRF 中,作者引入了弹性正则化、背景正则化以及一种可避免不良的局部最小值退火技术。
作者将潜在变形码(ω)和外观码(ψ)与每个图像关联。在观测帧中对摄像机光线进行追踪,并使用变形场将样本沿光线转换到规范帧,变形场由变形码 ω 编码为 MLP。
另外使用转换后的样本位置 (x0,y0,z0)、观察方向 (θ,φ) 和外观码 ψ 作为 MLP 的输入,来查询模板 NeRF 模块,并沿着光线对样本进行积分。

更多玩法

可变性 NeRF 不仅可以用于自拍,还有更多好玩的用途。
比如创建 “希区柯克变焦” 的效果,过去需要专门的摄影技巧,或者是通过由远及近的拍摄视频再后期处理。现在只要几张照片就可以了。
如果不需要场景角度变化,而是需要人物姿势变化呢?
可变性 NeRF 能在头向左和向右之间线性插入任意姿势的照片。

最后还有一个用途是生成防抖视频。既然可变性 NeRF 可以生成任意角度的图像,那么现在可以让手负责抖,而让它负责稳了。
感兴趣的小伙伴,项目资料和论文我已经上传,欢迎阅读学习!

领取方式:


长按二维码,后台发送 [自拍]


浏览 9
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报