照片上的人出来了!云从3D人体重建登顶三项榜单,一张照片就能生成3D形象

你的Mate 20 Pro是不是买早了?

照片上的人出来了!云从3D人体重建刷新纪录,一张照片生成3D形象

跳起来的妹子被定格在半空中,成为一张平面的照片。

现在,输入这张照片到特定的程序里,就变成了这样:

照片上的人出来了!云从3D人体重建刷新纪录,一张照片生成3D形象

不只360°,全角度可见的3D立体形象,就好像妹子要从照片里跳出来一样。

以往的3D人体重建,往往需要多个摄像头,或者连续的多帧影像,才能重建出人体的3D模型。

不过现在,云从科技在3D重建领域刷新了榜单,而且只需要一个普通摄像头,拍摄一张照片就可以。

而且,既然一张照片就可以生成3D图像,那么连续的一段视频,就可以生成一个动画电影片段啊。

比如这样的动态场景,像是陈佩斯老师的《吃面》:

照片上的人出来了!云从3D人体重建刷新纪录,一张照片生成3D形象

我们把它3D化,从正面看:

照片上的人出来了!云从3D人体重建刷新纪录,一张照片生成3D形象

从侧面看:

照片上的人出来了!云从3D人体重建刷新纪录,一张照片生成3D形象

从背面看:

照片上的人出来了!云从3D人体重建刷新纪录,一张照片生成3D形象

从头顶看,上帝视角吃面:

照片上的人出来了!云从3D人体重建刷新纪录,一张照片生成3D形象

只要上个色,就可以变成动画版《吃面》。

三个数据集皆取得第一

云从的基于单帧图像的3D人体重建技术同时在Human3.6M、Surreal和UP-3D三个数据集上排到了第一名,将原有最低误差记录大幅降低30%。

照片上的人出来了!云从3D人体重建刷新纪录,一张照片生成3D形象
△ Human3.6M数据集
照片上的人出来了!云从3D人体重建刷新纪录,一张照片生成3D形象
△ Surreal数据集
照片上的人出来了!云从3D人体重建刷新纪录,一张照片生成3D形象
△ UP-3D数据集

每个数据集上的每项的error都要比此前的研究低,意味着生成的3D模型相对更为准确,更接近人体的真实状况。

照片上的人出来了!云从3D人体重建刷新纪录,一张照片生成3D形象

云从科技3D人体重建技术全身精度误差(Surface Error)在Surreal上从75.4毫米降低到52.7毫米,关节精度误差(3D Joint Error)从55.8毫米降低到40.1毫米,Human3.6M上的关节精度误差(3D Joint Error)从59.9毫米降低到46.7毫米,技术的执行速度从之前的上百毫秒降低到仅需5毫秒。

部署在手机上,无需3D结构光

云从的这项技术通过对RGB图像的分析,推理出人体或人脸的3D形态,并通过光学透视、阴影叠加等基本光学原则准确预测出各个关键点在3D空间的位置和朝向,从而得到人体的姿态或表情信息。

除了预测人体的3D形态和姿势,这项技术还可以实现用6万多个点完整描绘人体,帧率达到200fps。

另外,在部署上的一个优点是,可以利用普通光学摄像头作为感知设备,不需要连续图像或者多视角拍摄。

也即是说,如果将这项技术部署在手机上,那么不需要3D结构光也可以实现3D人脸识别,或者制作3D表情。

照片上的人出来了!云从3D人体重建刷新纪录,一张照片生成3D形象

相比传统的人体关键点检测,基于单帧图像的3D重建技术不仅能输出骨骼关节点信息,更能同时预测大量的人体表面关键点信息,预测结果更加丰富,而且每个点的坐标都是3D的,能够体现不同躯干的纵深信息。

多样的应用

除了在手机上实现各种3D卡通表情,3D人体重建技术还可以用在许多不同的场景。

商场购物就是一大应用场景,只需要一个角度的一张照片,就可以重建出顾客的身体3D模型,模拟穿上衣服的效果,节约了落地成本和部署难度。

照片上的人出来了!云从3D人体重建刷新纪录,一张照片生成3D形象

另外,这一技术也可以优化自拍、直播、短视频软件里的美颜、瘦身功能,在3D模型上美颜,效果会相对自然,不会出现角度极端的“蛇精脸”,加上虚拟的妆容打扮也可以更自然。

而当技术成熟之后,在影视特效制作方面,这项技术也可以更方便的制作出阿丽塔这类3D角色,而不必使用复杂的设备。

版权所有,未经授权不得以任何形式转载及使用,违者必究。

相关阅读