看下巴识心情,这个AI项链挂胸前也能识别面部表情

还不会泄露面部信息隐私

兴坤 发自 凹非寺

量子位 报道 | 公众号 QbitAI

瞄一瞄你的下巴,就知道你有没有在难过。

这个温馨的场景对应的不是窝在怀里的小猫咪,而是……

Neck Face,一款用于监控情绪的智能工具。

看下巴识心情,这个AI项链挂胸前也能识别面部表情

它被设计成项链及颈带样式,AI只需要看到使用者的下巴,就可以获取面部表情数据。

这款设备的面部识别原理,不仅打破了必须在正面放置摄像头的局限,而且还能做到在运动过程中持续捕捉表情信息。

智能项链Neck Face

项链式仪器包含一组Neck Face,由红外摄像头OV5647、近红外LED和红外带通滤波器组成,佩戴时位于下巴正下方;颈带式仪器包含两组,佩戴时分别位于两侧锁骨位置。

看下巴识心情,这个AI项链挂胸前也能识别面部表情

摄像头位置这么靠下,能看到我们的表情吗?

看下巴识心情,这个AI项链挂胸前也能识别面部表情

如此低的机位,自然看不到完整的面部表情,只能获得包含下巴部分下半张脸的轮廓图像。

AI通过对这部分图像的信息提取,以算法推测出完整面部表情。

当我们做面部表情时,面部肌肉会拉伸和收缩,推拉皮肤影响附近面部肌肉的张力,这种效果会导致脸颊轮廓发生变化。

Neck Face从颈部和下巴下方角度,用红外相机记录面部肌肉运动,以及所引起的面部轮廓变化。

获得脸部轮廓红外图像后,通过卷积神经网络帮助将二维图像轮廓重构为完整信息,并利用计算机视觉和深度学习模型,找到颈部和下巴红外图像与完整面部的联系。

结合ARKit,从深度相机中提取了52个混合形状参数(blend-shape),以及头部偏转角度数据,重构出完整的表情。

看下巴识心情,这个AI项链挂胸前也能识别面部表情

经过这样的处理过程,能够从下巴角度图像获得完整面部表情。并且可以在佩戴过程中,连续记录表情变化。

为验证这款设备监测结果准不准确,研究人员使用了苹果手机深度相机作对比分析。

看下巴识心情,这个AI项链挂胸前也能识别面部表情

测试者被要求在静坐和行走过程做出八种不同的表情,并且包含了上下左右四个方向转动头部的过程。

对比各种情况下手机和可穿戴仪器表情识别的差异,计算所得出的混合形状参数(分值0-1000)平均绝对误差。

看下巴识心情,这个AI项链挂胸前也能识别面部表情

通过对测试结果总结分析,可穿戴表情监测仪器误差在20-35之间。且可识别头部转动角度,角度误差在2-4.5度。

看下巴识心情,这个AI项链挂胸前也能识别面部表情

△左侧为手机摄像头识别处理的结果,右侧为NeckFace面部重建的结果。

两种设计相比,颈带式设备性能优于项链式,原因可能在于两侧摄像头能够捕获更多信息。

应用优势

现代人对自身健康越来越重视,不仅是身体机能的健康,心理健康也逐渐得到了更多关注。

以科学的方法对情绪进行监控,可以更好地掌握自身状况,及时做出调整或治疗,避免影响到身体机能。

记录情绪及心理状态建立起数据库,还可以方便个体追踪自身行为,有利于就医等社会活动。

提到大数据,一定会有人担心隐私泄漏的问题,由于Neck Face都是从头部下方对面部表情进行检测,而仅仅通过下半张脸无法识别到用户全部面部信息。

另外,Neck Face是红外成像,对环境不作识别,可以很好地隐藏环境信息。

看下巴识心情,这个AI项链挂胸前也能识别面部表情

对Neck Face的测试过程中也提到了,设备可以在行走中保持工作,这就大大解放了远程办公或视频会议时对使用者的局限,可以更自由地参与线上讨论。

研究团队

本研究主要由北京大学学生陈拓潮,麦吉尔大学学生Yaxuan Li完成,参与单位还有康奈尔大学SciFi实验室,康奈尔信息科学学院研究人员等。

康奈尔大学计算机与信息科学学院Cheng Zhang教授研发出可穿戴传感器C-Face。在此基础上,陈拓潮等人做出改进,开发出这款更方便穿戴,性能更好的Neck Face。

看下巴识心情,这个AI项链挂胸前也能识别面部表情

△左侧为使用者佩戴C-Face,右侧为3D模型反馈的面部表情。

参考文献
https://dl.acm.org/doi/10.1145/3463511

参考链接
https://news.cornell.edu/stories/2021/08/smart-necklace-could-track-your-detailed-facial-expressions?fbclid=IwAR1RXF6iBQ3SkQn3cJUjFkGYEJktitIeHnT2B6x1aT7nW4bfP3heUqMuOlo

版权所有,未经授权不得以任何形式转载及使用,违者必究。