艾玛不哭!AI引起的“换脸”问题,AI正在解决

李根 发自 凹非寺

量子位 报道 | 公众号 QbitAI

这个年,希望艾玛·沃森(Emma Watson)过得踏实。

之前我们报道过,纸醉金迷的资本主义网站Reddit最近搞出可怕黑技术:用AI技术,把爱情动作片中的主角脸,换成想得不可得的女明星。史称:Deepfakes。

艾玛不哭!AI引起的“换脸”问题,AI正在解决

 “神奇女侠”

更恐怖的是,这种原本门槛不低的技术流举动,被一些别有用心的高手民主化了,升级之后推出了平民版本“FakeApp”,号称人人可用。

门槛大为降低。只要你手握FakeApp,只需输入1到2条明星脸部的高清视频,即使你没有技术背景和编程经验,也能轻松给爱情动作片的主角换脸。

宅男之蜜糖,女星之砒霜。

艾玛·沃森更是被double kill,不仅惨遭花式换脸,而且受欢迎程度远超众星,位居爱情动作片区换脸明星No.1。比大表姐、霉霉,不知要高到哪里去。

艾玛不哭!AI引起的“换脸”问题,AI正在解决

 艾玛·沃森被换脸图

不过艾玛现在可以松口气了,AI引起的问题,现在,AI正在解决。

“猫抓老鼠”

作为Deepfakes视频最主要的素材来源平台,GIF动图和短视频共享网站Gfycat,基于平台上GIF搜索数据和工具,训练了两个AI模型,让它们来发现并与换脸视频作斗争。

一个取名Project Angora,以一种长毛猫命名;另一个叫Project Maru,源于一种短毛猫。

艾玛不哭!AI引起的“换脸”问题,AI正在解决

 Angora猫和Maru猫

功能上说,长毛猫Angora记忆力好、动手能力强,可以快速找到换脸视频的原版本,或者是不同版本。

之前它被用在相同视频的不同分辨率版本替换上,比如有人将“霉霉”Taylor Swift低质量的GIF上传Gfycat时,长毛猫Angora可以在网上搜索更高分辨率的版本替换它。

而短毛猫Maru则嗅觉敏锐、火眼金睛。它可以弥补长毛猫Angora的不足。

比如一些全新的没被标注过的内容,长毛猫Angora就不知如何下爪,但短毛猫Maru会区分、能标注,它可以通过霉霉的脸,为这段没被标注的“霉霉”打上Swift的标签——实际就是机器自动化标注的形式之一。

另外,如果短毛猫Maru识别到这个素材中主角跟某个名人很像,它也会发挥猫的细致,一帧帧扫“脸”,看是否有诈——毕竟再完美的换脸造假,也很难在每一帧里达到天衣无缝。

总之,长毛猫Angora和短毛猫Maru,都在用AI打造的智爪抓捕漏网“老鼠”。

防不胜防

尽管如此,目前两只猫还没法杜绝“鼠患”,不是喵团不努力,而是鼠军太强大。

长毛猫Angora记忆力好,但如果这不是一张“明星脸”,可能就会一脸懵逼。

短毛猫Maru再聪明,但如果这个视频里完全都是素人,或者确实太像,比如波多姐姐和林姐姐之类的情形呢?事情就没那么简单。

毕竟两只洋猫的核心目的是打假,并不反性。

那怎么办?

目前Gfycat采取了预防为主、防治结合的指导思想。

比如短毛猫Maru扫过素材后怀疑有假(但不能肯定这脸就是艾玛·沃森),它会先给“艾玛”蒙上脸,然后再通过身体镜头、背景等去其他地方搜查,确认是否是一个被换脸的素材。

不得不说的是,短毛猫Maru的蒙脸技术也非常高超,比如下图,就是一个很容易“丢脸”的美国知名Twitter大V。

艾玛不哭!AI引起的“换脸”问题,AI正在解决

但再次强调,两只洋猫只能打假不会反性。

假如两只猫面对的是全网独家的视频,那它们真就无能为力了。或者即便是痕迹外露的换脸视频,但涉及的当事人均来自首发,那Maru也爱莫能助。

(温馨提示:确实无能为力,千万不要以身尝试!)

当然,为了解决两支AI猫无法解决的情况,现在Gfycat还雇佣了一些人类员工作为复核,另外还使用了共享位置、上传位置等数据,去协助判断是否包含恶意伪造。

一刀切?没用

之所以复核“恶意伪造”,是因为还有一些换脸视频并无恶意,甚至还包含了不成熟的艺术小创作。

比如有人通过换脸,把特朗普的尊容换到默克尔身上,表达讽刺之情和黑色幽默,也有人给尼古拉斯凯奇搞了他不知道的角色,此外还有更多合情合法的该技术利用。

艾玛不哭!AI引起的“换脸”问题,AI正在解决

更关键的是,容许Deepfakes这样的技术公开应用,总比藏于暗网好得多,未来在广告、选举影响等方面,这个技术都可能会发挥作用——可能是负面的,但也可能是正面的。

总之,技术进步带来的问题,如果一刀切,可能会由最懒方法造成最不可控后果。

最后,AI换脸带来的影响还不止于此。

从Deepfakes出现、FakeApp走红开始,争议和讨论没有停歇,应对举措也没有停止。

对于明显侵权、造成伤害的那些换脸爱情动作视频,Facebook、Pornhub等传播平台都旗帜鲜明予以禁止,甚至一项尺度宽泛的Twitter,此次也站了出来,明令打击换脸爱情动作内容。

而“受益者”Reddit,最近也挥刀自宫,一方面关停了之前用户分享的相关内容,另一方面也明确声明:禁止传播描绘裸着露着状态的任何人的图像或视频,或者明显未经允许创建或发布的任何爱情动作行为,包括伪造的视频。

Reddit之前不太有这样禁止的传统,更何况此次Deepfakes传播带来了4万名之多的用户——用户数在一周内从15000名扩张到55000名。

艾玛不哭!AI引起的“换脸”问题,AI正在解决

另外,还有一些奇怪的应用随之发生,比如出现了一个Deepfakes.cc的网站,其中包含隐性软件,在不警告用户的情况下劫持访问者的计算能力用以挖矿。

而运行Deepfakes的机器学习er,通常比普通用户群体有更强大的CPU。

世道真怪。

版权所有,未经授权不得以任何形式转载及使用,违者必究。

相关阅读