霉霉再成Deepfake受害者,AI“不雅照”被疯传,粉丝网友全都怒了
换脸攻击防不胜防
克雷西 发自 凹非寺
量子位 | 公众号 QbitAI
Deepfake最新受害者出现了——全球顶流,霉霉女士(Taylor Swift)。
近乎是在一夜之间,X、Facebook等社交平台上便充斥了大量虚假“不雅照片”,而且浏览量已经高达上千万!
![霉霉再成Deepfake受害者,AI“不雅照”被疯传,粉丝网友全都怒了](/wp-content/uploads/replace/6c4239d33474074388fd6c126f59abf2.jpeg)
△图片由Deepfake合成
尽管最早传播这些图片的账号已被封禁,但照片的流传仍未彻底阻断。
霉霉本人也已经得知此事,对此表示相当愤怒,粉丝们也自发组织了保护行动。
在X上,有网友直接@马斯克,喊话说这事老马你得出来管管了。
![霉霉再成Deepfake受害者,AI“不雅照”被疯传,粉丝网友全都怒了](/wp-content/uploads/replace/040aaafdff4474d7abfcb6c95609b416.jpeg)
虚假照片病毒式传播
事情要从霉霉和美国NFL橄榄球运动员Travis Kelce的恋情说起。
Kelce效力于堪萨斯城酋长队,两人的恋爱关系被曝光后,霉霉也成为了该球队比赛的常客。
于是便有人借题发挥,用AI生成了以球场为背景,涉及霉霉和多名虚构“队员”的露骨照片。
![霉霉再成Deepfake受害者,AI“不雅照”被疯传,粉丝网友全都怒了](/wp-content/uploads/replace/c3f7c00897f98d00a54180a8c721b615.jpeg)
△图片由Deepfake合成
而关于这些图片的传播过程,则存在多种传闻,The Verge的说法是最早出现在某加密聊天群组当中。
英国《每日邮报》则称,这些Deepfake照片一开始被传至一家不良网站,这个网站上充斥着大量以知名人士为主角的不雅照片。
![霉霉再成Deepfake受害者,AI“不雅照”被疯传,粉丝网友全都怒了](/wp-content/uploads/replace/472ba6ef0ba6cb6d429959ac1a6e98bd.png)
除了霉霉,这家网站还收录了成百上千的名人,包括饰演芭比的Magrot Robbie也未能幸免。
![霉霉再成Deepfake受害者,AI“不雅照”被疯传,粉丝网友全都怒了](/wp-content/uploads/replace/1be3b90ad427918cd23114563d84b62e.png)
照片传上网后不久,在X、Facebook等各大社交媒体中就出现了疯狂的传播,据悉浏览量高达上千万。
“Taylor Swift AI”一度成为了X上的热门话题,不过目前疑似已被屏蔽。
![霉霉再成Deepfake受害者,AI“不雅照”被疯传,粉丝网友全都怒了](/wp-content/uploads/replace/2ac2cea8c0cba9c70efc2552dcc3c15c.png)
得知此事后,霉霉的粉丝们在X上发起了保护行动,“PROTECT TAYLOR SWIFT”变成了新的热搜。
![霉霉再成Deepfake受害者,AI“不雅照”被疯传,粉丝网友全都怒了](/wp-content/uploads/replace/7e35f512ca3bc22e4ec750c088f44eef.png)
但也有人混入其中,假借“PROTECT”的标签继续传播那些虚假照片……
![霉霉再成Deepfake受害者,AI“不雅照”被疯传,粉丝网友全都怒了](/wp-content/uploads/replace/73368cc2331c2be7c67c487e9e30860f.png)
愤怒的粉丝们挖出了一名疑似造成照片大量传播的始作俑者,并表示其有多年的性骚扰的前科。
![霉霉再成Deepfake受害者,AI“不雅照”被疯传,粉丝网友全都怒了](/wp-content/uploads/replace/8048654c4b43e6056d6b62b03377068f.png)
该账号目前已经设置了访问权限,但据有权限的用户透露,该用户在自己的账号上嚣张地挑衅说“你们找不到我”。
![霉霉再成Deepfake受害者,AI“不雅照”被疯传,粉丝网友全都怒了](/wp-content/uploads/replace/ba810bc428278962425e44b9f3ab74e6.png)
截止目前,一些参与传播照片账号已被各大平台陆续封禁,但仍有不少漏网之鱼。
![霉霉再成Deepfake受害者,AI“不雅照”被疯传,粉丝网友全都怒了](/wp-content/uploads/replace/09b4c824cce31094377978fb946cc029.png)
甚至有人在自建网站上公开叫卖霉霉的宣称是“自制”的deepfake照片合集,1套要价10英镑。
![霉霉再成Deepfake受害者,AI“不雅照”被疯传,粉丝网友全都怒了](/wp-content/uploads/replace/a160dab50b750c93df988b4720c76205.png)
一名据称是接近霉霉的消息人士告诉《每日邮报》,其本人对此表示非常愤怒,团队正在考虑是否采取法律手段。
另据了解,此次事件已经不是霉霉第一次遭遇Deepfake,但上一次只是冒充她的形象和声音给产品带货,并未出现露骨内容。
![霉霉再成Deepfake受害者,AI“不雅照”被疯传,粉丝网友全都怒了](/wp-content/uploads/replace/26c076480cc8e92991c2f4808cd1b6da.png)
美联社的一份报告显示,去年互联网上出现的Deepfake视频多达14万段,超过了以往的总和。
而面对Deepfake,像霉霉这样的名人尚且有粉丝和团队帮忙澄清、喊话,但普通人如果有这样的遭遇,可能就百口莫辩了……
该设法防御Deepfake了
此次事件中,各大平台的删帖行动可能还算及时,在X上,大部分相关内容都已不见踪影。
Facebook方面,母公司Meta也有一名发言人告诉《每日邮报》:
这些内容违反了我们的政策,我们正在将其从我们的平台上删除,并对发布该内容的帐户采取行动。
但也有网友说,这不是删除的问题,这些照片一开始就不应该出现在这些平台上。
对此Meta也做出了回应,表示“会继续监测并及时删除违规内容”。
而在技术层面,Nature杂志也在其“2024最值得关注的七项技术”一文中提及了Deepfake检测。
![霉霉再成Deepfake受害者,AI“不雅照”被疯传,粉丝网友全都怒了](/wp-content/uploads/replace/8f3d4e9d7ef908b772f72c701d15913e.png)
Nature的文章中指出,让开发者在AI工具中加入隐形水印机制或许是一种方案。
但这种做法可能更多是在事后进行追踪,同时起到一定的震慑作用,但想从根源上阻止Deepfake,可能还需要全人类的共同努力……
参考链接:
[1]https://www.theverge.com/2024/1/25/24050334/x-twitter-taylor-swift-ai-fake-images-trending
[2]https://www.dailymail.co.uk/news/article-13006645/taylor-swift-furious-ai-pictures-porn-legal-action.html
[3]https://www.nature.com/articles/d41586-024-00173-x
- 几何朗兰兹猜想被解决!历时30年、证明论文达800余页,中国学者陈麟系主要作者2024-07-23
- 开源大模型杀疯了!Mistral新模型三分之一参数卷爆Llama 3.1,“新趋势已显而易见”2024-07-25
- GPT-4o mini登顶大模型竞技场,奥特曼:两个月内微调免费2024-07-24
- 英特尔CPU疯狂崩溃,测评大佬揭露工艺缺陷,官方回应:修复补丁下月上线2024-07-23