AI反诈!Deepfake音视频检测技术亮相CES,准确率超90%
迈克菲出品
西风 发自 凹非寺
量子位 | 公众号 QbitAI
离大谱,一个标有美国消费者新闻与商业频道CNBC logo的视频称:
“每个欧洲人靠ChatGPT,每周能赚3到4千欧元。”
![AI反诈!Deepfake音视频检测技术亮相CES,准确率超90%](/wp-content/uploads/replace/3c6623957ca7a7a9b31e46bfedad82a4.gif)
“投资平台利用AI,特别是GPT,来分析公司股票和在线趋势信息。利用这些信息,程序自动买卖股票,使平台用户获利。”
![AI反诈!Deepfake音视频检测技术亮相CES,准确率超90%](/wp-content/uploads/replace/e0e062681fb010501b891a5cd4b9494c.gif)
好家伙,用ChatGPT这么好赚钱??
别急,亮相CES 2024的一种Deepfake音频检测技术来打假了。
![AI反诈!Deepfake音视频检测技术亮相CES,准确率超90%](/wp-content/uploads/replace/60734d022b47bdf23e85e638ad8be613.gif)
上面视频中字幕标红的内容全都是伪造的,像下面这样标绿的部分才是真实的信息。
![AI反诈!Deepfake音视频检测技术亮相CES,准确率超90%](/wp-content/uploads/replace/fd2e364aeb7673a9b2d3f9549f9b5800.gif)
当然,视频右边的实时监测图,早就说明了一切,遇到伪造内容纵坐标嗖的一下就上去了。
这就是来自知名杀毒软件公司迈克菲(McAfee)的一项打假技术,名为Project Mockingbird。
随着AI技术的发展,现在网络上充斥着不少AI合成的音视频,其中的信息也是真真假假,有时令人难以分辨,甚至有一些不法分子用其来诈骗和操纵公众舆论。
而现在,迈克菲推出的这项技术,据称识别AI克隆伪造音视频准确率超90%。
杀死一只“反舌鸟”
迈克菲2023年12月做的一项调查显示,美国人对Deepfake的担忧日益显著,近68%的受访者表示比去年更担心Deepfake,33%的人明确表示遭遇过Deepfake骗局或了解相关情况。
像下面这样婶儿的“霉霉给粉丝免费送锅”等AI合成的假视频,就坑过不少人。
![AI反诈!Deepfake音视频检测技术亮相CES,准确率超90%](/wp-content/uploads/replace/c2526c8ac128db0ab68434510da8a433.gif)
于是迈克菲推出了Project Mockingbird。取这么个名,原因是Mockingbird(可译为反舌鸟)是一种善于模仿其他鸟类及昆虫、两栖动物的叫声的鸟。
他们的策略是用AI打败AI。
Project Mockingbird使用AI驱动的上下文、行为和类别检测模型的组合,来识别视频中的音频是否可能是AI伪造的。
具体来说就是将音频或视频输入模型,分类模型从音视频数据中确定分析的内容是否属于预先定义的某些类别,并且可以确定伪造音频的起始位置,标记出伪造的部分。
迈克菲CTO Steve Grobman表示研究团队正在构建Project Mockingbird核心技术模块,将这项技术投入产品线中使用。
在官宣这项技术后,CNBC印度分支CNBC-TV18也转发为其宣传了一番:
![AI反诈!Deepfake音视频检测技术亮相CES,准确率超90%](/wp-content/uploads/replace/53093dfe0e0379df452bd65cdbc65227.png)
参考链接:https://www.mcafee.com/en-us/consumer-corporate/newsroom/press-releases/press-release.html?news_id=509b05a3-65e9-46d4-9f17-2dbc606e111a
- 打乱/跳过Transformer层会怎样?最新研究揭开其信息流动机制,一口气解答8大问题2024-07-26
- 谷歌AI拿下IMO银牌,仅差一分得金!第四题仅用时19秒2024-07-26
- 港大马毅:大模型长期没有理论就像盲人摸象;大佬齐聚谈AI下一步2024-07-24
- 贾扬清共一论文获ICML时间检验奖:首个开源版AlexNet,著名框架Caffe前身,最佳论文奖也已公布2024-07-24