防不胜防的AI水军，比Deepfake还可怕
如果网络水军用上了GPT-3，并在社交媒体上回复了你
萧箫 发自 凹非寺
量子位 报道 | 公众号 QbitAI
AI水军，到底长啥样？
这是一条微博下面的评论：
△ 图源微博@僵尸文学bot
其实这些评论的博主，从名字和语言风格来看，都不是人，而是用AI生成的僵尸号。
如果GPT-3也成为僵尸号活跃在我们的社交网络，还制造谣言，是不是很恐怖？
现实是，这样的事情正在发生。
相比于真实的流量，利用AI伪造成「水军」，用来在社交媒体上刷关注度和点赞量，显然性价比更高。
流量造假也罢了，如果「AI水军」在社交媒体上批量传播极具煽动性的假消息、假言论——
甚至欺骗过了你的妈妈，让她把炮制的假消息转发到了家人群……
△ 这批美国网络水军账号，基本都是机器人
可能你会认为，AI生成的假新闻、假消息，影响范围也许并没有那么广，不应当如此危言耸听，因为人们很容易将之识别出来。
但最新消息是，现在的「AI水军」，还可能足以影响2020年的美国总统选举。
美国总统，或许是AI选的
前段时间火爆的Deepfake，生成的以假乱真的图像及视频效果令人惊叹，一定程度上也导致了虚假视频和图像的大量传播。
甚至，研究人员在调查哪种类型的操纵活动可能威胁到2020美国总统选举时，AI产生的误导性视频言论位居榜首。
此后，诸多社交平台不得不针对这些图像和视频出台了相关政策，以寻求自由表达和真实性之间的平衡。
Deepfake的视频图像伪造痕迹，或许有迹可循，但AI制造的「Textfake」却往往更加难以禁绝。
例如，在2016年美国总统选举时，就曾出现过大量文字版水军言论，如下图。
「惊爆！米歇尔奥巴马竟是男人！」「重磅！奥巴马是穆斯林！」「震惊！种族主义者希拉里践踏黑人！」……
这些虚假消息往往根据真实信息改编，因此更具有迷惑和煽动性。
据悉，2019年末，Facebook关闭了来自美国和越南的610个账号、89个专页和156个群主，其中专页的关注者约有5500万。
这其中，一些账号使用了AI生成并伪装成美国公民的个人资料图片，并用来发布虚假消息，支持特朗普。
或者，攻击特朗普的竞争对手。
想象一下，如果你是一名无倾向的美国选民，看见社交媒体上的「人」都在一边倒地支持某个候选人，你会怎么选择？
而AI伪造虚假信息的能力，也正随着AI技术的不断发展「进步升级」。
和你说话的「人」，也许是GPT-3
例如，最近大火的GPT-3，文本信息生成的能力就备受瞩目。
与Deepfake不同的是，这种「Textfake」生成的文本内容，相比图片和视频，虚假信息往往也更隐蔽。
想象一下，GPT-3可以学习某个人的语言风格，甚至能扮演成那个人和你对话。
如果AI没有犯低级错误的话，你甚至可能判断不出来他的真假。
而且，即使有低级错误，研究人员表示，GPT-3也能通过微调来及时改正。
是不是有点细思极恐？
不可否认的是，各种AI水军的出现，正在让网路两端的信任不断降低。
随着AI检测变得越来越困难，我们可能也更难信任网上所看到的内容。
但这不意味着，我们就要否认一切来自网上的消息，在了解过真实情况后，最重要的还是拥有自己的判别能力。
毕竟，早些年的背背佳和小罐茶，也不是AI制造出来的假消息（狗头）。
了解真实，洞鉴是非
其实最重要的是，人们要对潜在的假新闻、假消息有一个自我判断的能力。
毕竟，AI水军泛滥的情况，一定程度上也反映出，人们对AI造假的能力亟待重视。
预防的第一步，是人们必须对AI造假的真实情况有一个了解。
如果知道了社交媒体上有高仿机器人，那么人们在被煽动前，也许会冷静下来，去判断是非。
与其根据某条消息的「传播度」去判断它的真实性，更应该从事实出发进行评估。
参考链接：
wired.com/story/ai-generated-text-is-the-scariest-deepfake-of-all/
https://new.qq.com/rain/a/20200717A0IM4N00
https://www.sohu.com/a/362168121_161795
- 首个GPT-4驱动的人形机器人！无需编程+零样本学习，还可根据口头反馈调整行为2023-12-13
- IDC霍锦洁：AI PC将颠覆性变革PC产业2023-12-08
- AI视觉字谜爆火！梦露转180°秒变爱因斯坦，英伟达高级AI科学家：近期最酷的扩散模型2023-12-03
- 苹果大模型最大动作：开源M芯专用ML框架，能跑70亿大模型2023-12-07
