全球政治取决于不断变化的叙事，这些叙事每天都被数百万人改写，就像我们在 Twitter 上看到的最新内容重塑了我们的观点一样。当我们读到的是各行各业的真实人物观点时，我们当然是在享受言论自由的好处，这显然是对技术的民主运用。然而，当我们读到的内容是缺乏必要的身份核查和社交媒体上欺诈机器人的结果时，这绝不是民主的——这是一种控制本应属于我们的空间的企图。由于在线平台缺乏社交媒体验证实践，不良行为者得以引导全球讨论，经常传播虚假信息以实现特定的政治议程。因此，实施虚假社交媒体账户检测变得至关重要。
虚假账户和机器人长期以来一直与国际政治密切相关，在过去十年中引起了全球争议。数百篇甚至数千篇新闻文章报道了选举前社交平台上机器人活动的增加。在 2024 年英国大选之前，全球见证的文章“调查显示，X 上类似机器人的账户发布的内容已被发现 1.5亿次 英国大选前的民调结果”一文强调，公众的意见不会成为唯一的决定因素。
有趣的是，不仅媒体平台对机器人驱动的政治流量发表了看法，在过去 20 年里，学术界也开始着手解决这个问题。在早期对恶意机器人软件的讨论中，T. Holz 于 2005 年撰写了一篇批评文章《短暂参观机器人动物园》。这是第一批讨论在线机器人攻击的文章之一，当时机器人攻击主要用于大规模身份盗窃、分布式拒绝服务 (DDoS) 攻击或发送垃圾邮件。
Holz 成功捕捉到了这些机器人的关键特征，概述了它们的特征和行为。他还创建了一个可以对不同类型机器人进行分类的结构。剑桥学者在 2020 年借鉴了 Holz 的研究成果以及自 2005 年以来许多其他关于机器人行为的领先论文和研究，并同样创建了自己的分类，特别关注政治机器人的在线活动。
政治机器人动物园
剑桥大学出版社的学者们就政治机器人的使用和威胁撰写了大量文章。塞缪尔·C·伍利 (Samuel C. Woolley) 在其 2020 年的论文《机器人与计算宣传》中取得了真正的进展： 通信和控制自动化他在论文中指出，“社交机器人出现在网络政治讨论中可能会带来三个明显的问题：第一，影响力可能会在出于恶意目的的可疑账户之间重新分配；第二，政治对话可能会进一步两极分化；第三，错误信息和未经证实的信息的传播可能会加剧。”
他继续复制 Holz 最初的 Bot-Zoo 分类，但将这一概念应用于 政治机器人，确定以下类别：
- 监听机器人： 可以监控社交媒体网站和数据库中的关键信息，还可以跟踪和传达他们发现的内容。
- 垃圾邮件机器人： 相反，垃圾邮件机器人的构建目的就是产生噪音。
- Wikiedit 机器人： 可以创建 Wikiedit 机器人来监控政客对维基百科页面的编辑。
- 休眠机器人： 潜伏机器人是驻扎在 Twitter 等网站上的社交媒体账户，多年来几乎从未使用过，目的是产生更真实的在线形象。它们会在重大政治事件发生时被激活。
- 恶意机器人： 为骚扰而生的喷子机器人曾被用来骚扰试图在 Twitter 上组织和交流的活动人士，但它也能将流量从一个事业、产品或想法引导到另一个事业、产品或想法上。
- 蜜罐机器人： 旨在吸引特定用户甚至其他机器人。
现代政治
现代政治与社交媒体平台的联系越来越紧密，舆论之争往往受到恶意行为者而非真实言论的影响。机器人和虚假账户的泛滥改变了政治参与的格局，导致虚假信息以前所未有的速度传播。
中国间谍气球事件（2024年）
其中一个例子是 2024 年初发生的一起案件，当时机器人大军在社交媒体上就中国间谍气球事件展开了激烈斗争。卡内基梅隆大学的研究人员研究了 120 万条推文 与该事件相关，发现了一些有趣的结果。
中国推文主要是人工编写的，其中 64% 推文由机器人编写。然而，美国也利用机器人试图推卸责任，其中 35% 推文来自机器人。这个案例凸显出，我们每天在 Twitter 或 Facebook 等平台上看到的很多内容可能并不可信，因为区分真实信息和虚假信息变得越来越困难。
英国脱欧公投（2016年）
马可·巴斯托斯博士发现了一个社交媒体机器人网络，该网络在 2016 年英国脱欧公投活动期间被用来在 Twitter 上发布选举信息。研究发现，在公投前后两周内，共有 13,493 个账户发布了推文。
这些虚假的网络身份发表意见，并试图 操纵舆论 通过快速级联推文。
不出所料，这些资料在投票结束后就消失了。城市大学对此案的研究表明，“这些虚假的网络身份通过快速的连锁推文表达意见并试图操纵舆论。”
社交媒体上的机器人推动英国改革（2024）
最近 BBC新闻文章 报道称，改革英国在多次发布疑似由恶意机器人编写的帖子后，民调支持率有所上升。BBC 决定进一步调查此事，联系了明显试图夸大改革英国受欢迎程度的账户背后的人。在担心外国干涉其他选举后，调查得出结论，其中许多账户都是虚假的。
BBC 的文章指出，“过去十年，俄罗斯等敌对外国势力曾试图在西方选举期间挑起分裂并宣传特定观点。他们利用社交媒体公司所谓的‘虚假账户’和用户所谓的机器人或‘喷子农场’网络。”
研究人员已经记录了政治机器人的使用情况，这些机器人极大地增强了政治家和政治候选人的社交媒体指标。 唐纳德·特朗普 致罗德里戈·杜特尔特。
很难确定这些操纵形式所能达到的影响力程度，但许多记者和学者得出的结论是，这种操纵肯定意义重大。剑桥大学出版社的学者报告称，“研究人员已经记录了政治机器人的使用情况，这些机器人极大地增强了美国政客和政治候选人的社交媒体指标。 唐纳德·特朗普 给罗德里戈·杜特尔特。”
控制局势
需要考虑的是，网络平台是否采取了足够的措施来遏制恶意机器人驱动内容的传播。特别是，选举期间似乎会引发此类活动的增加，这表明缺乏强大的身份验证系统。
许多社交媒体平台似乎试图通过删除虚假账户来解决这个问题。2023 年最后一个季度，Facebook 删除了近 7亿个虚假社交媒体账户 上一季度已删除 8.27 亿用户。然而，无论删除多少可疑用户，无疑还会有更多用户重新出现。问题显然出在注册流程上。
身份验证等更严格的措施可能有助于大幅减少这些欺诈账户的数量。最终，确保网上政治讨论的公正性需要政府、科技公司和用户之间的共同努力。
打造更安全平台的下一步
身份验证 (IDV) 软件通过实施严格的用户身份验证和身份验证协议，提供了一种安全的解决方案来对抗在线机器人驱动的流量。这些平台可以实施几项关键措施：
文件检查: 这些检查通过检查护照等官方文件来确认其合法性，从而验证所呈现的身份的真实性和有效性。
生物特征验证：生物特征检查更进一步，通过分析细微的面部微表情来确保出示证件的人是合法所有者。活体检测技术还可以验证用户是否真实存在，而不是机器人或录音。
年龄验证: 保护未成年人对于创建更安全的网络环境至关重要。年龄验证有助于确保用户符合年龄要求，从而降低被利用或接触有害内容的风险。
通过集成这些技术，IDV 平台可以显著减少机器人活动，保护社交媒体空间免遭滥用。这些措施确保只有真实用户才能创建帐户，从而遏制垃圾邮件、错误信息和其他恶意活动的传播。
有关如何保护您的在线平台免受机器人驱动的欺诈的更多信息，请联系我们的 专家合规团队.
