热议新冠疫情的推特用户，可能有一半是机器人
文库划重点：他们随后使用机器学习和网络分析技术，来确定哪些账户传播了虚假信息，又有哪些存在机器人账户的嫌疑，其中也包括由人控制，但借助辅助工具，短时间内实现大批量转发、快速回复和超高频率发文的账户——这种账号又被称为“cyborg（半机器人）”，行为通常带有很强的目的性。
社交平台是热点信息和重大新闻的关键获取渠道之一，尤其是在当下新冠疫情大流行时期。
一个公认的事实是，出于各式各样的目的，无论是国内的微博，还是国外的推特，平台上经常会有机器人账号，也就是所谓的“僵尸账号”出没。不过，这些伪装成真人的虚假账号通常不会占据太大比例。
以推特为例，卡内基梅隆大学计算机科学系教授凯瑟琳·卡莉（Kathleen M. Carley）带领团队分析过，在美国出现值得关注的自然灾害和政治事件时，平台上的互动通常有 10%-20%是机器人账号参与的。
然而，另一项同样来自卡莉教授的最新调查显示，在与新冠病毒有关的话题讨论中，虚假推特账户的参与比例可能高达45%-60%，活跃程度是平时的3-5倍，而且有组织痕迹，行为模式更加复杂，隐藏得更深。
它们中的一大部分都是今年2月份创建的，非常热衷于参与新冠疫情讨论，包括传播错误医疗建议，夸大不实信息，转发病毒起源的阴谋论，并且积极推动居家令的终止和呼吁“重开美国（Reopen America）”。
研究人员认为，他们虽然使用了老套的方法来增加影响力，但其策略已经奏效：自美国疫情进入暴发期以来，推特上的相关话题讨论呈现出极大的两极分化态势。
图 | 卡内基梅隆大学计算机科学系教授凯瑟琳·卡莉（来源：卡内基梅隆大学）
有许多因素可以解释这一变化。疫情在全球大规模流行，意味着更多人会受到更大的利益驱动，转而利用危机来赚取政治利益和资本。与此同时，越来越多的机构正在开展影响力运动，施加强大的力量来主导不实信息的传播。
但是卡莉教授指出，最值得担心的一点并非机器人账号的数量，而是它们愈发复杂的行为模式，不仅使其更难被发现，还进一步增强了破坏力。
在有意培养下，如今的僵尸账号与其他账号之间的联系更加深入，交际网络更广，从而使假消息更容易广泛传播。它们还会采取更多策略针对美国的高风险群体，比如移民和少数群体，并且拉拢发表或参与讨论仇恨言论的真实账号，帮助他们组建和加入Facebook Group这样的在线群体，有意引导他们的情绪。
在最新的调查分析中，研究团队收集了自今年1月以来的2亿多条推文，全都与冠状病毒或COVID-19等关键词有关。
他们随后使用机器学习和网络分析技术，来确定哪些账户传播了虚假信息，又有哪些存在机器人账户的嫌疑，其中也包括由人控制，但借助辅助工具，短时间内实现大批量转发、快速回复和超高频率发文的账户——这种账号又被称为“cyborg（半机器人）”，行为通常带有很强的目的性。
研究人员所使用的系统可以寻找16种不同操作模式，都是虚假账户身上常见的行为习惯，包括“桥接”两个在线社群，用集中关注的方式“支持”一个账户以提升影响力，以及“爆破”一个在线社群致其解散。
图 | 自动发推工具的宣传图（来源：YouTube）
经过分析，他们发现了100多种版本的新冠病毒“假故事”。凭借精心编织的假故事，机器人账号不仅吸引了大量注意力和关注者，还在转发推文中占据了极高的比例。
在排名前50的转推账号中，有高达82%是机器人账号。如果范围扩大到前1000名，这一比例下降到了62%，但仍然超过半数，其影响力不可小觑。这些虚假信息对社交网络环境的污染和破坏可想而知。
现在研究团队的工作重心已经转向Facebook，Reddit和YouTube，以了解假信息如何在多个平台之间传播。这项工作仍处于初级阶段，但一些令人意外的模式已经显现。
首先，他们发现许多“假故事”最早起源于常规网站或博客，然后才被节选或转载到社交平台上加以放大。不同类型的故事也有不同的出处模式，比如声称病毒是生化武器的通常是那些以“披露黑料”或“炮制假新闻”著称的网站，运营方大多来自美国境外。与之相反的是，类似于“抵制居家令，重开美国”的言论主要来自美国境内的博客和Facebook主页。
其次，研究团队还意识到，不同平台的用户应对此类内容的方式非常不一样。以Reddit论坛为例，管理者更倾向于戳破并禁止虚假信息。当Facebook上的“重开美国”号召流传到 Reeddit论坛上时，有的用户会主动发言抵制其传播。
图| 呼吁 “重开加州” 的游行（来源：Watchara Phomicinda/Orange County Register/AP）
在虚假信息中，关于治愈和预防病毒的迷惑资讯最为普遍，包括从注射漂白剂到服用类固醇在内的一系列概念。
值得注意是，像是“注射漂白剂可以杀死病毒”这样一段说辞，对不同人的作用也不一样，甚至是截然相反的：有的人觉得很滑稽，为了讽刺而转发，有的人却会信以为真地转发。
因此，即使因为讽刺和滑稽而传播这种虚假信息，如果不明确说明，也可能会造成意想不到的破坏性。
至于如何解决这一系列问题背后的根源——虚假账号泛滥，卡莉认为“没有简单的方法”。单纯地禁用或删除账号是徒劳的，因为背后的人会创建更多账号，禁用无法解决任何问题。
虚假信息在任何时刻都会出现，尤其是危机和灾难降临时，几乎无法避免。每个人在接收信息和网上互动时，都应该认真思考互动的内容和方式。有时，直接点出这是虚假信息，或许就能阻止其进一步传播。
“很多虚假信息通过影射、暗示或不合逻辑的表述来完成，很难被发现，”卡莉补充称，“我们需要研究人员、企业和政府共同努力，进行协调，以提出更有效的策略和措施。我认为需要某种综合监督小组，因为没有人可以独自完成这一切。”
收录于哈希力量，手机站省略本文固定网址
