俄罗斯的信息来源和极端主义社区之间的连接在社交媒体平台

介绍

当前的冲突由俄罗斯与乌克兰在2022年2月由高度同时在线活动涉及俄罗斯官方信息来源和社交媒体平台。这个活动包括试图淹没在Facebook上叙述,甚至物理限制上网(整洁,克莱顿,2022年)。也表达了失望在Facebook,最大的社交媒体平台,因其明显无法标签俄罗斯宣传关于乌克兰(中心应对数字恨,2022年)。这个发现通过打击中心的数字恨,美国非营利研究在线恨和错误信息,遵循从他们发现文章关于乌克兰所写的英文媒体拥有的俄罗斯国家,收到500000多喜欢,从Facebook用户评论和股票今年俄罗斯冲突开始前2022年2月。

评估的障碍之一网上虚假信息和宣传战争是如何发展的,是缺乏理解社交媒体的宇宙由许多相互关联的社区跨多个平台,与俄罗斯的信息来源。本文以初步步骤来改善这种理解对俄罗斯信息源和在线极端主义社区,尤其是欧洲民族主义者和美国白人Supremacists-across五个高度活跃的社交媒体平台:Facebook, VKontakte,电报,唠叨,4 chan。俄罗斯信息源之间的关系(官方媒体)和极端分子网络是由美国国务院报告的特别关注和紧迫性(美国国务院,2022年)。我们合成的映射这个生态系统(图1)必然是不完整的和不完美的,就像任何第一个地图,和构成一个完整的生态系统,以后肯定会被广泛地修改和扩展。然而,它提供了一个具体的起始点,然后可以轻松地提高更高的频率更新和更深层次的内容分析。也似乎是合理的要求,任何有意义的讨论网上虚假信息和宣传当前Russia-Ukraine危机期间,可以受益于这种贴图中包含的知识当然,更详细的未来版本。

预期这个网络生态系统的复杂性出发,我们回想一下,整个全球社交媒体宇宙由数十亿用户内操作,经常在多个社交媒体平台。许多用户获利上可用的内置社区功能大部分社交媒体平台。这使他们很容易连接并形成一个社区在任何感兴趣的特定主题。这样一个内置社区的一个例子是一个Facebook“页面”或“集团”,或“俱乐部”VKontakte Russian-based平台。虽然大多数的这些内置社区集中在良性的教育等主题,运动,或生活方式,一些社区关注极端各种形式的内容。根据主机平台的使用条款和警务效率,一些极端的社区不得审查或者拆除。所有内置社区通常还讨论项目感兴趣的新闻;因此,他们经常特性(url)外部新闻和信息的链接网站。极端主义社区并无不同。此外,所有内置社区可以功能链接到其他社区的内容感兴趣的他们,也在相同,在不同的社会媒体平台。 Again, extremist communities are no different, and typically do this a lot across platforms in order to keep their members away from moderator pressure (Johnson et al ., 2019;委拉斯开兹et al ., 2021)。最终的结果是一个高度复杂的、相互关联的生态系统内部和之间的社区平台,加上链接到外部的各种来源的信息。

接下来,我们将每一个这样的在线社区(如Facebook页面,电报通道)作为一个“集群”为了避免混淆与特定于平台的定义和网络发现算法。我们选择“集群”这个词就是在以往出版工作(Johnson et al ., 2019;委拉斯开兹et al ., 2021)。例如,它可以避免任何可能的混淆与“社区”一词在网络科学的不同含义推断从特定的子网划分算法,因此算法依赖。相反,我们的集群都内置在线社区和网上有一个独特的标签ID。我们的研究识别和关注734 hate-based集群的互连和活动,我们发现(即。734在线社区)在五个平台,从2019年6月到2020年1月。由此产生的网络(集群和url的集合表示图中的节点和边),我们获得的在线生态系统(图1通过今天)仍然非常相似,2022年5月。我们这里不显示更新,因为我们无法检查每一个可能的节点和链接过去一年。我们也注意到,我们的分析是实现没有引起任何个人身份信息。这种映射的副产品,我们的研究也提供了洞察的分散性质社交媒体景观,设计和另类交易平台的出现在言论自由的专制主义,并为政府宣传和协调创造新的漏洞不真实的行为。

本文的其余部分组织如下。在背景部分,我们提供了一个背景的重要性评估外国影响,专注于俄罗斯。节映射社会媒体社区和互联,我们提出我们的方法映射出了生态系统。识别潜在的俄罗斯宣传,达到节我们讨论俄罗斯的潜在达到宣传。节映射之间的关系恨集群和俄罗斯的宣传,我们提供多平台生态系统涉及的地图恨集群和连接到俄罗斯的信息来源。未来的工作部分列出了一些未来的工作将需要扩展和加强这个研究首次提出的初步结果。结论部分总结了我们的结论。

背景

当前的军事冲突开始前一个月2020年2月,美国国务院发表了一份报告,“Kremlin-Funded媒体:RT和人造卫星在俄罗斯造谣和宣传生态系统”的作用,强调了需要更好地了解俄罗斯信息媒体RT和人造卫星可能作为克里姆林宫的造谣和宣传渠道操作(美国国务院,2022年)。更进一步回到2016年美国总统大选,美国情报部门证实,“俄罗斯国家宣传机器”专门RT和人造卫星,“导致了影响活动作为克里姆林宫的消息传递平台俄罗斯和国际观众(国家情报委员会,2017年,p . iii)。”俄罗斯的三个关键方面的影响操作指出:一组准政府巨魔,促进信息而播种社会不和谐,怀疑其他的信息来源;国内媒体装置;和媒体设备引导克里姆林宫的消息向外国观众。

这突显出一般的关心和兴趣,在政界和学术界关于俄罗斯信息源之间的关系(官方媒体)和极端分子网络(整洁,克莱顿,2022年)进而提要到爆炸的研究工作极右增长在线(Sevortian 2009;阿诺德和Romanova, 2013年;Polyakova 2014,2016年;大量et al ., 2015;2017年鼠谭;Enstad 2017;帕金et al ., 2017;Fielitz和瑟斯顿,2019年;Karlsen 2019;舒尔曼,2019;Baele et al ., 2020;Byman对接和,2020年;Gaudette et al ., 2020;Rrustemi 2020;Umland 2020;Urman Katz, 2020)。例如,Karlsen使用的调查报告来自15个不同的情报机构在11个西方国家认为“俄罗斯使用少数民族,难民和极端分子进一步分而治之的方法”(Karlsen 2019)。Twitter的社交媒体平台的选择在许多研究错误信息和虚假信息在与俄罗斯的关系。然而,缺乏更广泛的网络生态的研究和如何通过极端的故事传播社区发展跨多个平台在系统水平。目前的工作往往要么专注于单一的平台(如Twitter)或有限的案例研究(例如,跟踪的内容和活动从少数人认为是影响力)。这些方法可以在线错过的范围影响模式或小但活跃团体的程度可以影响更广泛的网络。我们的信念,强化了结果,我们现在,是完全映射多平台生态是一个关键的组件在理解这些国家资助的外国影响的范围和影响操作。瓦茨2017年在国会的证词提出一个假设的例子,一个国家如何影响操作变异和发展跨多个平台:

“匿名伪造放置在4 chan可以由克里姆林宫讨论4 Twitter账户然后放大这些讨论与社会机器人。然后,俄罗斯国家赞助的插座在YouTube上Twitter报告的讨论。YouTube新闻然后进入Facebook社区,放大通过广告或推广在虚假的组。每个社交媒体公司将会看到但克里姆林宫的努力的一部分。除非所有的社交媒体公司共享他们的数据,没有人能完全理解俄罗斯的操作范围和其影响的程度(美国瓦茨,2017)”。

这种形式的跨多个社交平台的发展指出了兰德公司加强叙事在每个服务平台通过增加明显的合法性,以及最终创建一个web,变得几乎不可能解决Mazarr et al ., 2019,p . 90]。

我们现在讨论的重要性,包括较小的社交媒体平台4 chan,口才,电报,除了Facebook和VKontakte,现在有一个重要的研究机构成仇恨言论,暴力极端主义,影响操作。Facebook是众所周知的和最大的社会化网络服务(SNS)。VKontakte也很受欢迎,是建立在俄罗斯联邦。它是欧洲最受欢迎的社交网站,是俄罗斯最著名的迄今为止。尽管它拥有1亿用户,只有一半来自俄罗斯联邦。大多数其他的一半来自整个前苏联加盟共和国地区以及中国和西欧。在中国和德国大约有5%。VKontakte被禁止在乌克兰在2017年试图阻止俄罗斯造谣,但它持续的第四届最受欢迎的网站。小平台4 chan,口才,电报再加上混合,与用户的许多相互联系和更大的平台帮助缠绕生态系统更紧密(Johnson et al ., 2019;委拉斯开兹et al ., 2021)。此外,他们往往更宽容对仇恨言论和阴谋论(麦克劳克林,2019)。唠叨促进言论自由本身作为一个替代Twitter和附加的技术特征,允许用户基于兴趣的组织形式。多嘴的政策禁止的内容构成恐怖活动,威胁和非法色情(Zannettou et al ., 2018)。平台4 chan促进类似的一些政策和添加了帖子的匿名特性(麦克劳克林,2019)。在一起,这些平台的生态系统提供了一个很好的候选人探索连接操作(班纳特和Segerberg, 2012),更直接解决问题本文的兴趣有关俄罗斯信息源流入网络激进主义团体。

映射社会媒体社区和互联

我们的方法论的方法构建地图社交媒体平台的社区分类和它们之间的联系,他们的内容是完全一样的Johnson et al ., 2019,委拉斯开兹et al . (2021),它制定了详细的例子。总结,它包括确定集群满足我们设定的标准,然后收集它们之间的链接。我们使用手册的混合物的分析结合机器搜索算法,我们开发了。我们的方法不需要任何个人水平的信息。就像在Johnson et al。(2019),委拉斯开兹et al . (2021),我们本文关注社区促进可恨的内容和我们使用相同的定义恨一样在那些早期的论文和总结在下面。我们意识到我们的定义创建所有的极端主义团体的一个子集,可以考虑,这微妙的恨也可能采用的定义。

详细过程始于我们手动识别一组小种子的集群,促进跨平台可恨的内容。这粒种子集是由手动后从以前公布的工作(学术和新闻),报告特定集群发挥着重要的作用,结合自己的经历特别引人注目的集群。因为我们随后采用迭代滚雪球方法,这粒种子的确切成分不太重要,因为任何高度连接(因此重要)集群,错过了可能会拿起像滚雪球的过程。当然,未来的工作需要进行严格检查,但我们的经验表明,有人工种子所产生的不同的主题专家独立工作仍然会导致最终many-cluster生态是相似的。在构建的种子,我们搜索的内容每个候选人集群手动寻找可恨的主题,叙事和符号。为了符合一个特定的集群hate-based,我们详细看它的名字,《阿凡达》,照片和公开的帖子,看看他们是否显示种族或民族优越主义或法西斯主义的意识形态。具体来说,如果两个最近的二十个帖子或工件的时候回顾“鼓励、纵容、证明或支持暴力行为的委员会来实现政治、意识形态、宗教、社会、或经济目标”(仇恨犯罪),然后我们包括集群的种子集。我们基于种族和民族霸权和法西斯意识形态标准迈克尔·曼法西斯主义的描述是“追求卓越的和清洗nation-statism paramilitarism”来确定一组广泛的集群,地面恨在极端民族国家意识形态(曼,2004,13页)。这个初始种子列表,然后送入集群软件,我们开发了与api(应用程序编程接口)不同的社会媒体平台,确定通过url连接到他们的新集群。具体来说,如果集群与集群链接共享一篇B,然后集群B是包含在新的研究进展。我们手动审查这个扩展列表使用与上面相同的标准,是否他们应该也是hate-based分类。然后遍历这个滚雪球效应新集群的次数和注意,最终我们发现经常链接列表的成员。在这个意义上,我们可以合理地认为我们的过程发现了许多最普遍的链接集群。因为我们的过程依赖于从现有的集群来发现新的url,潜力有一个小偏差如果流行的集群都是(a)没有出现在原来的种子集和(B)很少从我们收集的集群网络链接。由于倾向于在线团体经常互相链接,我们认为这可能损害我们的网络的完整性。

这个过程会产生一个与集群网络表达仇恨,从现在开始我们将他们简单地称为“讨厌集群”。我们获得734恨集群跨五个平台互联。这些都讨厌集群促进类型的暴力极端主义;因此也可以称为极端集群或同样极端的社区。他们通常表现出一些与辨认讨厌集团联系,如“三k党”为卸除,北欧抵抗运动,和Atomwaffen部门,但也有那些独立的或其关系是其他一些较小的远不及讨论组或已知(极端文件),(讨厌展出:讨厌符号数据库,2019)。此外,在六个月期间研究这个讨厌网络集群生产近2000万的帖子在许多不同的语言。讨厌集群包含全球用户从许多不同的地方,但是主要的帖子中使用的语言和故事表明,用户是来自欧洲和英国、北美、南非、澳大利亚和新西兰。文章的语言的统计恨集群在每个平台所示表1。语言,如乌克兰、波兰、塞尔维亚语、斯洛文尼亚、意大利、丹麦、西班牙由<任何单一平台上的帖子总数的2%。我们使用谷歌的紧凑的语言探测器模型(免费)获得这些估计的比例不同的语言中使用的帖子恨集群在每个平台(Ooms 2018)。

识别潜在的俄罗斯的宣传

这734的一个子集恨集群分享链接等俄罗斯官方信息来源域和已知的国际分支机构俄罗斯政府宣传渠道包括RT和人造卫星。美国参议院情报委员会将“俄罗斯的官方宣传机器”描述为“国内媒体机构,媒体针对全球观众RT和人造卫星等,和准政府网络巨魔”(参议院情报委员会,2018年)。也有据可查,俄罗斯一直支持极右翼实体在欧洲和美国(Klapsis 2015)。探索潜在的跨平台恨集群网络关系涉及极右实体和俄罗斯的宣传,我们分析文章链接的url的记录了俄罗斯的宣传渠道。然后测量他们的频率的代理可能存在潜在的“准政府巨魔。“工作总有近2000万篇的数据库,我们发现数百种不同的俄罗斯域的链接,但是许多这些url只共享一个单一的时间在整个全球在线讨厌网络。根据我们的评估,“一次性”的帖子很可能不协调运动的标志,所以我们1500年大多数共享或有限的范围与领域研究的六个月期间。我们意识到明确识别的任务协调是一个尚未解决的问题,我们的方法是有限的,不像许多现有方法在文献中。然而,它确实有助于了解潜在的协调程度。

这样做,我们发现以下。前1500名最共享域在我们的生态系统,我们发现43俄罗斯独特的领域,即。,URLs ending in a.ru address or links to international affiliates of known Russian domains including RT and Sputnik. Each of these 43 domains had been shared at least 40 times in one or more of our indexed hate clusters. These domains include a battery of mainstream domestic Russian news channels, services, and agencies such as Tass, Ria Novosti, Kommersant, Lenta.ru and Echo Moskvy which can be characterized as Russia's “domestic media apparatus” (参议院情报委员会,2018年)。虽然这些都是主流,在俄罗斯流行的通道,每个实体是由俄罗斯政府,或者大公司像俄罗斯天然气工业股份公司的子公司,由俄罗斯政府,俄罗斯媒体景观反映更广泛的趋势(俄罗斯对新闻自由的斗争,2018年;俄罗斯档案——媒体,2021年)。俄罗斯经常链接域的列表还包括一些国际子公司RT和人造卫星,美国政府指定为俄罗斯宣传“媒体针对全球观众”(参议院情报委员会,2018年)。此外,一个著名的域是俄罗斯内幕,极右英语博客建立和编辑由美国居住在俄罗斯有联系一位与克里姆林宫有关系的俄罗斯寡头涉嫌提供金融支持俄罗斯分裂分子在乌克兰东部(雷竞技公司反犹主义亲克里姆林宫的宣传,2018年)。调整与更广泛的可恶的主题和叙事通过这些网络传播,俄罗斯内部有一整个部分的在线纸贴上“犹太人问题”,充满了虚假的故事和阴谋论。俄罗斯经常链接列表的俄语部分领域还包括维基百科,以及一组引人注目的新闻网站,反同性恋+博客,博客对俄罗斯爱国主义和当地政府网站“顿涅茨克,俄罗斯”。雷竞技公司

集群的一个相对较小的部分与俄罗斯这些经常共享域在任何时候2019年6月至2020年1月,但较大比例的这些链接来自4 chan /波尔在唠叨或集群。总的来说,大约20%的hate-based集群跨所有平台与其中一个43岁的俄罗斯域。VK时,主要是讲俄语的用户群,是排除在外,那么只有大约16%的hate-based集群与至少一个43岁的俄罗斯领域研究中在任何时候。令人惊讶的是,有更多链接到俄罗斯域从口才,4 chan /波尔比VK相结合,即使<职位总数的1%在集群唠叨或4 chan /波尔在俄罗斯。

表2显示单个集群的数量我们研究和集群的计算,文章链接其他追随者经常共享俄罗斯域。raybet雷竞技下载地址“集群百分比”列显示总额的百分比集群研究平台上共享这些俄罗斯域的链接。“总链接”列指定有多少独特的链接,我们发现在任何给定的平台上的一个关键43俄罗斯域,和“百分比链接”列显示了部分的链接到俄罗斯的一个关键域总数来自给定的平台。

这些数字在表2显示,多嘴的链接和4 chan /波尔占超过一半的所有连接从讨厌的跨平台网络集群俄罗斯最共同的域。链接尤其令人惊讶的高增长率相对较低利率的俄语文章在这些平台上,< 1%在数以百万计的帖子,因为很多俄罗斯的关键域俄语新闻网站和博客。雷竞技公司种族和族裔之间的关系进一步研究这些动机恨集群和俄罗斯域链接,我们绘制和分析这些网络连接在这五个社交网络平台。

映射之间的关系讨厌集群和俄罗斯的宣传

我们的生态系统网络图(图1从讨厌集群)是一个有向图显示链接在多个社交网站进入俄罗斯的域。在这个网络的节点代表一个已知hate-based集群在五个不同的社交sites-Facebook VKontakte,唠叨,4 chan和电报——自组织在各种不同的可恨的故事。黑暗中节点代表一个俄罗斯域如一杯的量,今天俄罗斯联邦新闻机构或俄罗斯。相应的彩色标签显示的名称不同的值得注意的俄罗斯域或SNS集群。节点大小是基于每个顶点的入度中心或站外链接的数量从一个SNS集群俄罗斯域。因此,较大的节点与更频繁地在社交网站上比小节点为本研究的六个月。从超链接网络的边缘是推断into.ru域嵌入集群的文章。例如,一篇文章在唠叨组包括一篇文章一个URL RT引导其他成员的集群来读这篇文章将从特定的饶舌团体构成优势,俄罗斯域。这个网络的边加权,因此厚边缘代表集群更频繁的链接从一个给定的域。这个网络地图包含190个节点,43岁的俄罗斯域和147 hate-based集群在一个社交网站。 The network contains 11,870 edges.

由此产生的网络图图1揭示集群关键连接行为的差异,主要在俄罗斯VK和集群,主要在唠叨发布在其他语言中,4 chan,电报,和Facebook。俄罗斯语言集群VK会链接到更多的俄罗斯域相对一致的利率,因为他们是与一个更广泛的交流Russophone web生态学以常规的方式,而集群通信在其他语言不断地链接到一个小得多的俄罗斯域更频繁的利率,因为他们很可能与政府影响操作的一些方面。这个网络图也说明了显著差异的连接从集群行为监管较少边缘平台唠叨和4 chan相比集群平台,开发了政策在仇恨言论像Facebook和协调的不真实的行为。这种程度的加剧连接(即。,the number of links from these platforms, as shown in表2)表明,这些平台的言论自由的专制政策已经无意中创造了新的和更大的漏洞的用户接触到政府协调不真实的行为,宣传,和社会操纵。相比更控制平台(如Facebook)的适度政策需要更长的时间来适应Johnson et al ., 2019从俄罗斯域),一个协调的努力可能会影响用户在唠叨和4 chan更快。电报似乎是一个例外的任何结论更多的限制意味着更少的链接到俄罗斯媒体。它有一小部分链接到俄罗斯域,即使高百分比的跟踪集群与这些领域在研究期间。如上所述在之后的结论,显然需要更多的研究来梳理出来并解决额外的因素,有助于社会操纵用户的脆弱性。

网络的上半部分包括主要是红色的集群,这是组织和页面VKontakte,密集互连深集群代表俄罗斯域。这些领域主要是在俄罗斯主流新闻来源包括一杯的量,俄新社,《生意人报》,遇难和回声回声,以及维基百科的俄语部分。大部分的黑节点网络的上半部分是相同的直径,因为他们有类似的入度中心,这意味着它们在社交网站引用与出口增速。这种网络拓扑结构是我们希望看到来自俄语集群:即集群主要发布在俄罗斯经常链接到一组俄罗斯域,因为这些都是一些最常见的广泛阅读俄语新闻来源,报告并讨论时事。

在网络的下半部分,我们观察hate-based集群的复杂网络平台与相对较少的俄语posts-specifically多嘴,4 chan, Facebook,和Telegram-frequently链接到俄罗斯政府宣传渠道针对外国观众。RT是最突出的节点在网络因为它有最高的入度中心,和4 chan /波尔是最具影响力的节点,因为它最高学位中心,这意味着它提供了最高的其中一个俄罗斯域的链接。4 chan /波尔表示为一个节点,因为我们对待/波尔董事会作为一个集群产生许多俄罗斯的关键域的链接,尤其是RT。

图1的地图也符合的结果Zannettou et al。(2019)量化的俄罗斯在多个社交网站的影响力。那些存在的统计分析人员通常在几个平台上共享url。他们发现俄罗斯巨魔有限影响较大的叙述在不同的社交网络,但是那种程度的影响在4 chan略高与Twitter和Reddit相比,和巨魔的影响最高时试图流量RT与其他新闻来源(Zannettou et al ., 2019,9页)。

绿色的唠叨集群和棕色电报集群组成一个相对高的节点数量,很大程度上和他们的位置在整个网络结合的语言RT从属连接。换句话说,德语集群在每个社交网站总在RT德国节点。红色VK集群连接俄罗斯域图的下半部分主要在德语或英语和俄罗斯仍然倾向于与域针对外国观众,因为他们可能包含主要外国用户群。虽然VK是相对主流平台,口才,4 chan,白色的民族主义者从美国和欧洲已经习惯并迁移到VK由于其相对较低的利率监管和审查的仇恨和极右极端主义相比,Facebook (莱希,2019)。

集群共享俄罗斯政府宣传不受任何地理、主题,或平台。在Facebook上,其中包括一系列Pegida章节在德国,一个页面被称为澳大利亚国防联盟促进反穆斯林言论,和一个名为“生气白人”的页面。在电报,其中包括一系列欧洲民族主义者,美国白人至上主义者,和一群伊斯兰教徒鼓掌宗教原教旨主义和民族主义之间的相似之处。在唠叨,他们包括异常刻薄的Brexiters,每天发怒者粉丝群,和巴西的极右团体。

有趣的是,集群在Facebook上不太可能出现在网络相对于其他平台上的集群。分享链接的Facebook群俄罗斯领域往往是PEGIDA的一部分,一个反穆斯林和反移民在德国的政治运动,主张改善德国和俄罗斯之间的关系和俄罗斯总统弗拉基米尔•普京(Vladimir Putin)宣布,他们同情(Grabow 2016)。这些相对较低的利率也可以归因于Facebook的打击仇恨和极端主义周围最近的政策变化,以及他们宣布调整努力对抗外国干涉(2020年美国大选前,打击讨厌极端主义,2019年;帮助保护2020,2019年)。

未来的工作

这项工作提供了一个初步的一步解决的重大挑战,理解俄罗斯信息源之间的互联和极端主义团体在社会媒体平台。当然,还有许多工作要做。虽然这里讨论的网络是广泛的,有许多广泛使用的平台不存在:特别是等视频分享网站YouTube或BitChute。更全面的了解网络生态系统将需要额外的SNS监控。

电报似乎发挥了独特作用值得远比我们在这里能够提供更严格的审查。它占总量的比例相对较小的链接到俄罗斯关键域在我们的数据集,但它表现出相对较高的百分比集群(见链接到这些域表2)。这些事实让它除了less-moderated平台4 chan和唠叨,以及更高的主持一个在我们的数据集:Facebook。以前的工作表明,电报的用户有一个强大的能力之间的直接相互平台(委拉斯开兹et al ., 2021;图1),目前它是重要的流行作为一种交流工具对乌克兰的冲突(Safronova et al ., 2022)。我们留下一个更彻底的电报为未来的研究的影响的分析。

我们还认识到,一个宽广的数据集可以用来比较其他来源的影响因素。作为表2显示,这些恨比俄罗斯的集群链接到更多的领域。美国的链接的频率的或欧洲来源超出本研究的范围,但将在未来的一个重要方面来测量工作。许多其他的推广和扩展我们所做的当然也有可能,我们希望这项工作至少会刺激在这个方向上努力。

结论

频繁联系俄罗斯的宣传渠道建议政府协调的可能存在不真实的行为。然而,我们的多平台数据表明,这种信号出现在相对较低的利率的一个小子集集群。讨厌因此仍然是一个主要的全球在线生态有机系统和许多真实的演员,这反映出持续的现实世界的仇恨和暴力极端主义意识形态的存在。显然需要更多的研究来梳理这所有的因素导致社会操纵用户的脆弱性。然而,根据目前的结果,我们可以得出结论,在系统级俄罗斯巨魔和宣传渠道似乎没有一个占主导地位,控制因素在网络生态的种族和种族动机的暴力极端主义分子。把它简单,在线仇恨和暴力极端主义意识形态的问题比他们大。

然而,我们的系统级网络地图所显示的是,俄罗斯可能影响业务的进展和范围比较大等另类边缘平台口才,4 chan实践言论自由的绝对主义,比主流像Facebook这样的社交网站,开发并实施政策在仇恨言论和协调不真实的行为。这些研究表明,一个支离破碎的社会媒体景观中在线讨厌运动,与越来越多的平台设计在言论自由的专制主义,创造了新的漏洞国家资助社会操纵。这些新兴不受监管的平台往往能吸引用户群已经专注于种族和种族仇恨的内容,与俄罗斯的自然调整的记录技术利用现有的社会不平等和歧视少数民族和移民。

美国情报机构的调查俄罗斯干涉2016年美国总统大选结束,俄罗斯”将从其活动旨在运用学过的美国总统大选影响未来的努力在美国和世界范围内(国家情报委员会,2017年,p . 5)。“跨平台动力学在多个在线生态监测,包括在线生态讨厌试图做的,是必不可少的理解这些操作的范围和影响未来选举期间在美国和世界各地。

俄罗斯目前正在从事一个与乌克兰和间接冲突与北约在很大一部分的战斗可能在线。这种混合online-offline侵略在未来几十年可能会变得更加常见。与此同时,越来越多的世界各地的人们将会在线和有机会参与现有社交网站以及创建全新的平台和自己的政策关于仇恨言论,造谣,已经混乱和暴力extremism-thereby增加复杂性,转移网络格局。我们的研究表明,言论自由的专制平台无意中创造了新的漏洞协调活动促进政府宣传,提高问题是否加剧了对政府操纵违背承诺言论自由的目的。此外,我们的研究表明,更多的监管平台似乎取得了进展在减少协调的不真实的行为从国家资助的巨魔传播propaganda-but他们需要采取进一步措施打击真正的种族和族裔社会协调激励仇恨和暴力极端主义。持久性的问题,在线恨和易受外国影响,挑战决策者制定新的战略来处理离线,现实世界的仇恨和不信任的根源。

数据可用性声明

原始数据支持了本文的结论将由作者提供,没有过度的预订。

作者的贡献

所有作者列出了一大笔,直接和知识贡献的工作,批准发布。

的利益冲突

NR受雇于ClustrX LLC。

其余作者声明,这项研究是在没有进行任何商业或财务关系可能被视为一个潜在的利益冲突。

出版商的注意

本文表达的所有索赔仅代表作者,不一定代表的附属组织,或出版商、编辑和审稿人。任何产品,可以评估在这篇文章中,或声称,可能是由其制造商,不保证或认可的出版商。

确认

我们感谢资助这项研究的美国空军科学研究办公室下奖数字fa9550 - 20 - 1 - 0382和fa9550 - 20 - 1 - 0383。任何意见、发现和结论或建议用这种材料的作者(年代),不一定反映美国空军的观点。

引用