如何减少虚假信息泛滥？限制社交网络中的转发次数及人数

转自：如何减少虚假信息泛滥？限制社交网络中的转发次数及人数

近日发表于 PNAS 的最新研究发现，信息的保真度取决于社交网络的深度（信息转发的次数）和广度（用户与多少人共享信息）。限制社交网络深度或宽度，可以增加短距离接收的信息比例，减少信息被更改的机会，提高接收到真实消息的比例。

研究领域：虚假信息，社交网络，社会学习

论文题目：

Learning through the grapevine and the impact of the breadth and depth of social networks

论文链接：

https://www.pnas.org/doi/10.1073/pnas.2205549119

一、如何限制虚假信息传播

社交网络中的谣言蔓延，已经成为一个越来越无法回避的问题。然而，通过审查消灭谣言，不应该是私有企业承担的责任，事实审核的成本及过程中受到的个人偏见影响，也使得这样的策略不可行。

如果不考虑传播信息的具体内容，而是试图通过改变信息传播的网络结构，是不是有可能减缓虚假信息的负面影响呢？小时候玩的打电话游戏，第一个孩子传出的消息传了数次之后，其内容和最后一个接到消息的孩子口中的已是天差地别。社交媒体中的每一次信息传播，也会使信息发生改变。最初真实的消息，传着传着就成了谣言。

既然这样，社交媒体平台可以通过限制一则信息被传递的次数（网络深度）以及最多被传递给多少人（网络宽度），来促进社交网络中的节点通过社会学习来避免虚假信息被广泛传播。事实上，类似的策略已在Facebook和Whatapps上采用。这项来自PNAS的研究，指出了网络结构和社会学习之间的复杂联系。

二、 改变网络结构，影响信息传播

该模型假设理性个体通过贝叶斯方式不断更新自己的观点，相信自身所处网络中更多人所持的观点。如下图所示，0和1代表支持相反观点的两类信息，在信息传播过程中，会发生突变，改变信息的性质，有时传播会失败（你发送的信息没有被点开），而传播的结果是最下端的学习者根据少数服从多数，不断更新自身的观点。

改变传播网络结构，会降低远程信息的影响。模型假定信息在传播过程中，会由于有意或无意的歪曲，由真实信息转为虚假信息，因此传播次数更多的信息更有可能是虚假信息。通过限制远程信息的传播，就可以降低虚假信息带来的影响。

图2：与不限制信息传播的过程相比，限制网络深度（图b）或宽度（图c）最终收到真实信息（蓝色）和虚假信息（红色）有显著差异。图a中，学习者所在的网络中包含58条正确，63条错误的信息；而在图b和c中，正确和错误信息的比例分别为22和18以及19和12。

最后，该研究从理论上证明了上述策略的有效性。图3a指出当信息可以被传递超过8次后，假设信息最初为真，只要存在变异的可能，最终网络中的个体也会有相当大比例收到虚假信息，尤其是当网络中每个人将信息转发给10个人的时候，此时机会虚假信息会淹没真实信息。

图3. 交流网络中某节点在不同的宽度（a）和深度（b）时，收到的大部分信息为真的概率，可以看到更大的深度和宽度下，节点收到的信息大部分为真的概率更高。

图3b指出在信息由真实变异为虚假的概率小于0.05时，网络的宽度和个体接收信息大部分为真的概率呈倒U型曲线，广泛地传播能消除虚假信息的影响，但当信息被歪曲传播的概率为0.07时，传播越广，网络中个体被虚假信息主导的概率越大。

三、讨论延伸

许多社交网络的一个共同特征是，节点往往与邻居更相似，而不是那些距离它们更远的节点。限制远距离信息的传播，会加剧这一趋势，从而使得社交网络中的”回音室”效应增强。如果网络中不同部分的节点集群倾向于向不同方向突变消息，那么放松对深度和/或宽度的上限，可以帮助接收者听到来自其他组的消息。

该研究指出，如果平台从信息流量和/或用户之间的冲突中获利，那么一个以利润驱动的平台会选择更宽松的上限，而不是社会最优（减少虚假信息传播）的上限。之后的研究，可以关注利益驱动和控制虚假信息之间权衡。

该研究没有区分有意歪曲传播和无意曲解造成的不同影响，充分分析信息来源的激励机制也是一个有待进一步研究的课题。如果希望有意操纵信念的消息来源可以选择在网络中出现的位置，或者只是碰巧在网络的某些部分出现得更频繁，这可能会导致学习者接触真实和虚假信息的不对称性。此时通过设置上限可减少虚假信息病毒式传播的范围。在某种程度上，这削弱了意识形态来源产生虚假内容的动机，而不是阻止可靠来源的信息。

总结来看，该研究提出的政策在不需要考虑信息内容的情况下，改善社交网络中个体的社会学习能力，这对于旨在尊重用户隐私的平台来说是一个很有吸引力的特性。