想“战胜”虚假信息？人类需要更多“后浪”

编者按：本文来自微信公众号“腾云”（ID:tenyun700），作者：Peter 腾云特约作者集智俱乐部常驻作者，36氪经授权发布。

和虚假信息的斗争，是一场无限游戏。

在这场游戏中，玩家需要不断扩大自身力量，让自己所代表的理念传递下去。

我们的父辈，相比我们的祖辈更加聪明，这在心理学研究中被称为“弗林效应”。

然而在2018年的美国国家科学院学报上[1]，通过对挪威1970至2009年间报考公务员的年轻人的对比，科学家们却发现了”反弗林效应“，即年轻人的平均智商，相比他们的父辈反而降低了。

关于“人类是否正在变傻”的争议从未停止。但当我们谈到假新闻问题的时候，我们必须关注一个更重要的问题——人类群体在变蠢吗？

虚假信息的大范围传播，无疑是降低群体智慧的重要原因。

例如，在新冠疫情下，相比听信各种谣言而拒绝戴口罩的美国人，国人展现出的群体智慧似乎相对更高，这部分解释了为何中国疫情能够得到及时控制。

其实冰冻三尺，绝非一日之寒。医疗健康领域向来都是谣言频出。

这十年间，因为“麻疹疫苗会导致孩子患上自闭症”这一虚假信息的持续扩散，导致美国婴儿的疫苗接种率大幅下降，绝迹多年的麻疹竟然在美国死灰复燃。而在“吸烟导致肺癌”成为主流观点之前，在烟草巨头的舆论操控下，仍有人质疑吸烟和肺癌之间不过是偶然关系（对该话题感兴趣的，推荐《Merchants of doubt》这本书，书中讲了如何美国的无良科学家是如何在主流科学界取得共识之后，仍然为了一己之私，损害对公众有益的政策的制定）。

如今，当GPT-3(GPT是Generative Pre-training Transformer的简称，2018年由OpenAI发布。由于使用了海量训练数据，它能够产生类似人类书写的大段文本。但其本身只是语言模型，并不具有对外部世界的深度理解。这样的文本生成工具能够洋洋洒洒地生成一篇虚假的论文。

当deepfake这样的自动化修图工具能够假造出一份专家的视频演讲。假消息生产者们无疑有了更强大的工具。

谣言传播有何规律，又该如何应对。本文希望结合一些新的研究提出思路。

假消息都是粗制滥造的吗？

不论技术手段如何进步，促成谣言传播的心理机制是相同的。

传统上，我们会认为虚假信息是粗制滥造的，但基于2019年的一项[2]对来自26个网站的260篇新闻的分析，说明从文字来看，虚假信息并不是低质量的——正是由于其本身写作的质量足够好，才能够经由平台高效传播。

虚假信息的价值，只是体现在其契合了特定的心理需求。

研究表明[3]，虚假信息的传播，首先依赖于社交传播，毕竟大多数人希望自己能和身边的亲友保持相同的看法，人们也更愿意加入有亲友参与的社交平台；其次，如果一个信息能够激活接收者内置的叙事套路，那么就更容易被传播，如果新的消息不会引起认知失调，那么相比颠覆三观的信息，传播的可能性更大。

以上两点，意味着虚假信息的传递，往往出现在同质化的人群中[4]，并在传播初期，由于从众效应的存在，会出现相信的人越多，传播越快的正循环[5]。

随着虚假信息的传播效力达到临界值，会造成社交网络的极化，即网络中不同人群的观点变得极端。

正如在新冠病毒的传播过程中，有特定的易感人群；在阴谋论在传播中，特定人群也更有可能相信各种类型的阴谋论言论[6]。

该研究通过问卷对受试者给出“阴谋论得分”，再比较得分最高和最低的两组，面对关于寨卡病毒的阴谋论——例如病毒是药企合成的、疫苗有害等——的相信比例，发现两组差异达数十倍。

而在社交媒体上，由算法自动发送信息的机器账户（social bot），对虚假信息的传递，也起到了推波助澜的作用[7]。人类用户会被虚假账号的信息操控，并转发相关推文。研究同时指出，打击机器账户，有助于减缓虚假信息的传播。

总结虚假信息泛滥的成因，正是当代社会的复杂度激增，使简化的世界观、直接的因果联系以及善恶两分的预设变成了部分人逃避真实的“厄里斯魔镜”或“风月宝鉴”。

不论东西方，借助魔镜，每个人都能看到并实现自己内心最真切的渴望，然而沉迷于虚拟的幻境，终究是无益于过好这一生的。

识别虚假信息，一定需要专业人士吗？

前文提到，科学新闻和阴谋论在不同时间段的传播效力不同。

科学新闻通常能迅速地达到了一个很高的传播水平，然而在其后的生命周期中，传播能力迅速降低。相反，阴谋论在最初的传播较慢，并且呈现出全传播周期越长，传到的人群规模越大的特征。这意味着可在阴谋言论的传播早期，对其及早铲除。

虚假信息的识别，不一定需要专业人士。通过众包机制，引入普通人的投票，也能够及时地去伪存真[8]。

为了保证众包策略的效率，可以引入信任打分，如果某人能够在特定领域的判断多次相同，那么该人的判断就应该被赋予更高的权重。

2018年，生物学及医学论文平台上pubmed已有两千八百万篇论文，这么多的论文，只有借助自动化工具，才能方便地查询出原始的信息来源，判断出衍生的信息，是否包含了曲解或夸大宣传。为此，需要构建知识图谱，表征不同概念之间的关系[9] ，并回答复杂的二阶问题。

游戏化也提供了新的思路。

2019年的一项大规模在线研究[10]表明，借助游戏化，可以帮助用户接种针对虚假信息的“疫苗”。

游戏中，玩家需要识别出不同类型的虚假信息，并赢得对应的6种勋章，下图的勋章分别对应不可信赖与阴谋论，网络喷子，极化信息，虚假的代入感，情感宣泄。通过让玩家在游戏中识别虚假信息，能够让其在真实生活中识别出虚假信息。

Bad News Game中的6种勋章

另一个通过游戏来对抗虚假信息的案例是The story loom[11]，通过观察玩家如何选择不同证据来支持某一虚假言论，研究者考察虚假信息的连贯性和其传播效力之间的关系，找到虚假信息传递过程中最薄弱的一环。

如果能够提供不会与一个人的预设观念相冲突的信息，从而打击虚假信息的论据，就能够让本来不愿意走近真相的人接受一个更准确的观点。

前文分别从社会和个体层面，讨论如何识别出虚假信息，可以看成是阻断虚假信息的传播链，但更关键的是，在虚假信息传播前就对其进行干预、防患于未然。这需要普遍提升大众的科学素养。

然而仅仅让大众知道碎片化的科学知识并不利于科学的传播，更为关键的讲述科学的方法论[12]。例如，让更多人对“概率”有正确的认识，明白符合怎样的规范才能称之为科学实验，具有什么样的证据才能称之为“科学的”。

提升对科研过程的认知，能够让大众自动过滤掉巧合式的虚假信息。

对抗虚假信息：一场无限游戏

面对网络中越来越多的谣言，大众往往会指责提供消息的平台，认为这些巨头应当采用更好的算法，去识别出传播假新闻的账号。

然而，根据加州大学统计学家[13]在《The misinformation age》中指出的，平台加强对虚假信息的打击力度，其结果不能够根除虚假信息，反而会让造谣者的技艺更加提升。

正如抗生素的滥用造成了超级细菌，一味的打压造谣者，只会让谣言变得更具传播性，更加真伪难辨。

因此，不管是科普人士，还是对谣言泛滥感到不满的大众，都需要认识到，和虚假信息的斗争，是一场无限斗争，不能期待毕其功于一役或是找到万灵药，而是要采取“无限游戏”的心态，即授之以鱼，不如授之以渔。

在无限游戏中，最关键的是让游戏继续下去，为此，不应该关注短期的曝光量，而要关注长期的信任培养。

如同普通人，科学家的思考过程，也不是完美无瑕的，因此其结论，只可能是阶段性的接近真相，而不是等同于真相。在科普文中，不论是将科学神秘化，还是低幼化，都是不可取的。

《The misinformation age》这本书针对科普人士，提出的建议是直面科学本身的三个局限性，分别是有限的样本量，选择性的使用证据，带偏见的预设。

作者指出，只有坦诚的向大众沟通，才能在长期换来大众的信任。否则，一旦某项广为人知研究的结论被新的证据推翻，大众就会认为科学家作为一个整体缺少公信力，从而不愿信任科学。

除了构建信任，无限游戏玩家还需要扩大自身，让自己所代表的理念传递下去。

为此科普人士需要不断地培养“后浪”，普及传播技巧，降低传播门槛，同时让有志于科学传播的人，能够获得合理的报酬。

庄子渔父中讲到”处静息迹“的预言故事，正适合我们这个信息过载的时代——试图通过接收到更多更新的消息，来避免虚假信息，就如同畏影恶迹的愚人，“举足愈数而迹愈多，走愈疾而影不离身”。

对于个人来说，避免虚假信息，需要选择信息来源，并提升自己对虚假信息的警觉度，对于自己不熟悉的信息，主动批判性地追溯信息源头。 

参考资料 

[1] Flynn effect and its reversal are both environmentally caused

[2] Acerbi, A. Cognitive attraction and online misinformation. Palgrave Commun 5, 15 (2019). 

[3] News Feature: Finding a vaccine for misinformation Gayathri Vaidyanathan

[4]The spreading of misinformation online

[5] Echo chambers and viral misinformation: Modeling fake news as complex contagion

[6] Klofstad, C.A., Uscinski, J.E., Connolly, J.M. et al. What drives people to believe in Zika conspiracy theories?. Palgrave Commun 5, 36 (2019)

[7] Shao, C., Ciampaglia, G.L., Varol, O. et al. The spread of low-credibility content by social bots. Nat Commun 9, 4787 (2018).

[8] Fighting misinformation on social media using crowdsourced judgments of news source quality

[9]Opinion: Medical misinformation in the era of Google: Computational approaches to a pervasive problem

[10] The spreading of misinformation online

[11] N. Walter, S. Murphy, How to unring the bell: A meta-analytic approach to correction of misinformation. Commun. Monogr. 

[12]Science audiences, misinformation, and fake news

[13] The Misinformation Age: How False Beliefs Spread Cailin O’Connor, James Owen Weatherall

相关推荐

想“战胜”虚假信息？人类需要更多“后浪”
人工智能与人类博弈的时代到来之前，我们需要什么样的人才？
有情感的机器人需要人类的关心吗？
半导体“后浪”
微软发布最新打击虚假信息工具，可识别深度伪造视频
谷歌发布30页长白皮书 详述打击虚假信息努力
营销号为何批量炮制虚假信息？或是恶意流量黑产一环
地球温度越来越高，人类需要制冷新技术
迎接AI时代的到来，人类需要提高“情绪智力”
国外后浪都用它看《一剪梅》 TikTok为何海外爆火？

网址: 想“战胜”虚假信息？人类需要更多“后浪” http://www.xishuta.com/newsview30215.html