如何反击网络操纵认知

在网络时代，人们的想法和行为正受到越来越严重的误导和操纵，日渐趋于极端化。

只有了解操纵的算法和操纵者如何利用人们的认知弱点，我们才能展开有力的反击。

作者：菲利波·门采尔（Filippo Menczer）

    托马斯·希尔斯（Thomas Hills）

翻译：张文俊

想象有一位名叫安迪（Andy）的人，他担心自己患上了新冠肺炎，由于无法阅读所有关于新冠肺炎的文章，他只能依靠一些信任的朋友的建议。当有人在社交网络上发表观点称，人们对新冠肺炎疫情过度恐慌时，安迪一开始是谴责这种观点的。但随着他工作的酒店关门歇业，自己面临失业风险时，他开始思考新冠病毒到底有多大的威胁，毕竟在他认识的人中，没有人因疫情而死亡。

正在此时，安迪的同事发表了一篇文章，主题是关于大型制药公司和腐败政客勾结制造了这场新冠疫情恐慌，这正好迎合了安迪对政府的不信任。随后，他的搜索引擎开始给他推荐一些文章，这些文章声称新冠肺炎并不会比流感严重多少。安迪加入了一个线上群体，其中的成员都是已经被解雇或担心失业的人。和这个群体中的许多人一样，安迪也不相信新冠疫情大流行。当他了解到一些线上的朋友正打算参加一个要求结束封锁的集会时，他决定加入他们。在这场大规模游行中，包括安迪在内，几乎没有人戴口罩。当他的姐姐询问关于集会的情况时，安迪告诉她，他确信新冠疫情是一场骗局。

这个例子展示了认知偏差（cognitive biases，人在感知自身、他人或外部环境时，常出于自身或情境的原因，导致感知失真）中的一个雷区：我们更相信信任的人提供的信息，更加关注与风险有关的信息，也更可能分享它们。对安迪来说，这个风险就是他可能会面临失业；另外，我们会偏向于搜索并记住那些与我们的认知相符的事情。这些偏差是人类演化的产物，在过去的数万年间，这些认知偏差很好地帮助了人类生存。例如，有人说杂草丛生的池塘堤岸有毒蛇出没，那么相信并远离池塘的人，会比继续靠近池塘的人生存率更高。

然而，现代科技通过一些有害的方式放大了这些偏差。搜索引擎会将安迪引导至那些点燃他疑心的网站，社交媒体让他和与想法相似的人产生交集，助长了他的恐惧。更糟糕的是，网络机器人——自动生成的、冒充真人的社交媒体账号，会利用安迪的弱点来传播误导性或恶意信息。

网络信息量的激增使问题变得更加复杂，浏览和创作博客、视频、推特和其他形式的热点新闻已经变得很廉价且容易实现，因此社交媒体用户往往会被海量的信息淹没。由于无法处理所有的信息，我们会让自己的认知偏差来决定应该注意哪些信息。这种精神捷径会以一种有害的方式，影响我们搜索、理解和记忆信息。

我们现在亟须理解这些认知弱点，并了解算法是怎么使用或者操控该过程的。在英国华威大学和伯明顿大学的社交媒体观测站（OSoMe），我们的团队正通过认知实验、模拟、数据挖掘和人工智能来理解社交媒体用户的认知弱点。在华威大学进行的关于信息演化的心理学研究，能够为OSoMe开发的计算机模型提供信息，反之亦然。我们也正在开发分析手段和机器学习工具，用以对抗操纵社交媒体的行为。其中有一些工具已经正在被记者、民间社会组织和个人使用，用来检测虚假账号，绘制虚假信息的传播图谱，并帮助人们培养新闻素养。

信息过载

过剩的信息已经对人们注意力展开了激烈竞争。正如诺贝尔经济学奖得主、心理学家赫伯特·A·西蒙（Herbert A. Simon）提到的那样：“信息所消耗的东西显而易见，那就是信息接收者的注意力”。所谓的注意力经济（attention economy）带来的首要后果就是高质量信息的丢失。OSoMe团队用一系列简单的模拟展示了这个后果。诸如安迪在内的社交媒体用户可以被看作服务器中的代理人，他们会构成熟人网络中的一个个节点。在模拟过程的每个时间段中，一个代理人可以创建一个热点新闻或者分享他在推送中看到的热点新闻。为了模拟有限的注意力，这些代理人只被允许浏览接收的新闻推送中最靠前的那些新闻。

经过多个时间段的模拟运行，OSoMe的翁莉莲（音译，Lilian Weng）发现用户的注意力变得越来越有限，热点新闻的传播能反映出真实社交媒体中的幂律分布，即一个热点新闻被分享一定次数的可能性，大致是这个数字的倒数次方。例如，一个热点新闻被分享3次的可能性大致是被分享1次的可能性的1/9。

这种赢者通吃的流行模式（即大多数新闻不会被注意且只有一小部分会广泛传播）并不能用一些新闻更吸引人或者更具有价值来解释。因为在这个模拟世界中，这些热点新闻并没有什么内在含义。而信息病毒式传播纯粹是在一个代理人注意有限的社交网络中信息激增的统计结果。即使代理人更愿意分享高质量的热点新闻，OSoMe的研究员邱晓燕（音译，Xiaoyan Qiu）也没观察到那些分享最多的热点新闻，在整体质量上有多大提升。我们的模型表明，即使当用户想要浏览，分享高质量的信息，由于在新闻推送中看到的信息有限，他们也会无可避免地分享那些部分或完全不正确的信息。

认知偏差使得这一问题更加严重。在1932年的一系列开创性研究中，心理学家弗雷德里克·巴特利特（Frederic Bartlett）给志愿者讲述了一个关于美国本土的传说。这个传说讲述了一个年轻人听到战争的呐喊声后，追逐着这些声音进入了一个梦幻般的战场中，最后他在现实中死去了。

巴特利特让那些非美国本土的志愿者在经过逐渐增长的时间间隔后，回顾这个令人困惑的故事。他发现随着时间推移，志愿者在回忆故事时，倾向于曲解故事中他们不熟悉的那部分文化。他们要么丧失了这部分记忆，要么将其改编为自己更加熟悉的事物。我们现在已经了解到人的大脑一直以这样的方式运作：调整我们对新事物的理解，从而让它和我们已经了解的知识相匹配。这种现象也被称为确认偏差（confirmation bias），由此导致的一个结果是人们总是去寻找、回忆并理解的信息，往往是最能证实他们已经认可的想法的信息。

这种倾向极难被纠正。实验表明，即使人们面对包含不同观点的信息时，他们还是倾向于去找能支持他们相信的观点的证据。例如，对气候变暖持有不同看法的人在面对相同的信息（这些信息包含了各种观点）时，都会更加确信自己原本的立场。

（本文为《网络如何操纵认知》上篇，下篇请见下期报纸）