我不能看到他们。因此它们不是真实的。”这句话出自哪个世纪?不是中世纪的那种。这句话出现在2019年2月福克斯与朋友主持人皮特·赫格塞特，他指的是……细菌。这位前普林斯顿大学本科生兼阿富汗反叛乱讲师说，让他的共同主持人开怀大笑的是，他已经十年没有洗手了。这种错误信息的萌芽自然会在社交媒体上传播开来。
第二天，不巧的是，作者错误信息时代：错误信念如何传播——科学哲学家凯琳·奥康纳和詹姆斯·欧文·韦瑟尔鹦鹉螺．在他们的书中，两位加州大学欧文分校的教授，O 'Connor和Weatherall，用数学模型说明了信息是如何传播的，以及关于真伪的共识是如何在社会中，尤其是在科学家的社会网络中，是如何管理或失败的。作者们认为，“我们无法通过只关注个人来理解政治形势的变化。”我们还需要了解我们的社会互动网络是如何变化的，以及为什么这些变化会影响我们作为一个群体形成可靠信念的能力。”
奥康纳和韦瑟罗尔已经结婚，他们是复杂思想的熟练沟通者。我们的话题涉及从烟草业的诡计到社交媒体在糟糕数据中的共谋。我们讨论了科学是如何被巧妙地操纵的，以及公众应该如何理解相互矛盾的研究。科学哲学家们也给了科学记者一两个尖锐的建议。
你觉得一个只有1.5名观众的电视节目评论员怎么样?上百万人都说细菌是假的?
奥康纳Cailin (:[笑]我们不同意！
詹姆斯·韦瑟罗尔:我们反对它。
奥康纳:事实上，人们有着古怪错误信念的历史由来已久。人们相信有动物和植物的杂交，而这些人是自然学家。人们相信关于人体的各种疯狂的事情。如果你从社会的角度理解信念，人们在人与人之间传递信念，我们必须相互信任，不能自己验证事物，那么我们会有一些古怪的信念就不足为奇了。但我不知道在这个时代谁会说细菌是不存在的!
因此:这是一个很好的例子。假装细菌不存在将会导致很多糟糕的结果。你的病情会加重。你不会用正确的方法治疗手术部位。但这也是你无法真正检查自己的地方。我们大多数人都没有显微镜来观察细菌。气候变化也是如此。你可以到处说，要么气候没有变化，要么人类活动与气候变化无关。在没有得到任何即时反馈的情况下，在你的生活中没有任何错误，你可以形成这些信念。
是什么促使两位科学哲学家陷入错误信息的泥潭?
奥康纳:我从5岁起就一直在担心气候变化，30年过去了，我们仍然没有采取任何行动。这简直是疯了。很明显，创意市场是行不通的。30多年来，我们一直受石油和天然气巨头的影响。但激励我们的是2016年的大选。我们选举一结束就开始写了。我们只是坐下来说，考虑到我们的研究技能，我们能做些什么来改善这个关于错误信念的公共危机?
说到错误信息，总是这样。现在有什么变化吗?
奥康纳:一直以来，人类都是依靠社会关系来获取知识和信仰的。几百年来一直有错误的信息和宣传。如果你是一个管理机构，你就需要保护自己的利益。你想控制人们的信仰。改变的是社交媒体和人与人之间的交流结构。现在人们有巨大的能力去塑造他们与之互动的人。说你是一个反疫苗者。你在网上找到同样反对疫苗接种的人，并与他们交流，而不是那些挑战你信仰的人。
另一件重要的事情是，这一新结构意味着俄罗斯政府、各种行业团体和其他政府团体的各种影响者都可以直接接触民众。他们可以用更加个人化的方式与人交流。他们可以在Twitter和Facebook上摆出一副普通人的样子，你可能想和他们互动。如果你看看2016年大选前的Facebook，俄罗斯互联网研究机构创建了动物爱好者团体、黑人生命问题团体、枪支权利团体和反移民团体。他们可以与自然成为这些群体一部分的人建立信任。一旦他们建立起这种信任，他们就可以通过让他们不投票或推动两极分化来影响他们，从而引发更极端的言论。他们可以让其他人相信他们，如果没有社交媒体，这将是非常困难的。
这不是欺诈。他们没有做错什么。但这是误导。
因此:人们倾向于信任他们的朋友，家人，和他们有其他相似之处的人。所以，如果信息看起来像是来自这些人，就会非常有效。另一件越来越普遍的事情是制作易于共享的视觉媒体的能力。我们在Twitter或Facebook上看到的表情包并没有真正表达什么，它们只是唤起一种情绪——一种与你可能拥有的意识形态或信仰相关的情绪。这是一种错误信息，它支持你的信念，却从不站出来说错误的话或任何话。
错误信息是如何通过科学传播的?
因此:科学哲学家贝内特·霍尔曼（Bennett Holman）认为，思考工业与科学之间关系的正确方式是将其视为一场军备竞赛，在这场竞赛中，你可以制定一种新的认识标准。你想让药物获得批准吗？这必须是一项随机临床试验。以前，对于证明药物的有效性和安全性需要何种证据，标准较低。但是，随着科学家和监管者提出处理可能滥用证据的新标准，想要影响公众信仰或公共政策的团体想出了更复杂的方法来规避这些问题。
一个行业使用复杂技术操纵科学的好例子是什么?
因此:在20世纪60年代，科学界已经达成共识，烟草制品与癌症之间存在联系。烟草业很快就认识到了一些问题。第一，几乎可以肯定的是，他们自己的科学家也得到了同样的结果。第二，这对他们来说是灾难性的。第三，他们不可能提出一个令人信服的基于证据的论点，即烟草是安全或有益的。但他们意识到他们不需要。他们所需要做的就是强调任何科学研究中都存在的不确定性。他们说证据还没到，所以行动太草率了。对个人来说，戒烟还为时过早。政府现在进行干预还为时过早。
奥康纳:有一种天真的观点认为他们收买了科学家科学家们开始说烟草是安全的。事实上，他们有所有这些微妙和阴险的方法，不是欺诈，也不颠覆科学规范。在烟草的例子中，他们发现在所有的研究中，涂上烟草焦油的老鼠都不会得癌症。独立科学家做过很多这样的研究。然后整个行业就会分享这些。这不是欺诈。他们没有做错什么。但这是误导。
因此:烟草业还资助了对间皮瘤的良好研究，间皮瘤是由石棉引起的癌症。他们这样做是因为他们想在法庭上说，“是的，这些人患有肺癌，但除了香烟，还有其他环境因素可以解释这一时期肺癌发病率的上升。”
奥康纳:Bennett Holman和Justin Bruner举了一个很好的心律失常的例子。当人们第一次研究抗心律失常药物时，问题是，“这些药物能减少心脏病发作吗?”其他科学家问道:“它们能减少心律失常吗?”大型制药公司资助了后者。它投入大量资金给研究这些药物是否能减少心律失常的科学家。事实上，他们做到了。但它们也增加了心脏病发作，并导致超过10万人因心脏病发作而过早死亡。所以，独立研究人员再次做了他们以前做的事情。只是他们中的一些人现在有了更多的钱，这就形成了证据。
因此:每当有经济动机促使人们相信某件事时，你会发现组织会尽最大努力找出支持他们的证据。但他们可能不认为自己是宣传者。他们可能只是在进行我们所有人都会进行的那种动机推理。他们正在寻找恰好支持他们已有信念的证据。他们想要任何他们认为是真实的东西。他们不想觉得自己是坏人。他们想要得到最好的信息。
奥康纳:嗯，在某些情况下，他们更愤世嫉俗。
因此:在某些情况下，他们更愤世嫉俗。我并不是说他们都很好。我只是想强调，它可以是微妙的。
奥康纳:从哲学的角度来看，我们认识到，科学家也是人。科学家也是人。当然科学家也会犯错，当然科学家也有政治和社会信仰。但这是正常的。每个人都要有一些信念。问题是工业把正常的东西武器化了。例如，杜邦公司的一名前经理指责在臭氧层空洞中研究氟氯化碳的科学家不客观，因为他们有政治动机。是的，他们有保护我们免受宇宙辐射的政治动机。这是用来对付他们的，但丝毫没有削弱他们正在收集的实际证据。
因此:另一个类似的武器是科学家们不同意的事实。他们应该不同意。如果他们不互相批评，不互相反对，我们就没有理由像现在这样相信科学的结果。但在科学家似乎意见不一致的情况下，人们很容易就会说尚无定论，或证据不清楚。经常发生的是，在科学文献中，在同行评议的期刊中，争论得到了解决。但随后辩论将转移到报纸上，并在评论版上进行探讨。它可能是由一个持不同意见的科学家写的。但这是不合法的。这反映出以同样的方式对待证据的人们之间并没有真诚的差异。它反映出一个人不再能做出那种能让他们的同龄人信服任何事情的工作。 So now they’re trying to convince people who are less equipped to evaluate it.
假新闻更常被老年人分享，而不是年轻人。
那么，公众是否应该对科学家在专栏文章中陈述自己的观点持怀疑态度呢?
奥康纳:不一定。在很多情况下，科学家与公众交流，这可能是一件非常好的事情。公众应该怀疑的是，科学家们似乎试图在专栏文章中为他们无法在真正的期刊上发表的东西辩护。他们也应该对其他领域的科学家发表关于他们不属于的领域的评论持怀疑态度。
公众对科学的信任因为相互竞争的研究而动摇。今天咖啡对你有好处，明天就不是了。公众怎么知道应该相信什么研究?
奥康纳:如果你是一个消费者，你应该寻找那些不是一次性的，而是从各种研究中收集大量数据的科学文章。对记者来说也是如此。人们有巨大的动力去发表令人惊讶或新奇的东西，因为这是你获得点赞和点击的方式。但是标准不应该是关于单个研究的流行文章。相反，当你写一个主题的时候，它应该包括一些好的研究，表明科学已经进步了一段时间。这将大大减少对科学的误导。
因此:我们应该说，发表令人惊讶或新颖研究的动机也适用于科学家。他们可能对“赞”不那么感兴趣，但这是你获得引用的方式。
奥康纳:对，有很大的新奇偏见。当你看社交媒体时，人们更多地分享假新闻，因为它新颖、令人兴奋。他们还分享了那些无法复制的研究，而不是复制的研究，可能是因为这些研究更令人惊讶，对吧？所以，抵制那些看起来令人震惊、怪异或新奇的发现，也许可以保护你不被错误的科学信念所蒙蔽。
你写道，文化信仰常常影响科学家研究的问题。有什么好的例子吗?
奥康纳:我教的课程是关于性别价值观如何进入生物学的。在20世纪70年代，人们对更年期妇女的荷尔蒙进行了研究，但他们将任何在外工作的妇女排除在研究之外。假设他们在外面工作时一定有异常的荷尔蒙。他们一定是"男人女人"之类的。好了。文化信仰，现在看起来有点古怪，但在当时似乎不是那么不合理，并影响了科学。
因此:事实上，有些情况下，文化信仰会在很长一段时间内影响整个科学家群体。因此，反思这种变化是很有趣的。它总是因为社会的改变而改变，有时只是因为老年人死亡而改变，年轻的科学家们进来后意识到，“等等，我们为什么要假设这个？”他们通过批评过去被广泛接受的东西并证明它是错的来发展自己的事业。在其他情况下，情况会发生变化，因为科学家群体多样化。比如说，如果这是错误的，凯琳，更多的女性开始在一个领域工作。
奥康纳在很多情况下都是这样。在灵长类动物学中有一个著名的例子。如果你看看早期关于灵长类动物社会行为的科学，它主要集中在雄性灵长类动物的行为上，尤其是社会等级中的攻击性。当女研究生开始进入这一领域时，她们关注的是雌性灵长类动物的行为。因为多样性，它彻底改变了灵长类动物的行为领域。
科学家们能做些什么来阻止他们的工作被宣传？
奥康纳:这真的很棘手，因为很多事情都不在他们的掌控之中。所以，一旦你生产了某种东西，现在人们可以随心所欲地使用它。但需要发生的是一场大规模的变革:行业必须不再能够选择资助谁。只要他们能够控制资助的对象，即使他们没有腐化科学家，他们也能腐化科学。
文化信仰，现在看起来有点古怪，但在当时似乎不是那么不合理，并影响了科学。
科学应该如何获得资助?
奥康纳:通过政府或其他一些机构来达到不受行业影响的高标准。
因此:我认为对那些会为科学研究提供资金的行业征税是有道理的。他们认识到科学对于他们产品的重要性。所以你可能会问，有没有一种方法，把他们要花的钱重新分配给一个组织，由它来选择谁能独立获得资金。
有一项对维基百科的研究表明，最准确和高质量的文章是由一群意识形态各异的编辑和作家创作的。这与你的发现相符吗?
因此:是的，这与科学最好被理解为一个从多样性中获益的过程的观点是一致的。不过，这还有另一面。在一个对我们文化意义重大的思想市场中，我们认为拥有任何观点并表达这些观点或信仰在道德上都没有问题。我们倾向于认为这没关系，因为真实的事情会在时间里胜出。事实上，他们没有。如果有人垄断了信息流，干扰了什么样的信息，这将影响创意市场的效率。这就是影响者、宣传者和产业团体正在做的事情。思想没有从一个社区正确地传播到另一个社区。所以我们有飞地。这就是两极分化的样子——可靠的信仰无法从一个社区传播到另一个社区。
奥康纳:因为思想的市场是不工作的，我们经常投票，好像事实是真的或假的。我们投票给不相信气候变化的人，然后假装气候变化不是真的。投票结果不会改变它是否正确，也不会改变我们是否要面对气候变化的后果。所以这里的问题是，事实问题不应该由公众投票来解决。这些问题应该通过收集证据来解决，并利用这些证据来提供给我们最好的工具，在此基础上找出什么是正确的。
获取有用信息的最佳工具是什么?
奥康纳:也许我们应该有一个信息部门来决定什么是真实的。
因此:我和欧盟的政策制定者们进行了一次有趣的对话，内容是关于他们批判性地参与科学的能力。他们说的是，看，我们都同意某种批判性推理对拥有真实可靠的信念至关重要。不幸的是，我们被选出来代表特定的群体和特定的利益，所以我们不能质疑某些假设，因为我们的选民不会质疑这些假设，所以不会投票给我们。如果我们质疑这些假设，那我们就不是在做我们的代表工作。
这不是一种逃避吗?
因此:是的，但让我们看看我们的机构。看看他们失败的方式。我认为，我们仍然可以拥有民主，拥有更好设计的制度，这些制度的发展是为了应对我们当前制度的失败。我们有一些州对公民投票和投票措施进行直接投票。我们需要找到一种民主制度，这种制度要有足够的代表性，要对公民作出反应，但又不能简单地把大群体的意见和信仰聚集在一起。
民主制度如何避免聚集大群体的信念?
奥康纳:我们的建议是，让人们对他们看重的东西进行投票。说我重视公共安全。或者我重视环保主义。或者我重视不受政府干预的自由。所以你是在对你喜欢的社会事物进行投票而不是对事实进行投票。那么你的政府应该实施你的价值观，创造一个更好的社会，考虑到你想要的东西，但使用最好的证据和事实来做到这一点。
我们如何介入社交网络，引导人们走向真相和事实?
奥康纳:所有社交媒体网站都应该雇佣团队来打击积极的虚假信息和虚假信息。无论来自俄罗斯或行业的错误信息的新来源是什么，都应该有团队不断适应，并努力与之斗争。就个人而言，这更棘手。人们就是不相信和自己信仰不同的人。但从更广泛的角度来看，有些方法可能是有效的。疫苗怀疑论者可以找到和他们有相同信仰和认同感的人。有人会说，听着，我理解你为什么害怕疫苗或者为什么你对它们持怀疑态度。在以下几个方面，我也和你一样，我理解你的怀疑。鉴于这种不信任，以下是我改变主意的原因你也可以改变主意。
系统性的改变真的能推翻错误的信念吗?
奥康纳:当然，我们总是会有一些错误的信念，因为我们是社会学习者。错误信念很容易在人与人之间传播。但这并不意味着我们总是会有同样程度的错误信念。如果你看一下文化进化，我们开发了这些文化系统，帮助我们更好地利用大脑。我们开发了令人惊叹的学习系统，帮助孩子们比过去更有效地学习。我们还可以开发一些系统，使我们能够利用现有的大脑尽最大努力。不仅仅是我们应该放弃，我们没有希望。例如，如果我们对人们可以发布什么样的新闻有某种规定，我们就可以保护自己不受错误信息的影响。
因此:我们可以知道什么样的东西是可以相信的，什么样的东西是可靠的。我们必须希望，在回应网上传播的错误信息方面，我们会变得更成功，更有效，或更老练。我认为有证据表明这正在发生。假新闻更常被老年人分享，而不是年轻人。老年人更常故意传递错误信息。对此有很多可能的解释。其中一个与媒体的复杂性有关。年轻人对媒体更熟悉，他们更善于驾驭媒体。
奥康纳:年轻人在识别假新闻方面更精明，他们能够从不同方面看一些网站，然后说，哦，这可能不是真的，所以不太可能分享它。
布莱恩·加拉赫是《纽约时报》的副主编鹦鹉螺．在推特上关注他@BSGallagher．
凯文·伯杰鹦鹉螺”编辑
本文首次发表于2019年2月的《模式》网络版。
