W当德国之翼4U9525号航班于3月份坠入法国阿尔卑斯山时，调查人员没过多久就确定了可能的原因：副驾驶安德烈亚斯·卢比茨据称患有抑郁症，可能是为了自杀而撞毁了这架飞机，并带走了数百人。但这并不能说明全部情况；调查人员需要了解更多。为什么他被允许驾驶一架满载乘客的飞机，尽管他接受了精神病治疗？他是怎么把飞行员锁在驾驶舱外的？系统中的哪些故障允许这种致命的情况组合发生？
在发生重大事故后，此类问题已成为例行公事。它们反映了一种理解，即在任何复杂的技术系统中，人只是一个单一的组成部分，尽管是一个关键的组成部分。当人们找不到机械原因时，常常把事故归咎于人为错误。但正如德国之翼和其他悲剧的调查人员所知，这太简单了；因为错误很少在真空中发生。
在人类历史的大部分时间里，“人为错误”的概念并不存在，因为错误会导致技术事故。当然，我们的祖先也犯过同样的错误，但造成的伤害只有工匠使用手工工具滑倒才能造成。随着工业革命，情况发生了变化：工人不再简单地使用工具，而是在某种意义上成为了工具，就像工厂里的齿轮一样。在重复性任务的压力下，事故变得很常见，有时严重到足以关闭生产线。工厂主们通常会指责人为因素，而不是寻找机器的缺陷。到了20世纪初，职场心理学家正在研究所谓的“容易发生事故”的员工，并想知道他们为什么会这样。英国工业心理学家埃里克·法默（Eric Farmer）也因发明了这个词而备受赞誉，他设计了一系列测试来剔除这些人，或者将他们放在伤害最小的地方。
在第二次世界大战期间，人们对人为错误的看法发生了巨大的变化，当时新技术的出现速度如此之快，以至于即使是最不容易发生事故的人也可能犯错。1943年，美国空军召来心理学家阿尔方斯·查帕尼斯（Alphonse Chapanis）调查飞行员屡次犯下某种危险且无法解释的错误的案例：美国空军的飞行员某些型号的飞机会安全着陆，然后错误地收回起落架。巨大的飞机会在地面上刮擦，爆炸成火花和火焰。查帕尼斯采访了飞行员，但也仔细研究了驾驶舱。他注意到，在B-17上，控制起落架和襟翼的两个操纵杆是相同的，并且彼此相邻。通常情况下，飞行员会降下起落架，然后升起机翼襟翼，襟翼起到空气制动器的作用，将飞机向下推到机轮上。但在战时的混乱中，当飞行员打算升起襟翼时，很容易抓住错误的操纵杆并收回起落架。查帕尼斯的解决方案是：在起落架控制装置上安装一个小橡胶轮，在襟翼控制装置上安装一个襟翼形楔块。飞行员可以立即感觉到哪个操纵杆是正确的，问题就消失了。在这种情况下，很明显，问题不在于飞行员，而在于他周围的技术设计。
战后，这种思想进入了工业界，并导致了对人为因素“工程。这样做的目的不再是责怪人类，因为人类往往是表面原因的代表，而是要检查人类运行的复杂系统。换句话说，在战争之前，人类被视为错误的原因；战后，他们被视为错误的继承者，而这些错误是无意中嵌入到系统中的。1967年，国家交通安全委员会成立，以找出此类错误：其“围棋队”许多专家竞相前往运输或管道灾难现场进行技术和程序性尸检。主要是因为该机构的工作，从统计学上讲，驾驶商业客机是你能做的最安全的事情之一。
灾难是不可避免的，随着每一次灾难的发生，我们对错误的理解变得更加复杂。专家们已经了解到，不仅是技术导致了看似人为的错误，而且是技术运行的文化。在三里岛核反应堆部分熔毁后，社会学家查尔斯·佩罗（Charles Perrow）提出了他的“正常事故”理论——即某些技术非常复杂，有数千个相互连接的锁定部件和程序，事故不可避免地会发生。在航天飞机之后挑战者社会学家戴安·沃恩（Diane Vaughan）提出了她的“标准化偏差”理论，这一理论在过去的几年里一直在发展NASA已经习惯于看到O型环上的瑕疵他们无法想象同样的缺陷会导致灾难，他们认为这是为了防止可燃气体逸出。
这种思维的引人注目之处不仅在于它的微妙之处，还在于它的前瞻性：毕竟，仅仅指责一个“坏苹果”并不能修复系统中的缺陷。因此,这种做法,，称为根本原因分析，已进入许多领域，如重工业、消防和医药。几十年前，麻醉是最危险的医疗程序之一。在研究这个问题时，专家们了解到，他们可以通过调整设备来挽救生命，例如使氧气和氮气的喷嘴和软管不兼容，这样患者就不会得到错误的气体。宾夕法尼亚大学麻醉学教授Lee Fleisher说，事故发生率下降到不到原来的第五十。有些外科医生会检查手术前的检查表，就像飞行员起飞前一样。几年前，当我躺在手术台上做肩袖手术时，我的整形外科医生就是这么做的。他还让护士在一个肩膀上写上“是”，在另一个肩膀上写上“否”，这是另一个受航空启发的冗余安全措施。
最具挑衅性的根源分析新场所是司法系统。还有什么比拙劣的起诉或错误的定罪更值得责备的呢？然而，心理学家和法律专家发现，法律灾难是由多种因素造成的，而不是由一个过于热心的检察官或被误导的警察造成的。想想密苏里弗格森的迈克·布朗枪击案。没人能想象，警官达伦·威尔逊那天早上醒来，决定射杀一名手无寸铁的少年。因此，我们应该问，他之前的决定和政策首先向他提出了什么样的选择？他装备了非致命武器吗？他受过降阶训练吗？他的警车里应该有个搭档吗？种族主义和种族歧视达到了什么程度美国司法部引用的基于收入的警务，为那悲惨的事件做准备？
“不仅仅是警察或检察官，”詹姆斯·道尔（James Doyle）说，他是一名著名的辩护律师，正在领导一项全国性的工作，将系统分析带到警察部门和法庭。“也是这些人设定了案件数量和预算；他们创造了其他人必须适应的巨大压力。”
这并不是为了原谅像威尔逊或卢比茨这样的人，他们的行为造成了伤害。但要真正找到任何悲剧的根源，重要的是要看到我们自己，因为我们是生活在复杂的社会和技术系统网络中的不完美的人。在我们责备别人之前，先要谦虚一点。
道格拉斯·斯塔尔是波士顿大学科学新闻研究生项目的联合主任。他的书包括小牧羊人的杀手：一个真实的犯罪故事和法医学的诞生和血：一部史诗般的医药和商业史.
