我n暴力的未来，Benjamin Wittes和Gabriella Blum讨论了一个令人不安的假设情景。尼日利亚的一名孤立演员，“拥有大量垃圾邮件和在线欺诈活动”，将妇女和十几岁的女孩欺骗下载恶意软件，使他能够为勒索目的监测和记录他们的活动。真正的故事涉及一个加州的联邦联邦调查局最终被抓住并被送往监狱六年，但如果他在世界其他地方，他可能已经离开了它。许多国家，作为诙谐和布鲁姆票据，“既没有意愿，也没有监测网络犯罪，起诉罪犯或引渡嫌疑人的手段。”
换句话说，技术使犯罪分子能够在任何地方瞄准任何人，并且由于民主化，越来越达到规模。新兴的生物，纳米和网络技术越来越媲美。政治科学家Daniel Deudney有一个词可以导致的东西：“omniviolime。”杀死者与杀死的比例，或“k / k比例”落下。例如，计算机科学家斯图尔特罗素生动地描述一小群恶意药剂可能会从事全能锻炼：“一个非常非常小的Quadcopter，直径一英寸可以携带一种或两克形的电荷，”他说。“您可以从中国的无人机制造商订购它们。您可以编程代码说：'这里是我想要瞄准的类型的数千个照片。'一个克形状的电荷可以在9毫米的钢铁上打个洞，所以你也可以在别人的头上打个洞。一辆半牵引式拖车可以装下三百万辆。你可以开着三辆卡车沿着I-95公路带着一千万的武器袭击纽约市。他们不需要非常有效，只有5%或10%的人需要找到目标。”制造商将生产数以百万计的这种无人机，就像现在的枪支一样可供购买，罗素指出，“除非你有一百万士兵，否则数百万支枪根本不重要。”你只需要三个人来编写程序并发布。”在这种情况下，K/K比率可能是3/1,000,000，假设10%的准确率和每架无人机只有一个1克的聚能装药。
新兴技术将使国家系统过时吗？很难看出为什么不。
这是完全和可怕的 - 前所未有的。然而，未来的恐怖分子或精神病患者将不仅仅是互联网或无人机的“屠宰者”这个视频从生命学院的未来，也是合成生物学，纳米技术和先进的AI系统。这些工具在国际边界跨越琐碎的情况下造成严重破坏，这提出了问题：新兴技术将使国家系统过时吗？很难看出为什么不。是什么证明了国家的存在，英国哲学家托马斯霍布斯争辩，是一个“社会合同”。人们放弃了一定的自由以换取国家提供的安全，即国家作为一个中立的“裁判”，可以在人们进入纠纷时进行干预，惩罚窃取和谋杀的人，并由竞争利益缔约方签署的合同。
麻烦的是，如果任何地方任何地方都可以攻击任何人，那么国家将成为 - 并且变得无法满足他们作为裁判的主要职责。这是一项对无政府状态的趋势，“所有人的战争对面，”作为霍布斯把它放在其他词中，每个人都生活在不断受到邻国伤害的恐惧中的一个条件。的确，在最近纸，“脆弱的世界假设”发表在全球政策牛津哲学家尼克博斯特罗姆认为，捍卫全球灾难的唯一方法是采用普遍和侵入的监督系统，他称之为“高科技泛光池”。声音缺陷？这对我来说肯定了。“创造和经营高科技Panopticon将需要大量的投资，”Bostrom写道“，但由于相机的价格下降，数据传输，存储和计算，以及支持AI的内容分析的快速进步，它可能很快成为技术上可行和实惠的。“博克斯特众所周知，州立渡口腐败的行动者可以利用这种对极权主义目的的监视，或者黑客可以敲诈勒索毫无戒心的受害者。然而，事实是，它仍可能比遭受一个全球灾难之后更好的选择。
社会如何反击全暴力?一个战略可以是一个超级智能机器 - 基本上是一种极其强大的算法 - 专门设计用于公平的管理。然后，我们可以将算法放在政治指控中，并且只要它控制像“哲学家国王”的东西，不断担心收集的数据被滥用或滥用。当然，这是一个奇妙的建议。即使是在司法系统中的真实世界使用也充满了问题．但此时，我们是否有更好的想法，以防止国家系统崩溃在广泛的技术赋权的重量下？
也许将出现一个完全新的想法，可以保留目前的系统 - 如果我们甚至想要它保留。或者也许新兴技术不会让人尽可能多地赋予人们。它可能是令人反感的技术实际上会落后于防御技术，使得执行成功的攻击很难。它也可能是在全梦和民主化之前削弱国家，文明因气候变化与致命的热浪，梅加达，沿海洪水，海平面，融化冰川和极地冰盖，荒漠化，食品供应中断，疾病等因素而崩溃爆发，生物多样性损失，物种灭绝和大规模迁移。如果我们再次最终生活为猎人 - 采集者，主要担心将是棍棒和石头，而不是设计师病原体和人工智能。
文明是一个实验。我们可能无法获得我们期待的结果。所以人类会很好地希望，但为最坏的情况做好准备。
Phil Torres是研究全球灾难风险的学者，著有多本书。他的文章，“过度理智与治理的未来：关于在历史结束时确定控制问题，”在2018年的选集中出现，人工智能安全和安全．他的文章已发表在时间，石板，鹦鹉螺， Motherboard，和原子科学家公报。在推特上关注他@xriskology．
最新，最流行的文章向您的收件箱交付了！
