一世在2016年，梅赛德斯-奔驰(Mercedes-Benz)的一名高管是引用的话称，该公司的自驾车汽车将把自己的驾乘人员的安全第一。这一评论所带来的豪华车苛刻的反应修剪下来无辜的旁观者，直到公司走回原来的语句。然而，保护驾驶者不惜任何代价是司机想：最近发表研究在科学（有空读在arxiv）这表明，尽管从原则上讲，人们希望智能汽车能拯救尽可能多的生命(比如避免撞到一群孩子)，但他们也希望智能汽车能首先保护车内人员。
这将是很难相信这个算法，因为我们-名义上负责的人A.I. - 不要自己有“权利”道德回答了这个困境。此外，并有可能更糟的是，算法本身可能会改变。无论多么汽车的A.I.最初编程，如果它的目的是学习和提高自己作为它的驱动器，它可以在无法预测一个复杂的事故，将满足任何人的方式行事，或许。它将令人不安的司机担心您的爱车是否真的想保护你;幸运的是，道德上模棱两可的驾驶情况不经常发生，和那些可能甚至更少，如果自动驾驶汽车履行自己的高能力的吹捧承诺，巨大的降低汽车事故的频率发生，但要看到这个遗迹。上个月，特斯拉型号X，从事自动驾驶仪，砰的一声在加州高速公路的中央，司机被烧死(他多次被汽车警告把手放在方向盘上)。在亚利桑那州，一辆自动驾驶的优步也被烧死致命的打击一个行人。
对于一个司机来说，担心你的车是否真的想要保护你会让人不安。
人工智能被故意设计成在战争中杀死的潜在危害要紧迫得多。美国和其他国家都是如此工作大力发展军事A.I.，在自动武器的形式，增强战场的能力，同时暴露更少的士兵受伤或死亡。对于美国，这将是军事情报现有的不完善的无人机作战程序故障的自然延伸，导致了错误的杀死在伊拉克非战斗人员。五角大楼说它不打算把人类从决策过程,批准使用致命武力,但是人工智能技术远超人类在越来越多的领域如此之快,许多人担心失控的全球军备竞赛,很容易加速向完全自治weaponry-autonomous,但不一定与良好的判断力。
谷歌的数千名员工都对这一结果感到担忧。谷歌一直在向五角大楼的Maven项目提供人工智能方面的专业知识，该项目自去年以来一直在建立一个“算法战争跨职能团队”，最终将允许一名人类分析师，根据对海军陆战队上校德鲁·库克(Drew Cukor)来说，“他们要做的工作是现在的两倍，可能是三倍”，比如在无人机视频中识别目标——比如路边的炸弹种植地。“12月初，也就是项目开始的6个多月，”根据在原子科学家公报“Maven的第一个算法被派往国防情报分析员，支持真正的无人驾驶飞机的任务在打击ISIS的斗争。”在由超过3100名员工，其中包括许多资深工程师签名的请愿书，根据到纽约时报，员工要求谷歌停止协助Maven项目，称:“我们认为谷歌不应该参与战争业务。”
即使谷歌翻出，其他公司开发A.I.，像微软和亚马逊将于今年亚马逊可能步被认为是最喜欢赢五角大楼的数十亿美元的云服务合同，其中包括A.I。技术。所以，这一切都太容易想象，在这些公司帮助军用设计的活性成分。在不那么遥远的未来，一个该选目标，宗旨，与更多的速度和精度比任何人类士兵火灾，但缺乏更广泛的智力来决定，如果目标是适当的。这就是为什么联合国是考虑如何在国际上限制致命的自主武器。2015年，成千上万的人工智能和机器人研究人员问如果无人控制，自动武器就会被禁止，原因之一是，“自动武器非常适合执行暗杀、破坏国家稳定、征服民众和选择性杀害特定种族等任务。”
这些可怕的干扰将在目前或不久的将来存在的专门人工智能能力的掌握范围内，比如面部识别，这将使追捕特定的暗杀目标成为可能;或者更糟的是，算法只根据外部物理特征，比如肤色，来挑选整个人类目标群体。再加上一个聪明的独裁者告诉他的人民，“我的新人工智能武器会杀死他们，但不会杀死我们，”你就有了潜在的反人类高科技犯罪，其代价可能比制造流氓核武器更低。当然，假设像ISIS这样的组织能够获得人工智能能力并不牵强。它的武器供应链——其中一些被创造性地用于城市战斗——可以追溯到美国。“ISIS生产如此先进的武器标志着其野心和能力的显著提升。”有线报道12月。“它也提供了一个令人不安的未来战争的一瞥，在那里，黑网文件共享和3d打印意味着任何组织，任何地方，都可以开始自己的本土武器工业”——这是一个诱人的可能性，国际坏人扩大他们的影响。
在应对朝鲜等国家的大规模武器能力方面，我们已经遇到了足够多的问题。让我们希望我们能把人工智能从那些心怀邪恶意图的小团体开发的武器库中赶出去。
西德尼伯寇维兹，坎德勒名誉教授物理学埃默里大学，是作者数字的人他是刚刚出版的这本书的编辑怪人：如何怪物成为一个图标他还著有其他关于人工智能、机器人和各种科学技术题材的畅销书。在推特上关注他@physp。
最新和最受欢迎的文章投递到您的收件箱!
观察:与机器人一起工作可以告诉你什么是人类。
杰出的机器人专家，加州大学伯克利分校自动化科学实验室研究员，国际公认的艺术家”数据信用=””风格=‘宽度：733px’>
