你的机器人车应该不理你

我2014年，谷歌向底特律开了一枪。谷歌最新的无人驾驶汽车原型没有方向盘和刹车。信息是明确的：未来的汽车将出生时完全自主，不需要或不需要人工驾驶。更令人不安的是，该公司与一批分包的汽车供应商一起定制了其最年轻的无人驾驶汽车车身，而不是像谷歌在生产前两代无人驾驶汽车时所做的那样，对普锐斯或雷克萨斯进行改造。最重要的是，这辆车从母体中诞生，已经是一名专家级驾驶员，从以前的原型车大脑中提取了大约70万英里的驾驶经验。现在，谷歌的自动驾驶汽车又经过了几年的实践，车队的集体驾驶时间相当于130多万英里，相当于一个人开车90年每年行驶15000英里。

作为回应，汽车公司投入数十亿美元用于软件开发，汽车创新的中心已从底特律转移到硅谷。如果汽车公司有权定义向无人驾驶汽车的过渡，他们会赞成一个非常渐进的过程。第一阶段将涉及完善驾驶员辅助技术。第2阶段将涉及在特定情况下（最有可能在公路上）实施一些自主能力有限的高端车型。在第三阶段，有限的自动驾驶能力将逐步推广到更便宜的车型。

人类和机器人不应该轮流开车。

咨询公司德勤（Deloitte）将这种渐进式方法描述为一种渐进式方法，“汽车制造商投资于新技术，如防抱死制动、电子稳定控制、倒车摄像头和跨高端车辆线的远程信息处理，然后随着规模经济的形成而向下移动。”，虽然吸引了业内人士，但这可能实际上是不明智的。对于汽车公司来说，逐步增加计算机引导的安全技术来帮助人类驾驶员转向、制动和加速，从而逐步实现自主性，从长远来看，无论是从人的生命角度还是从汽车行业的底线来看，都可能是一种不安全的战略。

汽车公司青睐增量方法的一个原因是它延长了他们对汽车行业的控制。无人驾驶汽车需要一个智能车载操作系统，该系统能够感知汽车周围环境，感知流入的数据，然后采取适当的行动ally artificial perception需要熟练的人员和一定深度的智力资本来创造。汽车公司虽然非常擅长创造复杂的机械系统，但缺乏员工、文化和运营经验，无法有效地钻研棘手的人工智能研究。谷歌则是另一家手，已经在那里了。

无人驾驶汽车给汽车行业带来了不确定性。在过去的一个世纪里，直接向消费者销售汽车一直是一项不错的生意。然而，如果无人驾驶汽车使消费者能够支付每次乘坐的费用，而不是购买自己的汽车，那么向出租无人驾驶出租车的运输公司出售普通车身的业务可能就没有那么有利可图了。如果有一天汽车公司被迫与一家软件公司合作生产无人驾驶汽车，这种合作可能会导致汽车公司从最终利润中分得一小部分。

就像一个成长中的小猫在一个通宵扑克游戏中间，有很多钱坐在桌子上。前密歇根大学教授和通用汽车执行官Larry Burns解释说，每年都有一个金矿进入人们驾车行驶的3兆英里（美国）。他说：“如果一个先行者每年获得3兆英里的10%份额，每英里10美分，那么每年的利润将是300亿美元，这与苹果和埃克森美孚在数年内相当。”

汽车公司和谷歌就像碰撞过程中的巨型油轮，都在缓慢地向一个共同的目的地驶去：从下一代自动化汽车中榨取最大的利润。汽车公司倾向于采用一种进化的方法，开发驾驶员辅助模块，使其能够长时间接管方向盘相比之下，谷歌的战略旨在直接进入完全自主。

Car公司并不是唯一喜欢渐进式方法的公司。美国交通部和汽车工程师学会各自绘制了通往完全自治道路的地图。虽然他们的阶段略有不同，但他们的共同点是，假设前进的最佳方式是通过一系列渐进和线性阶段，在这些阶段中，汽车的“驾驶员辅助”软件暂时接管驾驶，但如果出现棘手的情况，则快速将汽车控制权交还给人类驾驶员。

我们不同意这样的观点，即逐步过渡是前进的最佳方式。出于许多原因，人类和机器人不应该轮流开车。然而，许多专家认为，最佳模式是让人和软件共同控制方向盘，人类驾驶员应继续充当主人，软件应继续充当仆人。基于人类和机器是合作伙伴的范例的软件被工程师称为人在回路软件。在许多情况下，将人与计算机配对确实会产生很好的效果。熟练的人类外科医生在手术过程中使用机械手臂来达到非人的精确性。今天，商用飞机使用人在回路软件，就像许多工业和军事应用一样。

赞成让人类参与循环的论点有其吸引力。这是一个诱人的思想实验，梦想着将人类最好的能力与机器最好的能力完美地结合在一起，类似于为梦幻足球队手工挑选职业足球运动员的令人陶醉的优化难题。机器是精确的、不知疲倦的和分析性的。机器擅长检测图案、计算和测量。相比之下，人类擅长得出结论，在明显随机的对象或事件之间建立联系，并从过去的经验中学习。

至少从理论上讲，如果你把人和智能机器结合起来，结果应该是一个机警、反应灵敏、技术高超的司机。毕竟，人在回路的自动化方法的优势在于，它有可能收获人类和机器最擅长的优势。

实际上，人在回路软件只有在各方（人和软件）保持一套明确一致的责任的情况下才能在无人驾驶汽车的情况下工作。不幸的是，在人和软件之间保持清晰一致的责任并不是汽车行业和联邦交通官员提出的模式。相反，他们提出的方法让人处于循环中，但责任不明确且不断转移。

这种逐步过渡策略的核心是假设如果发生意外情况，嘟嘟声或振动将向人类驾驶员发出信号，表示她需要迅速爬回驾驶员座椅以应对这种情况。逐步实现全自动化的线性路径听起来可能是明智和安全的。然而，在实践中，从部分自动驾驶过渡到完全自动驾驶是不安全的。

人们一旦看到技术可行，就会很快相信它。

机器和人在某些情况下可以很好地协同工作，但驾驶不是其中之一。驾驶不是一项适合人在回路方法的活动，主要原因是：驾驶很乏味。当一项活动乏味时，人类都非常乐意让机器接管，所以他们急切地放弃责任

当我在海军接受军官培训时，我了解到，良好管理的核心原则之一是绝不在两个人之间分配关键任务，这是一个典型的管理失误，被称为“责任分担”。责任分担的问题在于，最终，参与完成任务的两个人都可能会觉得丢球是安全的，前提是另一个人会收拾残局。如果任何一方都不参与救援，结果就是任务失败。如果让人和机器分担驾驶责任，结果可能是灾难性的。

法航447航班在2009年坠入大西洋，机上228人全部遇难，这是人与机器责任分担的一个令人痛心的例子。后来对飞机黑匣子的分析表明，坠机原因不是恐怖主义或机械故障。出错的是从自动飞行模式切换到人工飞行员团队。

在飞行中，飞机的自动驾驶仪软件被冰覆盖，意外关闭。一组人飞行员，困惑不解，没有练习，突然被要求控制他们所期望的常规飞行。当被推到一个意外的责任位置时，人类飞行员犯了一系列灾难性的错误，导致飞机俯冲入海中。

我2012年秋天，几名谷歌员工被允许在上班路上的高速公路部分使用一辆自主雷克萨斯。当时的想法是，人类驾驶者将引导雷克萨斯驶入高速公路，并合并，一旦进入单车道，就开启自动驾驶功能。每个员工都被警告这是早期技术，他们应该百分百地关注驾驶。每辆车都配备了一台摄像机，可以拍摄乘客和汽车的整个行程。

员工对自动驾驶汽车的反应绝大多数是积极的。所有人都描述了不必与高速公路高峰时段的交通发生冲突，回家时精神饱满，与家人共度美好时光的好处。然而，当工程团队从这些驱动器回家观看视频时，出现了问题。一名员工从驾驶座完全转过身去，在后座上寻找手机充电器。其他人把注意力从方向盘上移开，简单地放松下来，放松下来，享受几分钟平静的空闲时间。

谷歌的报告描述了责任分担的情况，工程师称之为自动化偏见。“我们在工作中看到了人性：人们一旦看到技术起作用，就会很快信任它。因此，当他们被鼓励关掉电源并放松时，他们很难在驾驶任务中进进出出。”

谷歌坚信人类和机器不应该共享方向盘是没有中间立场的，这听起来很危险，但实际上，在消费者安全方面，这是最谨慎的做法。自动化会以两种方式损害驾驶员：首先，通过邀请驾驶员参与次要任务，例如阅读或观看视频等直接分散驾驶员注意力的活动；第二，通过干扰他的情境意识，或干扰他感知驾驶环境中关键因素的能力，以及快速、适当地作出反应的能力。把两者放在一起——一个心烦意乱的司机，他不知道车外发生了什么，很清楚为什么分担驾驶责任是如此危险的想法。

由通用汽车公司和美国交通部联邦公路管理局赞助的弗吉尼亚理工大学的研究给出了一些数字，说明了当一项有能力的技术提供卸载一项繁琐任务时，人类所面临的诱惑。弗吉尼亚理工大学的研究人员在测试跑道上评估了12名人类驾驶员。每辆测试车辆配备两名驾驶员驾驶辅助软件ms：一个用于管理车道定心，另一个用于处理汽车的制动和转向，称为自适应巡航控制。该研究的目的是测量当驾驶技术取代汽车的车道保持、保持汽车速度和处理制动时，人们的反应测量人类驾驶员的活动在研究期间，每辆车都配备了数据收集和记录设备。

研究人员从底特律的普通人群中招募了12名年龄在25岁至34岁的人，并为他们的参与提供80美元。招募的司机被要求假装要长途旅行，他们不仅被鼓励在试驾时随身携带手机，而且还可以随时获取阅读材料、食物、饮料和娱乐媒体。当参与者出现在研究现场时，研究人员向他们解释说，研究团队中的某个人将加入他们的车内。每个司机都被告知，他们的乘客有一个家庭作业，他需要在旅途中完成，所以他在开车的大部分时间里都会在笔记本电脑上看DVD。

避免碰撞的最佳方法是教导无人驾驶汽车，不管苟且不小心，非法地开车。

将12个人受试者置于测试轨道上的常见高速公路驾驶场景，并测量并记录它们的反应和活动。研究人员的目标是双重：一，衡量诱惑，从事次要任务，如进食，阅读或观看视频;二，如果软件是处理大部分驾驶，衡量驾驶员注意力的程度。换句话说，研究人员正在测试自动化驾驶技术是否会鼓励人类从事不安全的行为者，如精神上调整，在车轮后面的时候，或失去他们的情境意识，包括他们在驾驶中感知关键因素的能力环境。

事实证明，大多数人类驾驶人，当看到为他们驾驶的技术时，都会急切地犯下所有三种不良驾驶行为。“假作业”研究人员的策略，结合自适应巡航控制和车道定心软件的能力，使参与者感到足够的安全感，不再关注方向盘后面的情况。在大约三个小时的试驾过程中，使用了不同的自动驾驶技术，大多数司机们从事某种形式的次要工作，最常见的是吃饭、伸手去拿后座上的东西、打手机、发短信和发电子邮件。

保持车道保存软件尤其邀请人类司机从事二级活动。当通道保持车道的软件时，在旅行期间，驾驶员的58％的司机在一段时间内观看了DVD。二十五位的司机享有空闲时间来完成一些阅读，将车辆撞车的风险提高了3.4倍。

人类驾驶员的视觉注意力也没有好多少。再一次，当车道对中软件控制方向盘时，驾驶员的注意力转移了。总的来说，据估计，在这三个小时的行程中，司机有33%的时间会将目光从道路上移开。更危险的是，在研究过程中，司机们进行了长时间、潜在危险的“越野扫视”，持续时间超过2秒，估计有3325次。然而，好消息是，这些致命的长距离越野造型只发生了8%。

显然，这项特殊的研究只是一个起点。12人是一个相当小的对照组，需要对驾驶员注意力不集中进行更多的研究。一个有趣的发现是，尽管大多数司机在开车时都渴望阅读、吃饭、看电影或发电子邮件，但有些司机还是能够抵制不开车的诱惑。出于值得进一步研究的原因，该研究表明，并非所有人类驾驶员都能如此迅速地放弃驾驶责任。正如研究人员得出的结论，“这项研究发现，在次要任务交互的性质和频率方面存在巨大的个体差异，这表明自主系统的影响不太可能统一应用于所有驱动因素。”

T这是一个转折点，在这个转折点上，自动驾驶技术实际上会给人类驾驶员带来更多的危险，而不是更少。想象一下，如果弗吉尼亚理工大学的研究项目中的12名人类驾驶员在一辆完全自主的汽车上有一个三小时的车程的座位。他们二次活动的强度很可能会增加到人类司机睡着或全神贯注于发送电子邮件的程度。如果控制权被突然移交，完全自主将使一个极度分心或昏昏欲睡的人类驾驶员几乎不可能在具有挑战性的情况下有效地接管车轮。

在另一项研究中，在宾夕法尼亚大学，研究人员坐下来与30名青少年坦率地讨论了青少年司机的手机使用，而在车轮。出现了两个中心点。虽然十几岁的青少年说他们明白开车时发短信的危险，但他们还是这么做了。即使是最初声称自己开车时不使用手机的青少年，在被追问时也不情愿地透露，他们会等到红灯时才发短信。此外，青少年使用他们自己的分类系统来定义什么是“开车时发短信”，什么不是。例如，他们说开车时查看推特并不构成发短信；也没有给乘客拍照。

分散人类注意力是一个风险。让人类和软件共享方向盘的另一个风险在于，如果不经常使用，人类技能将下降。就像447航班的飞行员一样，如果有机会在方向盘后面放松，人类驾驶员会接受。如果一个人已经数周、数月或数年没有驾驶了，那么他就会驾驶sud丹利被要求在紧急情况下开车，这不仅会让人不知道车外发生了什么，而且她的驾驶技能也可能生锈了。

从事次要任务的诱惑和所谓的人机责任分配的交接问题是人机交互中的重大危险，谷歌选择跳过逐步过渡到自主的概念。谷歌2015年10月发布的无人驾驶汽车项目月度活动报告以一个爆炸性的结尾：基于早期的部分自主试验，该公司的战略前进方向将专注于实现完全自动化。报告指出，“最终，我们的测试让我们决定开发一种无需人工干预就能从A点自动驾驶到B点的汽车……每个人都认为让汽车自行驾驶很难。确实如此。但我们怀疑，当人们感到无聊或疲劳时，要让人们注意到这一点可能也同样困难，而技术正在说‘不要’“别担心，我现在有这个。”

在写这篇文章的时候，谷歌的无人驾驶汽车总共发生了17起轻微的小车祸和一次与公交车的低速碰撞。在17起小车祸中，肇事者不是无人驾驶汽车，而是其他人类驾驶者。然而，2016年2月14日，谷歌的汽车在与一辆城市公交车侧面“接触”时发生了第一次重大事故。与之前的17次小碰撞不同，这次事故是汽车软件的故障，因为它错误地预测，如果汽车向前滚动，公共汽车将停止。

具有讽刺意味的是，谷歌的汽车开得太好了，所以，除了与公交车的磨合之外，谷歌其余的事故都发生了。一辆程序良好的自动驾驶汽车严格遵守驾驶规则，让驾驶人感到困惑，因为驾驶人在驾驶时往往不那么细心，也不总是那么守法。典型的事故场景是谷歌的一辆顺从的无人驾驶汽车试图并入高速公路或在繁忙的十字路口红灯时右转。不耐烦的人类驾驶员不理解汽车是否严格遵守限速或车道保持法，意外地撞上了无人驾驶汽车。

到目前为止，幸运的是，谷歌的事故都没有导致任何伤害。在近期未来，避免碰撞的最佳方式将是教导无人驾驶汽车，更喜欢人，不小心，非法地开车。在长期未来，解决人类驱动因素问题的最佳方式将用患者软件取代，从未停止关注这条路。

随着汽车和科技公司齐聚一堂，玩他们的高赌注全球汽车扑克游戏，谁将赢得这场游戏还有待观察。如果联邦官员通过法律，强制实行“人在回路”的方法，赢家将是汽车公司，他们将保留对汽车行业的控制权。另一方面，如果最终法律允许，或者出于安全原因，甚至要求无人驾驶汽车拥有完全自主权，那么软件公司将起到带头作用。

谷歌作为数字地图和深度学习软件的无可争议的行业领导者保留了一些主要优势。从经营战略的角度来看，谷歌在汽车工业中缺乏脚趾实际上是其关键优势之一。分析师Kevin Root写道：“与OEM不同，他们[Google]不会受到......丢失收入从绕过新功能涓涓细流，他们正在为完全自主无人驾驶汽车的最终状态开发，似乎有一个相当大的领导。”添加至于谷歌的渴望创建一个不依赖于销售互联网广告的新收入流，目前是其主要收入来源。

有一件事很清楚：无论如何过渡到无人驾驶汽车展开，汽车行业都将被迫开发新的核心竞争力。为了仍然是销售无人驾驶汽车的新行业的球员，汽车公司将不得不掌握建设人工智能软件的艰难艺术，这是一项挑战，这是几十年来实现了世界上最好的机器人。

霍德·利普森是哥伦比亚大学机械工程教授，也是这本获奖书的作者制作：3D打印的新世界。梅尔巴·库曼（Melba Kurman）写的是颠覆性技术，也是这本获奖书的作者制作：3D打印的新世界。

经麻省理工学院出版社许可转载。

领先形象信贷：Shutterstock