特斯拉Autopilot将救人无数 但现在却拿命做测试
图示：2018年5月，一辆启动Autopilot的特斯拉汽车与警车发生碰撞。
网易科技讯 10月10日消息，据国外媒体报道，特斯拉的最终目标是造出完全自动驾驶汽车。为了这一天的尽早到来，其在所有特斯拉汽车中安装了Autopilot系统，并通过将司机作为志愿者进行道路实验。Autopilot最终可能会挽救数百万人的生命，但在此之前势必会导致一些司机的死亡。
这是杰里米・班纳（Jeremy Banner）生命中的最后一天。他在黎明前醒来，坐上红色特斯拉Model 3，沿着佛罗里达大沼泽地的边缘向南行驶。车窗外的沼泽和农田在模糊的绿色中快速掠过。
班纳轻按了方向盘下的操纵杆，车内响起柔和的铃声。他启动了市场上最复杂且最具争议的自动安全功能：特斯拉Autopilot。在电脑控制下，汽车可以加速、变道、驶出出口，如果前方有障碍物，还可以自动刹车。
特斯拉的目标是制造出世界上第一辆自动驾驶商用汽车，从而主导全球汽车市场，公司认为Autopilot是关键的第一步。用户也喜欢Autopilot。他们已经通过Autopilot行驶超过15亿英里(21亿公里)，也常常将软件功能发挥到极致。尽管车主手册提醒司机需要密切监视车辆状况，但这并没有阻止一些人在行驶的汽车上读书、打盹、弹琴或做爱。大多数时候汽车能把他们安全带到要去的地方。
但在3月的那个清晨，班纳的轿车没能发现正前方有一辆拖车正穿过四车道的高速公路。班纳也没有。轿车以109公里的时速撞了上去，车顶直接被掀翻，这位有三个孩子的50岁父亲当场死亡。
计算机错误看起来和人为错误完全不同。Autopilot有闪电般的反应能力，注意力从不减弱，但有时无法发现路上的危险。自特斯拉2015年引入Autopilot以来，已知5起死亡事故中的4起都是这种情况。事实上，班纳发生的车祸与早先一起有着惊人地相似。今年8月，班纳家人根据佛罗里达州的《非正常死亡法案》起诉特斯拉。原告发起直截了当的产品责任索赔：特斯拉承诺提供一辆安全的汽车，却交付了一辆存在缺陷的危险汽车。
但Autopilot与历史上几乎所有其他消费产品都不一样，它在某些方面让我们预见到即将到来的机器人时代会面临哪些问题。特斯拉首席执行官埃隆・马斯克(Elon Musk)表示，这项技术挽救了生命，很多特斯拉车主都能证明自己的汽车发现了危险，避免了碰撞。可能双方都是对的，电脑杀死了一些原本可以活下来的司机，但它们也挽救了更多司机的生命。
这个问题不再仅仅是学术问题。当马斯克决定让尽可能多的人拥有Autopilot时，这相当于在全世界高速公路上开展了一个巨大的实验。
26岁的软件工程师奥马尔・卡齐(Omar Qazi)在洛杉矶405号州际公路上驾车向北行驶时，双手从方向盘上拿开。当时汽车正以每小时80公里的速度行驶在全美最繁忙的高速公路上，卡齐的黑色Model 3轿车方向盘微向左转，使汽车保持在车道中央。“这就像洛杉矶高峰时段的交通，对吧?”卡齐说，“这真完美。”特斯拉拥有大批铁杆粉丝，其中很多是富裕的极客，卡齐也是其中之一。
在洛杉矶郊外的特斯拉充电站，留着胡茬、穿着蓝色耐克鞋的卡齐展示了实验性的智能召唤功能，当时只有经过挑选的特斯拉测试者可以使用这项功能。他按下手机上的一个按钮，汽车驶出了停车位。卡齐看着它穿过停车场朝自己驶来。“这没什么用处，”他笑着说。但卡齐很喜欢炫耀这个把戏，以至于会在停车场徘徊等待观众。
智能召唤可以一窥马斯克所承诺的无人驾驶未来，但对于道路驾驶来说，Autopilot是目前最接近未来的。特斯拉表示，这项技术还不够成熟，驾驶员仍要集中注意力，需要他们把手放在方向盘上。对州监管机构来说，Autopilot只是一个高级驾驶辅助程序，本质上就是一个增强的巡航控制功能。Autopilot还不能解决非高速公路上的交通信号灯和停车标志等问题。但在上线的四年间，Autopilot的功能逐渐丰富起来:平稳并线、避开插队的汽车、驶入另一条高速公路。
“它还不能完全实现自动驾驶，但每隔几周就会有一次更新，而且汽车的驾驶特点更像人。这非常可怕。”卡齐说。几分钟后，一辆银色轿车驶入我们的车道，车子稳稳地刹车，让进汽车。“看到了吗?”他说道。
这并不是说人类司机更优秀。在洛杉矶，卡齐演示特斯拉的那天，一名非法赛车手的马自达撞上了一辆停着的卡车；一名骑摩托车的人撞上一辆抛锚货车而死亡；一名骑自行车的初中生被一辆车拖了四五百米，受了重伤。
事实上，驾驶是大多数成年人做的最危险事情之一。去年全美有4万人死于车祸，全球范围内车祸事故造成140万人死亡。但人们对自己的驾驶技术普遍自满。几年前，交通事故造成的死亡人数开始小幅上升，有专家将其归因于智能手机的干扰。常常有人边开车边发信息。
但不管有什么缺陷，电脑都不会醉酒、疲劳、生气，也不会有开车时刷手机的冲动。自动驾驶技术承诺会消除94%由人为失误造成的车祸。从这个角度来看，自动驾驶汽车可能成为与青霉素和天花疫苗齐名的救命稻草。
卡齐已经计算过了:他说自动驾驶汽车有朝一日将每天拯救3000条生命。按照他的逻辑，任何阻碍这一进程的人手上都沾满了鲜血。他说:“想象一下，有人把软件推迟一天。”“你真的会杀死很多人。”
在班纳发生致命事故后不到两个月，马斯克邀请了大约100名投资者和分析师来到特斯拉在帕洛阿尔托的总部。在2个半小时的演示过程中，马斯克向投资者展示了新的关注点：制造第一辆真正的自动驾驶汽车。他说，今天上路的汽车将能在几个月内就用上Autopilot。到2020年的某个时候，它们将不再需要人工监督，并可以在客户不用的时候变成自动驾驶出租车。
“从财务角度讲，购买特斯拉以外的任何东西都不再靠谱，”马斯克举起双手说。“就像三年内拥有一匹马一样。”
对于任何关注自动驾驶汽车行业的人来说，马斯克的时间表听起来特别激进。包括通用汽车、戴姆勒和Uber在内的大约36家公司正在竞相开发这项技术。许多观察人士认为实力最强的竞争者是Waymo，但它们都没有向公众出售自动驾驶汽车。
马斯克告诉投资者，特斯拉将超越所有企业，这要归功于已经上路的50多万辆汽车都配备了Autopilot。马斯克将Autopilot描述为一种目前尚不完善，但会逐渐变得更加灵活和可靠的自动驾驶工具。
硅谷发布智能手机应用程序和视频游戏的方式就是，先向客户发布尚不完善的软件，并逐步解决问题增加功能。但这些产品并不会致人死亡。Waymo、通用汽车和其他公司也有类似方案，但它们只用在几百辆测试汽车中，部署在全国少数几个精心挑选的社区，而且几乎总是由专业的安全驾驶员监督行驶。目前通用汽车的原型车正以56公里的最高时速在旧金山多山的街道上挪动。
另一方面，马斯克正以最快速度把他的工具送到消费者手中。这使得特斯拉工程师能够从客户那里收集到海量级驾驶数据，并根据真实世界情况完善Autopilot。即使特斯拉汽车没有激活自动驾驶模式，它们也会自动将驾驶员的选择与计算机进行比较。每隔几周特斯拉就会完成Autopilot的更新，这让卡齐和其他车迷们很高兴。
马斯克说:“每个人都在训练这个网络，每时每刻。”他将这种良性循环称为“快速学习”，并将其与谷歌搜索每年处理1.2万亿次查询进行比较。他宣称，未来某一天司机们不再需要方向盘。
当摩根士丹利的一名分析师就Autopilot的安全记录向马斯克施压时，他很快把话题转向人为驾驶的危险性，以及技术修复的潜力。他把汽车比作由人工操作的老式电梯。他说:“他们会周期性地感到疲劳、喝醉或其他什么。”“所以现在没有电梯操作员了。”
考虑到生死攸关的利害关系，马斯克有时会把自动驾驶汽车说成是一场正义斗争也就不足为奇。他曾表示，让Autopilot退出市场“应该受到道德谴责”。第一位死于自动驾驶的美国驾驶员是来自俄亥俄州的约书亚・布朗(Joshua Brown)，他和班纳一样也撞上了拖车。车祸之后他的家人发表了一份声明，基本上支持特斯拉的道德考量。“改变总是伴随着风险，”他们写道。“我们的儿子对未来的高速公路安全产生了如此积极的影响，这让我们感到些许安慰和自豪。”
马斯克表示，目前Autopilot是能力仅低于司机的最佳选择。人类驾驶带来的安全性加上计算机辅助保护。但问题在于当我们把大部分责任交给电脑时，自己就会走神。我们不知道计算机应该做什么。我们的技术也会生疏。就像航空史上充斥着人类对飞机自动驾驶功能的过度依赖所导致的各种错误。
前海军战斗机飞行员、杜克大学普拉特工程学院教授米西・卡明斯(Missy Cummings)表示:“你的注意力会转移，这是人的本性。”卡明斯希望Autopilot退出市场。Waymo曾开发了一种类似系统，但在6年前放弃了。报告说，有太多司机在开车时发短信、化妆、打瞌睡。
与此同时，计算机也会在看似最不可能的地方出问题，因为很多对计算机来说最具挑战性的任务对人类来说是小菜一碟。任何一个正常成年人都能分辨出良性道路特征和危险威胁之间的区别。但对于最复杂的机器视觉软件来说却非常困难的。
特斯拉一直拒绝对Autopilot设限，因为这会让它更安全，但更不方便。该公司允许司机将Autopilot的巡航速度设置在当地限速以上，并允许在汽车能够检测到车道标记的任何地方打开Autopilot，尽管手册上说仅限于在高速公路上使用。
图示：特斯拉汽车行驶里程以及Autopilot行驶里程（英里）数据统计
马斯克也或多或少鼓励人们去测试Autopilot的极限。去年12月当马斯克在电视节目上展示Model 3汽车时，他也打开了Autopilot并松开了方向盘。今年5月份，在一段有关自动驾驶状态下的色情视频走红后，马斯克在Twitter上开玩笑说:“事实证明，使用Autopilot的方式比我们想象的要多。”
鉴于Autopilot现在已经行驶了超过15亿英里，确定其安全记录应该很容易。马斯克曾声称，使用Autopilot驾驶的安全性大约是不使用Autopilot的两倍，但目前为止还没有相关数据公开。特斯拉公布了Autopilot的每季度事故率数据，但安全专家表示，如果没有这些事故发生的具体情况，这些数据毫无用处。一项针对特斯拉事故索赔数据的保险行业研究也没有定论。
在2016年的布朗撞车事故后，美国国家公路交通安全管理局(NHTSA)对Autopilot进行了调查，发现没有理由召回。该机构发现安装Autopilot的特斯拉汽车事故率比没有安装Autopilot的特斯拉汽车低40%，但相关计算仍然存疑。尽管特斯拉提交了4.4万辆汽车的行驶和碰撞数据，但除了5700辆以外，其他所有车辆的关键数据都有缺失或相互矛盾。在5700辆汽车的数据中，使用Autopilot的事故率实际上更高。马里兰州独立统计顾问兰迪・惠特菲尔德(Randy Whitfield)今年指出了这些缺陷，但NHTSA坚持其结论。
评估Autopilot或完全自动驾驶技术的部分问题在于，不清楚社会将容忍何种程度的安全。机器应该是完美无瑕，还是说比一般人类司机更好即可？丰田自动驾驶研发负责人吉尔?普拉特(Gill Pratt)曾表示:“人类对机器缺陷造成的伤害或死亡零容忍。”“要达到所需的完美水平，需要多年的机器学习以及多得多的行驶里程。”
图示：特斯拉铁杆粉丝卡齐
但如此高的标准反而可能导致更多的死亡。在兰德公司2017年的一项研究中，研究人员发现，与接受只比人类安全好一点的汽车相比，等待近乎完美自动驾驶汽车的成本是用数万条人命来衡量的。机器人专家卡拉就自动驾驶汽车政策在国会作证时表示:“等待这一完美技术的人应该意识到，这并非没有成本。”
其论点的关键是如何理解机器学习。特斯拉和其他自动驾驶汽车开发商的产品要识别一辆自行车，然后预测它会朝哪个方向走，这太复杂了，不能简单归结为一系列的指令。相反，程序员使用机器学习来训练软件。他们可能会给机器展示数千张不同自行车的照片，可能还会给机器看一些摩托车或单轮脚踏车，这样机器就会知道其中的区别。随着时间推移，这台机器会生成自己的规则。
得到的信息越多，这些机器就越聪明。卡拉认为，问题关键在于自动驾驶汽车在实验室里变得完美并不现实。她说，如果我们真的想最大限度地挽救生命，我们甚至可以在自动驾驶汽车比人类更危险的时候让它们上路，以加速训练。
即使造出了一辆完美的自动驾驶汽车，唯一能确定的方法就是把它放在路上。从统计学角度讲，致命车祸也是罕见的。在兰德公司的另一篇论文中，卡拉估计一辆自动驾驶汽车要无故障行驶2.75亿英里才能证明更安全，而这一里程需要100辆测试车连续行驶12年以上才能完成。
图示：社交媒体上的视频和照片显示很多司机在启用Autopilot时打瞌睡。
考虑到这一切，马斯克计划利用真实道路上的司机作为志愿者完善和测试他的产品，听起来并不那么疯狂。事实上，如果不让大量司机面临被机器杀死的风险，就不可能实现自动驾驶的安全。而允许自Autopilot加速并在普通道路上行驶也有一定的逻辑。每当驾驶员为了避免事故而接管汽车时，这都是一个潜在的训练机会，能够让软件学习什么不该做。
美国已经有了一个对可能拯救生命但也可能有致命副作用产品进行测试的型：分阶段临床药物试验。卡内基梅隆大学哲学教授亚历克斯・伦敦(Alex London)等人呼吁汽车监管机构采取类似措施，允许新技术分阶段上路，同时密切监控其安全记录。
卡齐驱车前往帕洛斯维德斯牧场，一路蜿蜒穿过起伏的棕色山丘和悬崖，俯瞰着太平洋。沿途并不是高速公路，但卡齐再次启动了Autopilot。总的来说，汽车表现得很好。
当路绕过陡峭悬崖时，我们碰到一个同向而行的骑行者。特斯拉正确识别并超越了他。就在要超车的时候，卡齐踩了刹车，让那人在超车之前骑到更宽的路上。他说自己希望机器也能做同样的事情。
但卡齐似乎已经接受了这样一个事实：随着特斯拉的普及，Autopilot造成的死亡人数将会增加。“最大的公关噩梦就在前方，”他如是指出，“通往目标的路只有一条。穿过雷区。”（辰辰）
p 本文来源：网易科技报道
责任编辑：王凤枝_NT2541
