自动驾驶(自动驾驶技术5-伦理道德（上）)

一、伦理问题的引出

自动驾驶汽车可以显著提高驾驶安全性和运输效率，有望将人为错误（如酒精、毒品、分心和超速）造成的交通事故减少 90%。此外，由于减少了驾驶时间，自动驾驶汽车可以提高社交和工作效率。由于这些优点，自动驾驶汽车关键技术的发展从学术界到汽车制造商迅速加速。

然而，自动驾驶汽车也存在安全隐患。其中，设计自动驾驶汽车的控制算法给工程师带来了新的挑战。传统上，控制系统具有程序员设计控制算法所需的规格和性能度量。对于全自动驾驶汽车，最终期望的性能结果是能够安全平稳地通过交通。为实现这一预期结果制定规范具有挑战性，因为涉及人类的交通状况不容易量化。在交通中行驶要求车辆符合社会对道路行为的期望。诸如避免碰撞和遵守交通法规之类的期望超越了单纯的技术规范，触及了哲学中长期建立和正式表征的道德问题。

仅在 2018 年，包括特斯拉和优步在内的2级自动驾驶汽车就发生了三起致命事故。即使是全自动车辆也无法保证完全无碰撞的环境，因为存在不可预测的障碍物，例如行人，人类驾驶的车辆，骑自行车的人和野生动物等。很明显，自动驾驶汽车的乌托邦设想与现实相去甚远。由于无法完全避免碰撞，因此计算机应配备决策系统，以根据情况中存在的各种结果和安全因素的可能性快速计算出事故的最低损失。这种类型的决策快速转变为道德困境，尤其是当人类参与其中时。例如，自动驾驶汽车可能会面临牺牲自己以拯救更多行人的选择，或者自动驾驶汽车可能会通过转向并避免路过来避免与几个人相撞。一旦撞车不可避免，自动驾驶汽车将需要在两种结果之间做出选择，是牺牲自己和乘客来拯救行人的生命，反之亦然。这是一个不容易解决的困境，因此表明在开发自动驾驶汽车来处理这种假设情况时需要道德规则。

一些研究人员呼吁将道德规则编程在自动驾驶汽车中，以便就如何道德崩溃做出决策。然而，很少有人研究道德范式在做出崩溃决定时如何影响自动驾驶汽车s算法。在亚利桑那州坦佩市一名妇女过马路后，一辆由自主算法控制的运动型多功能车杀死，在美国进行的一项调查表明，公众对自动驾驶汽车的信任立即下降。一些研究人员呼吁人们必须保留对自动驾驶汽车的控制权，并警告说，关于自动驾驶汽车测试的立法需要解决责任和安全问题。目前，没有解决道德困境的通用解决方案。如果这个道德问题不能得到妥善解决，人们就不会信任或接受在路上行驶的自动驾驶汽车。78%的美国人表示害怕驾驶自动驾驶汽车，只有19%的人表示信任自动驾驶汽车。消费者的信任决定了自动驾驶汽车被客户采用的程度，以及其他人对自动驾驶汽车的容忍程度。

大规模采用的最大障碍可能不是技术进步，而是道德考虑。道德设置/决策需要在自动驾驶汽车赢得客户信任之前达成共识。

二、自动驾驶汽车的伦理挑战

实际上，有许多假设和实际的交通场景对驾驶道德提出挑战。例如，图 1 中描述了一个选择窘境。黑色轿车在道路右侧行驶，这时四名行人突然进入黑色轿车前方的道路，但它行驶得太快而无法停下来。一辆大卡车在黑车的左侧，不幸的是，有一个骑自行车的人在右侧。这时黑色轿车有三种选择：（A）撞向四名行人，可能导致四人死亡；（二）撞上骑车人，可能造成一人死亡；（三）撞向左侧货车自暴自弃。

所有选择似乎都是合理和站得住脚的——然而，正确的决定是一场哲学辩论。这种苛刻的决定可能会在现实世界中面临我们未来的自动驾驶汽车，必须妥善解决。

（A）与四个行人碰撞 （B）与右侧骑自行车的人碰撞（C）自我牺牲与左侧卡车碰撞

以上描述了自动驾驶汽车可能面临的社会和道德挑战，这说明了如何应对道德中的普通假设，然后是公众对自动驾驶汽车道德挑战的反应。

A. 电车问题

电车问题是最具代表性的伦理实验之一。电车问题的典型困境场景是：一辆失控的电车即将辗过无意中站在轨道上的四个人。这辆电车有两种选择：(A)保持直线行驶，撞到四个人；(B)向右转弯救下铁轨上的四个不知情的人，不幸撞到站在铁轨右侧的人。类似地，电车问题也可能发生在自动驾驶汽车身上。其中一个典型的场景是：四个人突然挡住了一辆高速行驶的自动驾驶汽车。在到达四个人之前，我们没有足够的时间停下来。车辆可以通过右转进入人行道来躲避他们，从而杀死一个行人，或者直走，可能会杀死所有五个人。

那么，正确的决定是什么？将结果视为成本函数的结果主义者可能会声称切换方向盘以杀死一个行人而不是四个人，因为成本函数计算出四个人死亡的结果比只有一个人更糟糕。然而，杀人和让人死之间的道德区别引发不同的后果：右转意味着采取行动杀死一个行人，而什么都不做意味着导致五个人死亡。非后果主义者可能会坚持认为，让某人死去在道德上更糟糕。

这一决定对原始设备制造商（OEM）产生了重大影响，因为他们将对自动驾驶汽车导向的碰撞结果负责。如果车辆从人类驾驶员手中夺取控制权并决定右转以杀死行人，那么 OEM 将因该行人的死亡而被审判。但是，如果车辆不接管，OEM可能不负责杀死这四个人。

自动驾驶汽车中编程的道德决策方法的比较

B. 自我牺牲

另一个困境，称为自我牺牲，可能会面临自动驾驶汽车。这里演示了两个具有代表性的例子。

第一个困境情况：你的自动驾驶汽车带你走在山区狭窄的“S”形道路上，旁边是悬崖。突然，一辆载有30人的旅游巴士将出现在相反方向的拐角处，部分车身出现在您的车道上。基于给定的距离和速度，没有办法避免即将发生的碰撞。自动驾驶汽车面临两种选择：（1），自我牺牲，开车下悬崖，在旅游巴士上挽救30条生命；（2）紧急刹车撞公交车，冒着30人失去生命的危险。正确的决定是什么？公众可能会支持通过牺牲司机来拯救更多人的结果主义决定。他们认为更糟糕的是多人死亡，而不是一个人死了。然而，自动驾驶汽车的驾驶员会高尚到愿意牺牲自己来拯救其他生命吗？即使你同意开车跳下悬崖是最道德的选择，让机器在你没有事先意识到它会导致你自我牺牲的情况下做出决定是另一回事。

目前，在自动驾驶汽车中对这些决策进行编程缺乏透明度。虽然自愿的自我牺牲可能被认为是高尚的，但非自愿的自我牺牲可能被称为犯罪。

C. 意想不到的动物

在美国，每年有超过一百万起交通事故是由道路上的意外动物引起的，尤其是鹿。涉及意外动物的典型事故表明自动驾驶汽车面临的决策的复杂性。自动驾驶汽车应该能够在几分之一秒内在这些复杂情况下做出最佳决策。由意外动物引起的自动驾驶汽车的决策主要面临三个挑战。

首先，当自动驾驶汽车前方的道路上突然出现意想不到的动物时，自动驾驶汽车是否需要适度或用力制动？制动力决定取决于路况并可能导致追尾。

第二，允许碾压哪些类型的动物？较小的动物，如浣熊或松鼠，可能更具有倾向性，而较大的动物，如鹿或牛，则更有可能严重损坏自动驾驶汽车车辆及其乘客。其他动物，如心爱的宠物猫或狗，如果这种状况不产生任何其他代价，则应避免。

第三，如果自动驾驶汽车决定避开鹿等意想不到的动物，那么它是否应该在向左或向右转弯时违反交通法规？当它向右转弯时，也可能与交通法规相冲突。在美国和其他国家，司机必须留在道路的右侧。因此，右转可能意味着撞到树或路肩，可能会伤害车辆及其乘员。相反，当它向左转弯时，它可能会驶入相反的车道，可能会与来袭车辆正面碰撞。即使对面道路上没有车辆，越过单黄线或双黄线也与交通法规相冲突。在这种情况下，在计算决策时，是否应该将违反交通法规定义为约束或成本？

D. 其他因素

在决策计划中应考虑其他因素：路肩的类型（无路肩、砾石路肩或铺砌路肩）；乘客人数及是否系安全带；汽车制动器和轮胎的状况，车辆是否正在运输可能爆炸或溢出的危险货物，对财产的损害等。当各种因素和目标被编程为决策的道德规则时，应根据其自身的重要性为它们分配不同的权重。

三、自动驾驶汽车伦理问题在线调查进展

麻省理工学院是自动驾驶汽车伦理挑战公共调查领域的先驱。麻省理工学院通过2015年6月至11月进行的六项在线调查分析了公众对道德挑战的反应，包括1928名参与者。这项调查的结果揭示了这不仅是一个道德困境，也是一个社会困境：公众无法达成统一的共识来决定公众希望自动驾驶汽车遵循哪些道德规则。当面对自我牺牲的困境时，76%的人承认，牺牲自己的居住者来拯救更多的行人以获得整体更大的利益的功利主义方法似乎更合乎道德。但作为消费者，他们自己更喜欢“优先”的自我保护自动驾驶汽车，不惜一切代价保护他们的驾驶者。

该调查还探讨了当家庭成员在船上或需要挽救的生命数量增加时，公众的反应如何变化。结果显示，当家庭成员在船上时，人们对功利主义的牺牲不太舒服，而在拯救更多生命时稍微舒服一些。然而，社会困境依然严峻。尽管如此，大多数人对功利主义自动驾驶汽车的态度是，问题是一般问题还是自己骑车。这给汽车制造商带来了一个两难境地——如果自动驾驶汽车是用自我保护计划制造的，那么自动驾驶汽车将失去公众的信任，尤其是行人、骑自行车的人或残疾人。然而，如果自动驾驶汽车是功利主义的，那么它们会阻止信任汽车的消费者，即他们自己的安全应该放在首位。

麻省理工学院的调查结果显示，如果功利主义和“优先主义”自动驾驶汽车都在市场上出售，大多数人更愿意购买优先主义的自动驾驶汽车，即使他们更喜欢其他人乘坐功利主义的自动驾驶汽车。预计政策制定者的法规将为这一困境提供解决方案。然而，政策制定者也面临两难境地：似乎很少有人赞成执行功利主义自动驾驶汽车的立法；反过来，这可能会延迟自动驾驶汽车的采用，从而减少自动驾驶汽车可能挽救生命的机会数量。作者还提出了几个需要进一步解决的伦理问题：

1）是否应该考虑乘客和行人的年龄？

2） 行人或摩托车手等脆弱的人是否优先于自动驾驶汽车的乘客？

3）假设制造商提供不同版本的道德算法，如果驾驶员故意选择其中一种道德算法，是否应该为有害后果负责？

迄今为止，没有简单的方法来制定能够调和个人自身利益和道德价值观的规则。然而，随着这一对话发展到学术界、政策制定者和汽车制造商等各个相关领域，这种情况很可能会发生变化。