第3节 伦理抉择：自动驾驶的“道德算法”

关于自动驾驶，有一个真实的笑话：美国一辆处于自动驾驶状态的特斯拉被交警拦停，驾驶员在车里竟然醉酒睡着了。交警正要实施处罚，但驾驶员狡辩自己没有驾车，因此不涉嫌酒驾。

自动驾驶的本质是人工智能代替人。日趋成熟的技术使自动驾驶逐步成为现实。但反过来看，自动驾驶必须面对的现实，不仅仅是技术，更有人类社会的伦理道德。

将生命交给算法

未来，当一辆自动驾驶汽车发生事故，法律法规责任判定过程的关键点，将是驾驶主体——究竟是人，还是自动驾驶系统？

在自动驾驶的5个级别中，L1和L2要求驾驶员全程主导驾驶。毫无疑问，如果此时发生事故，驾驶员必须承担责任。

在日本，一辆特斯拉Model X驾驶员在开启L2级别的辅助驾驶模式后发生车祸，导致一人死亡，驾驶员被判处3年有期徒刑和5年缓刑。

比L1和L2更进一步的L3，成了一个微妙的临界点。在L3级别的自动驾驶中，人类不需要进行操控，但需要起到监督作用。事故往往在几秒内发生，在这种情况下，当自动驾驶将控制权交还时，驾驶员很难保证100%地做出及时且正确的反应。这就导致责任界定的模糊。

正是这种人与自动驾驶的“罗生门”，让Waymo、福特和丰田等公司直接跳过了L3级别的研发。

在L4和L5级别的自动驾驶中，驾驶员无须保持注意力，也不需要对汽车进行操控。因此，法律界通常认为，厂商应该在L4和L5级别的交通事故中承担主要责任。

事实上这不仅仅是法律法规责任判定的问题。L4和L5级别的自动驾驶是人类将抉择生死的权利完全交给了一台机器。

一个经典的哲学问题：当一辆电车失控，一条轨道上有五个人，另一条轨道上有一个人。如果你有机会改变电车的轨道，撞向那一个人，从而拯救另外五个人，你会这样做吗？

当自动驾驶面临类似两难选择的时候，人工智能会做出怎样的判断呢？

麻省理工学院的研究团队设计了一个名为“道德机器”的自动驾驶游戏平台。任何人都可以在这个平台上模拟自动驾驶情况下13种不同的道德选择，比如该优先保护老人还是儿童？该优先保护富人还是穷人？研究团队希望以此收集人类对未来人工智能道德选择的不同意见。

这个平台收集到了近4亿份数据，数据来源覆盖了10种语言，233个国家和地区，囊括了多种文化对该道德困境的不同态度。

从整体上看，人们普遍倾向于保护人类而非动物，愿意牺牲少数保护多数，同时更倾向于保护年轻人。但是，各个地区的人都有着不尽相同的倾向。比如巴西人更倾向于保护乘客；伊朗人更倾向于保护行人；澳大利亚人更倾向于保护身体健康的人；经济不平等程度越高的地区，越倾向于保护富人。

电车难题的进一步演化是，当汽车出现极端情况，人工智能必须在司机和行人之间二选一，它应该做出怎样的决定？即使是汽车行业内部，对这个问题也存在巨大分歧。

大陆集团前任CEO德根哈特认为，保护行人的优先级必须高于车内乘客。毕竟，司机和乘客在车内可以得到相对较好的保护。奔驰汽车的高管克里斯托弗·雨果则有截然相反的观点，他在一次采访中透露，奔驰的自动驾驶汽车始终会将驾驶者放在首位，“如果可以百分之百地救下车上的人，那就先把这件事做好”。的确，谁又会为一辆在危险时刻不会优先保护自己的汽车买单呢？

可以预见，在未来的自动驾驶汽车上，每一种算法都会包含一部分“道德算法”。这些“道德算法”很难统一标准，它将是自动驾驶在技术层面之外的最大挑战。

为了尝试解决这样的问题，2018年德国政府颁布了全世界首个自动驾驶伦理道德标准，其中就有如下准则：人类的安全必须始终优先于动物或其他财产；当自动驾驶车辆对事故无可避免时，不得存在任何基于年龄、性别、种族、身体属性或任何其他区别因素的歧视判断。

给汽车数据系上安全带

在德国政府颁布的标准中，有一条格外引人注目：自动驾驶车辆必须配置永续记录和存储行车数据的黑匣子，且黑匣子数据的唯一所有权属于自动驾驶汽车。

毫不夸张地说，我们已经到了必须给智能汽车系上“信息安全带”的关键时刻。汽车信息安全公司Upstream Security的报告显示，从2016年到2020年，汽车信息安全事件的数量增长了605%，其中仅2019年针对智能网联汽车的信息安全攻击就达到155起。

360集团董事长周鸿祎直言：智能汽车就像是一部四个轮子上的“大手机”，集成了大量的摄像头、雷达、测速仪和导航仪等各类传感器，远程控制、数据窃取、信息欺骗等安全问题已经陆续出现在智能汽车上，这些问题可能危及人身安全和公共安全。

智能汽车的信息安全问题，可以分为两个方面：一是针对车辆信息系统进行黑客攻击；二是针对车辆内部数据进行窃取。

正如我们不可能让计算机和手机不安装任何杀毒软件和防火墙，就在互联网上“裸奔”；我们同样也更不可能让智能汽车在没有任何安全保护的情况下连接网络。因为计算机和手机是被动器件，黑客攻击最多是虚拟世界的损失；而汽车是主动器件，黑客攻击将导致不可逆的现实物理伤害，比如大规模的交通事故。

要知道，在智能汽车时代，黑客远程控制汽车，实施转向控制、关闭引擎和突然制动等操控，甚至下达自杀式命令，将不再只是科幻电影的刺激场面。2019年，360 SKY-GO安全研究团队和奔驰共同发现并修复了19个安全漏洞。通过这些漏洞，黑客能实现批量远程开启车门和启动引擎等操控动作，涉及已经售出的200多万辆奔驰汽车。

黑客攻击还仅是单纯的网络攻防问题，而数据隐私问题就没那么简单了。一方面数据是智能汽车厂商提升算法与用户体验的核心竞争力，另一方面它又涉及用户隐私甚至国家安全。

一辆智能汽车涉及的数据分为三类：外部环境感知数据、人车交互系统数据以及车辆工况运行数据。首先是外部环境感知数据，智能汽车所到之处，该地区的街道路况、导航距离与环境建筑等信息都将被细致入微地动态采集，这就涉及该地区的国土安全问题；其次是人车交互数据，车主身份、行动轨迹、语音指令、车内交谈甚至手机连上蓝牙后的通讯录都可以被获取；最后是车辆工况运行数据，这也涉及汽车厂商的知识产权。

智能汽车浑身是数据，也是秘密。特斯拉CEO马斯克曾在社交媒体上与网友探讨时，承认特斯拉在自动驾驶测试中，用车内后视镜上方的摄像头监测用户是否长时间低头看手机。

原本是技术探讨，没想到引起轩然大波。很多人担心，这枚摄像头能拍摄到车内人员的一举一动，可能侵犯驾乘者隐私。特斯拉官方连忙回应：车辆绝不会采集隐私数据，更不会将中国车主的数据传到国外。

有没有办法解决数据使用与隐私保护的两难问题呢？上汽集团董事长陈虹给出的解决方案：车企对用户可能存在的隐私风险具有告知义务，且在收集、使用、转移、删除数据时应给予用户自由选择权。而在分析处理数据时，要进行数据和个人身份的分离，并将数据匿名化。

诚然，要彻底解决智能汽车的数据安全问题，需要政府、车企和消费者形成合力。政府应该对车企的数据收集行为进行备案管理，约束数据收集的维度；车企需要强化汽车的网络安全，保证汽车在遭受网络攻击等极端情况下不会脱离控制，同时保证收集到的数据完全匿名化，并且加强服务器的安全防护；消费者则应该注意鉴别汽车和车载软件中的各类隐私条款，避免涉及个人隐私的数据被收集和上传。只有这样，我们才不至于在信息安全危机四伏的智能汽车时代“裸奔”。