自动驾驶工程伦理案例分析

自动驾驶工程伦理案例分析一、 引言2016年1月20日，京港澳高速河北邯郸段发生一起追尾事故，一辆特斯拉轿车撞上了前方的道路清扫车，特斯拉轿车当场损坏，轿车上23岁的男性驾驶员高雅宁不幸身亡。现场交警的调查也显示，事故发生时涉事特斯拉没有刹车和减速的迹象，也没有采取任何躲避措施。事故发生后，特斯拉在声明中称，多次与高家沟通无果。二、 相关背景介绍百度无人驾驶汽车(baidunomancar)是指百度打算与第三方汽车厂商合作制造的无人驾驶汽车。百度在2015年下半年推出无人驾驶汽车。百度无人驾驶车项目于2013年起步，由百度研究院主导研发，其技术核心是“百度汽车大脑”，包括高精度地图、定位、感知、智能决策与控制四大模块。其中，百度自主采集和制作的高精度地图记录完整的三维道路信息，能在厘米级精度实现车辆定位。同时，百度无人驾驶车依托国际领先的交通场景物体识别技术和环境感知技术，实现高精度车辆探测识别、跟踪、距离和速度估计、路面分割、车道线检测，为自动驾驶的智能决策提供依据。三、 故事情节描述2016年1月20日，京港澳高速河北邯郸段发生一起追尾事故，一辆特斯拉轿车撞上了前方的道路清扫车，特斯拉轿车当场损坏，轿车上23岁的男性驾驶员高雅宁不幸身亡。现场交警的调查也显示，事故发生时涉事特斯拉没有刹车和减速的迹象，也没有采取任何躲避措施。事故发生后，特斯拉在声明中称，多次与高家沟通无果。随后遇难者家属高巨斌将特斯拉在中国的销售公司起诉至北京市朝阳区人民法院，要求赔偿损失一万元。其真实目的不在于特斯拉能够赔偿多少，而是希望通过该案能够让公众知道这种“自动驾驶”技术有缺陷，希望特斯拉在产品营销过程中不要把“自动驾驶”作为吸引年轻人的卖点。2016年9月案件开审。特斯拉在庭审后曾发表声明称，“没有证据表明Autopilot在事故发生时处于运行状态，Autopilot不是这一事故的原因，因为该技术只是一种驾驶辅助系统，协助一名注意力集中的驾车者。”经过一年多的审判，特斯拉公司在大量的证据面前，终于承认车辆在案发时处于自动驾驶状态。由此看来，在自动驾驶汽车真正到来之前，还有很多影响是我们无法预估的，就算自动驾驶汽车将事故概率降至趋近于0，也无法做到100%避免，那么如果发生碰撞是谁的过错？汽车制造商还是车上人员？自动驾驶汽车的保险又该如何确定？等等，此外，随着我们迈向更加自动化的未来，自动驾驶也将对道路质量、地图精度、网络环境等有着更高的要求，任何一环出现问题，都有可能导致不可预估的风险。因此，人工智能下的汽车自动驾驶技术在面对安全问题仍然是一个重大考验。四、案例分析(1)案例分析无人驾驶最为人称道的优势之一，就是将极大地降低甚至消除交通事故率。人工智能完美处理运作，自动驾驶被认为将比人类驾驶员更靠谱。在美国佛罗里达州的高速公路上，一辆特斯拉ModelS在自动驾驶模式下，直接从侧面穿进大卡车的底部，挡风玻璃全部破碎，40岁驾驶员当场死亡。驾驶员们因为厂商宣传的各种安全性能提升，他们的警惕性下降，对于驾驶变得松懈。甚至操作更加大胆，因为知道有更多安全保障而不断提升车速，反而将增加事故率。如何在无人驾驶模式下保证驾驶员的操作规范，在人为和智能双结合驾驶模式下，如何帮助无人车拒绝来自主人的不安全指令，或何时拒绝不合时宜的高速模式，当实时数据与驾驶员指令存在矛盾时，计算机又该如何处理。企业把公司利益作为目标，忽视法律和道德。特斯拉公司想要做大做强，应该以创新进取为目标。自动驾驶技术作为未来汽车行业发展方向，特斯拉没有理由放弃该技术的研发。但是企业不应该把公司利益作为唯一目标，更不应该忽视法律和道德。针对该致死事件特斯拉回应：“自动驾驶是一项辅助功能，要求驾驶员双手始终握住方向盘。”由此可见自动驾驶技术尚不成熟，无人驾驶更无从谈起。既然自动驾驶汽车技术大部分尚处于实验阶段，尚未完全成熟，因此特斯拉更应该谨慎商业化应用。经过一年多的审判，特斯拉公司在大量的证据面前，终于承认车辆在案发时处于自动驾驶状态。企业的社会责任要求企业必须超越把利润作为唯一目标的传统理念，强调要在生产过程中对人的价值的关注，强调对环境、消费者、对社会的贡献。在此次案例中，特斯拉在事故发生后的责任追偿中，没有勇于承担责任和义务，对发生事故的家庭造成二次伤害。2017年5月，德国修订了《道路交通法》，2018年7月，英国通过了《自动和电动汽车法案》，我国目前立法并没有规定自动驾驶汽车致人损害的问题。在此次案列中，存在监管制度漏洞、技术法规和标准不完善等问题。国家要为各地方政府的监管确定底线与准绳，并尽快开展事故后保险理赔与责任追偿。⑵伦理困境汽车生产商的伦理困境：出现“电车难题”时，无人驾驶汽车的首要任务是为了保护车主的安全，还是为了保护车外人的安全？举一个例子，你乘坐无人驾驶汽车行驶在山路上，发现面前有几个小孩堵在路中间，向左拐弯的话，你会有冲下悬崖的可能性，向右拐弯则是逆行道，违反了交通规则，有可能与前方驶来的汽车迎头相撞。这时，如果无人驾驶汽车的设计理念是优先保证车内人的安全，那么汽车完全不会做任何操作，径直车L过去就行了，但后果会造成这几个小孩的身亡。另一方面，如果无人驾驶汽车的设计理念是保护车夕卜人的安全，那么很明显，这样的车卖不出去——无论车主还是汽车生产商，都不希望自己成为车祸的受害者。法律制定者的伦理困境：如果无人驾驶汽车遵守规则就必须造成伤害，是否应该允许无人驾驶汽车破坏交通规则呢（比如转入逆行道）？如果可以的话，这是与“遵守交通规则，降低事故风险”的常识相矛盾的。当然，也有人指出，也许可以在设计无人驾驶汽车软件的时候不设定什么“指导原则”，就让汽车模拟人类司机的下意识操作，让它在随机状态下运行。但这种“碰运气”的做法同样不符合人类发明无人驾驶汽车的初衷。普通大众的伦理困境:如果程序设计倾向于普通路人的话，如何保证司机不会自己修改程序，以确保自己永远不会被车主蓄意谋杀？毕竟计算机软件总有漏洞，总会有人能破解这些软件。车主的伦理困境：在面对碰瓷、中国式过马路、偷井盖、公路塌陷等等问题上出现事故的话，谁应该为此事负责。五、结论和启示目前来看，无人驾驶是历史发展的必然趋势。科技是第一生产力，无人驾驶技术极大是升了运输生产力。无人物流可成倍提高运输效率，且有效降低燃油成本。最重要的是，驾驶员被彻底解放了出来，这类似于工业革命,大量的重复性劳动被机器承担。首先是技术层面。针对致死事件特斯拉回应：“自动驾驶是一项辅助功能，要求驾驶员双手始终握住方向盘。”由此可见自动驾驶技术尚不成熟，无人驾驶更无从谈起。控制汽车行为的相关智能程序还需积累更多的行驶经验，不断完善其〃数据库”。更重要的是，一旦遇到〃数据库”之外的突发情况，应及时启动紧急“保护模式”，这是最起码的安全保障。否则，面对难以判断的复杂路况，无人驾驶恐怕将成〃无人生还”。其次是法律层面。中国政法大学传播法研究中心副主任朱巍指出，国家要为各地方政府的监管确定底线与准绳，并尽快开展事故后保险理赔与责任追偿。在无人驾驶卡车立法的〃瞻前”与〃顾后”中，不得不考虑到卡车车大、车重，车祸对第三方的伤害程度也更大，因此在法律层面“底线”与“准绳”应有更严苛的标准，理赔与追偿也应有更大力度。最后是推行思路。在互联网+的大背景下，无人驾驶将创造大量市场机遇。Uber创始人卡兰尼克说，他更希望Uber的司机大军换成无人驾驶的车队，这样成本会比买车还要低。京东CEO刘强东表示，两年之内将在北京建立全球第一个上线运营的无人物流中心。显而易见，刘强东的愿景离我们更近一些。相比更复