人工智能伦理问题初探

1、    人工智能伦理问题初探    刘月【摘 要】 人工智能是當下人们热切讨论的话题之一。人工智能的出现极大地方便了人们的生活，但近年来，随着tesla、uber等公司自动驾驶汽车事故的出现，其背后所反映的人工智能伦理问题也逐渐跃入大众视线中。对人工智能伦理问题进行探讨，有利于人们更加深入了解人工智能所能带来的伦理问题，也可以为如何规避人工智能伦理问题提供参考和方向。【关键词】 人工智能 伦理 规避一、人工智能发展概述人工智能（artificial intelligence，ai）起源于1956年的达特茅斯会议。ai一词一经提出，就引起了众多学者的关注与

2、研究，人们致力于让机器像人一样具有智能，能够与人进行自然的人机交互1。人工智能的发展经历了三次跨越式发展阶段：第一次发展是使智能系统基本实现了问题求解，实现了人工智能简单的逻辑推理功能;第二次发展是实现了智能系统与机器及外部环境进行自动交互的功能，可以实现从陌生的环境中获取有用信息完成设定的推理工作;第三次发展是追求类人的思维和认知能力，使得智能系统与机器能够发现、创造和运用新知识，能够对数据进行分析和挖掘等功能2。人工智能变得越来越强大，越来越深入到重要的社会系统中，为它们编写一个内置伦理框架的程序就变得越来越重要。用picard（1997：134）的话来说，“机器越自由，就越需要道德标准”

3、3。举一个例子，自动驾驶汽车的发展将人工智能置于生死攸关的境地，包括伦理困境，比如当碰撞不可避免时，人工智能司机必须决定发生哪种危险碰撞（lin 2016）4。这种情况的结果可能取决于ai设计决策，这使得ai开发人员有责任仔细选择内置的道德规范。随着人工智能系统（如机器人、聊天机器人等）从被视为一种工具转变为被视为自主代理和队友，研究和开发的一个重点是了解这些系统的伦理影响。人工智能系统做决定意味着什么？他们的行为和决定所带来的道德、社会和法律后果是什么？人工智能系统能对其行为负责吗？这种商业系统的自主创新应该被允许吗？应该如何规范使用和开发？这些和许多其他与人工智能有关的问题是目前备受关注的

4、焦点。社会和相关产品系统处理这些问题的方式将在很大程度上决定我们的信任水平，并最终决定人工智能对社会的影响，以及人工智能的存在。二、人工智能发展过程中的伦理挑战（一）人工智能会带来道德决策风险。随着人工智能技术的发展，人工智能系统被赋予越来越多的自主决策权，导致人工智能会引发道德决策风险。例如在自动驾驶汽车上可以很好地体现这一伦理问题。2016年5月，一辆特斯拉电动车在美国佛罗里达州以自动驾驶模式行驶时与一辆横穿公路的货车相撞，导致电动车车主丧生。而自动驾驶汽车在这场事故中是否能够规避这起事故？是否有更好的决策可以不用付出生命？对于自动驾驶系统所做出决策伴随的风险应该由谁承担？如何确定自动驾驶

5、系统所做出的决策是最佳的？是否存在最佳决策，其判断依据是什么？这些问题我们尚不可知。（二）人工智能会引发责任归属的伦理问题。伴随着人工智能系统被赋予越来越多的自主决策权，人工智能在触发道德决策风险时，其应该承担什么样的责任应该是我们需要讨论的问题。例如特斯拉自动驾驶汽车导致电动车车主丧生的事故在经过长时间的调查后，2017年1月，美国公路交通安全管理局（nhtsa）公布了调查报告，结果显示，事故原因与特斯拉的自动驾驶系统无关，这也意味着特斯拉公司无需承担相应法律责任。但这一结果引发了大众的激烈讨论，自动驾驶汽车不需承担责任的判断依据，以及在这场事故中自动驾驶系统的不同决策所要承担的责任是否相同

6、，都值得我们深思。（三）人工智能会引发社会伦理问题。在生态方面，开发人工智能所产生的废料对环境会产生污染;在医疗方面，人工智能如医疗机器人会在一定程度上缓解医院的压力，但其昂贵的价格并不是所有人都能接受的，且患者的信息也存在被泄露的风险;此外人工智能的出现为人们的生活学习都提供了更多的便利，但同时，人工智能技术的出现也取代了某些岗位员工的工作，使得人们面临下岗、就业难的困境。三、结语人工智能近年来取得了高速发展，大众对人工智能也是高度关注，而伴随人工智能所产生的伦理问题也迎来了业内的激烈讨论。人工智能的初衷是为了更好地服务人类，便捷人们的生活工作，因此其所能产生的伦理问题需要我们合理地解决才能

7、更贴近其初衷。不论是从法律层面、技术层面或是其他层面去制定相关政策，都要先明确人工智能可能带来的伦理问题有哪些，才能够“对症下药”，规避这些问题。【参考文献】1 刘伟，赵路.对人工智能若干伦理问题的思考j.科学与社会，2018，8（01）：40-48.2 闫坤如，马少卿.人工智能伦理问题及其规约之径j.东北大学学报（社会科学版），2018，20（04）：331-336.3 picard r （1997） affective computing. mit press， cambridge， ma.4 lin p（2016）why ethics matters for autonomous cars.in maurer m，gerdes jc，l