《人工智能伦理导论》课件第4章机器伦理

人工智能伦理导论莫宏伟教授手机+微信/p>

版权所有，禁止与一切教学无关用途。

黑龙江省多学科协同认知人工智能技术与应用重点实验室

主任哈尔滨工程大学智能科学与工程学院第四章机器伦理学习和理解机器伦理概念。学习和理解机器伦理对人机关系的影响。了解机器伦理学概念和含义。本章学习要点机器伦理是近十年诞生的一个伦理学新领域。由于机器的技术属性，本质上属于技术伦理的范畴。机器伦理中的“机器”已经与传统意义上的机器概念有了一定差别。主要取决于两方面：一方面，机器的自动化、智能化水平越来越高，超越了传统意义的、以机械运动为主的机器；另一方面，随着机器人等特殊类型的智能机器的发展，使得人们将机器看做与动物类似的对象，给予人文关怀。学习导言4.1对于“机器”的理解

蒸汽机4.1.1机械类机器4.1对于“机器”的理解

特西比乌斯改造的机械水钟4.1.2计算类机器4.1对于“机器”的理解巴贝奇发明的差分机4.1.2计算类机器从机械论科学到“人是机器”、“宇宙是机器”，一方面是对长期统治人类思想的宗教神学的反抗，宣告人类理性独立，另一方面，反映人类对客观世界的一种哲学认识。1950年，图灵提出的“机器是否能够思考”问题，突破了十八世纪以来诸如“人是机器”等机械论观点，促使人类开始站在机器的角度来思考智能、思维等问题，人类对机器的认识已经发生了翻天覆地的变化。“人机类比”的观念从机械论的“人是机器”转变为“机器能否思维”的“机人类比”，即将具备一定智能性的机器看做像人一样的对象。人工智能技术突飞猛进，智能机器也变得越来越智能、复杂而强大。4.1对于“机器”的理解4.1.3人机类比与“会思考的机器”智能机器可以分为广义和狭义两大类。狭义上的机器是指计算机、机器人、无人驾驶汽车等具体装置。广义的机器指具有智能算法、软件或程序及其主导驱动或构成的系统。人类一方面期待智能机器功能强大，能够代替人类完成复杂、危险的任务，另一方面又开始担心智能机器的过度发展失控从而导致对人类产生某些威胁。这正是机器伦理概念产生的人类思想和认识背景。4.2机器伦理概念与含义4.2.1机器伦理产生的思想基础从伦理学发展角度，伦理学起源于对人类道德行为的理解，但在古代并非所有的人都被视为具有道德能动性的道德主体一“谁”。比如，在《荷马史诗》、《奥德赛》中，只有男性首领具有道德地位，而他的妻子、孩子、奴隶仅被视为他所拥有的“什么”。机器伦理的发展也受到了动物权利和环境伦理思想的启发。如果说，计算机和人工智能的发展为机器伦理的产生和发展奠定了物质或物理基础，那么，道德对象由人到动物拓展到机器，使机器成为“道德能动者”和“道德对象”，就是机器伦理产生的伦理学思想基础。4.2机器伦理概念与含义4.2.1机器伦理产生的思想基础狭义机器伦理主要是指由具体的智能机器及其使用产生的、涉及人类的伦理问题。其伦理对象是包括智能计算机、智能机器人、智能无人驾驶汽车等之类的机器装置。4.2机器伦理概念与含义4.2.2狭义机器伦理广义机器伦理则是在机器具备一定自主智能甚至一定的道德主体地位之后产生的更为复杂的伦理问题，伦理对象是广义的智能机器系统。“完全伦理主体(fullethicalagents)”或称为“自动的伦理主体(autonomousethicalagents)”，即能够高度模拟人类思维与伦理意识，在特定情境中做岀判断与选择。这类机器的运行完全独立于人，是一种高度智能的机器。目前只存在于科幻电影中。比如科幻电影《机械战警》中的机器人战士，能够自动识别敌人并毫不犹豫地射击。4.2机器伦理概念与含义4.2.3广义机器伦理当人们考虑的机器伦理问题是以“机器人”这种特殊的机器为对象时，这时可以认为“机器伦理”就是“机器人伦理”。当机器被赋予智能，机器具有了智能，成为智能机器，“机器”才与“人工智能”直接联系起来。此时的机器，其传统的工具属性已经发生了变化。也正是在这个意义上，机器伦理才与人工智能伦理建立联系。当技术伦理的对象是狭义的智能机器时，关于技术伦理问题就是关于机器的伦理问题。当伦理对象是广义的智能机器，伦理问题涉及其自主性、自治性，机器伦理就不再是传统意义上的技术伦理，这类机器的伦理问题已经超出了技术伦理的范围，而成为广义人工智能伦理问题。4.2机器伦理概念与含义4.2.4机器伦理、机器人伦理、人工智能伦理与技术伦理机器伦理学也分为狭义和广义的两个范畴。狭义的机器伦理学是研究关于智能机器技术及其使用所引发的涉及人类的伦理道德理论的科学。不仅涉及到科技道德的基本原则和主要规范，而且还涉及到智能机器技术提出的新的伦理问题，诸如机器人伦理、自动驾驶汽车伦理、智能无人作战武器伦理等。广义的机器伦理学与广义的人工智能伦理学一致，主要研究智能机器道德的本质、发展以及人、智能机器与社会相互之间新型道德伦理关系的科学。这主要是由于智能机器在人类社会中逐渐具备一定道德主体性所引发的问题的思考。4.2机器伦理概念与含义4.2.5机器伦理学机器伦理构建主要涉及以下两个问题。第一个问题是，在机器中嵌入伦理原则是否应该？也即机器伦理存在的合理性论证。第二个问题是，按照狭义机器伦理学的目标发展，人类的道德伦理思想是否可以通过技术手段在机器上实现呢？4.3嵌入式机器伦理构建人类中心主义有三层涵义：一是生物学意义上的人类中心主义；二是认识论意义上的人类中心主义；三是价值论意义上的人类中心主义。在非人类中心主义看来，人类中心主义在经验上是站不住脚的、在实践上是有害、在道德上是可拒斥的，而且其立场在逻辑上不一致，与明智的开放性理论不和谐。4.4人机关系重定义4.4.1人类中心主义与非人类中心主义生态中心论者把整体自然视为一种终极的伦理主题，对于伦理问题持有一种非工具主义关护。因此，生态中心主义者可能把机器伦理作为人类中心主义的简单延伸。机器伦理学同以上“超人类中心主义”的观点一样，以各自不同的方式促使对传统伦理承认的道德范围进行超越与延伸。4.4人机关系重定义4.4.2机器伦理对人类中心主义的超越4.4人机关系重定义AlphaFold2预测蛋白质三维结构以突破围棋的AlphaGo、蛋白质预测AlphaFol;d2为代表的人工智能技术使机器发展出了独有的“智能”，这是不同于自然生命的智能，是非自然进化产生的智能。地球上出现了非自然进化的机器智能。机器智能的出现使得人类固有的尊严和地位受到挑战，比如，原本属于人类的创造性和科学发现能力，机器也开始具备。这也是对人类中心主义超越的一个现象。4.4.2机器伦理对人类中心主义的超越马克思指出：“科学通过机器的构造驱使那些没有生命的机器肢体有目的地作为自动机来运转，这种科学并不存在于工人的意识中，而是作为异己的力量，作为机器本身的力量，通过机器对工人发生作用。”人工智能技术的发展，使人与机器之间形成了新的相互作用模式，产生了“人一机器一人”、“（人一机器）—人”、“（人一机器）一（人一机器）”、“机器一人一机器”等不同形式的道德关系。在智能机器参与的人对世界的改造过程中，人与机器应处于一种和谐的关系。人与人性化的机器共同促进世界的变化发展。在这个意义上，智能社会也是人机共生的社会。4.4人机关系重定义4.4.3人机共生局限性之一主要体现在狭义机器伦理，即将人类的道德行为转换为计算机可以程序化处理的规则，这是对伦理可计算性的一种认可。这一观点忽视了人的主观能动性、社会性、人与环境的互动以及神经层面的一系列根本问题。局限性之二是试图发展机器成为道德行为主体，使其与人类道德行为主体具有同样的地位，这一观点会引起道德哲学中康德主义的反驳。是否可以简单地将机器看作是具有道德行为能力并且承担道德责任的道德主体，值得反复讨论。4.5机器伦理的