《人工智能伦理导论》课件第13章人工智能超现实伦理

第13章超现实人工智能伦理

学习要点学习和了解超现实伦理概念与含义。学习和了解科幻影视中的强人工智能伦理问题。学习和了解自我意识的人工智能的伦理问题。

超现实人工智能伦理，就是超越现实或现实中不存在，现在不存在，将来可能存在也可能不存在的伦理问题。这类人工智能伦理大多是通过科幻影视小说作品中的故事想象而来。现实中的人们，出于某种心理需要，比较喜欢将这类尚不存在的伦理问题放在现实背景中加以分析、讨论，以期从中受到启迪，未雨绸缪。这种人工智能伦理中的涉及的“人工智能”实际上远远超出了现代人工智能技术水平，由此产生的伦理问题可能永远都是想象。这并不妨碍人们从中受到启迪，正如机器人伦理正是起源于人类的幻想一样。学习导言13.1超现实伦理概念与含义关于人工智能或机器人是否能够毁灭人类并不是一个新鲜的话题。人类历史上第一部关于机器人的话剧“罗素姆”就已经展示了这样的主题。在过去的一百年，大量的科幻小说、影视剧作品已经讲述了各种人工智能具备自主意识并毁灭人类的故事，这些人工智能有的是地球上的科学家创造的，有的是来自外星球。关于这种现实中根本不存在的人工智能对于人类的潜在威胁及伦理问题讨论和思考一直经久不衰。13.1超现实伦理概念与含义未来人类社会究竟会是一幅怎样的呢？我们可以畅想人类社会的三种未来图景。第一种是人类进化成为超人类物种。这种技术及其伦理问题我们已经在第8章详细讨论过。第二种是人类依然保持对智能机器的控制，但出现难以消弭和日渐扩大的智能化鸿沟。未来图景之三是具有自我意识或类人属性的智能机器掌控世界。

黑客帝国中控制人类的机器超现实伦理问题指的是超越现实的人工智能引发的伦理问题。思考这类问题的意义在于提醒和警示今天的人类，对于人工智能的发展要未雨绸缪，防范未来可能出现的风险。超现实人工智能伦理在未来社会可能会出现，也可能不会出现，这取决于技术本身的发展，以及人类社会整体发展水平。无论如何，现在对于超现实人工智能伦理的讨论对于人工智能技术的健康发展是有意义的。13.1超现实伦理概念与含义13.2科幻影视中的强人工智能伦理

总体上看，科幻影视中的强人工智能技术引发的问题主要有两种情况。

1.人工智能拥有自主决策能力进而反客为主《西部世界》人类将机器人服务员定义为仆从者、愉悦工具，绝对凌驾于他们之上，肆无忌惮地展现出无比暴虐的本性，恣意残害虐杀乐园里的类人机器人。该剧虽然是表现的是机器人反抗人类，实际上，通过机器人的视角展示了人类的人性中丑陋的一面，凶残、贪婪、无耻等等。科幻剧《西部世界》中觉醒的女机器人开始反抗人类13.2科幻影视中的强人工智能伦理《终结者》系列中的“天网”机器人，《机器姬》中的女机器人等也是此类威胁的代表。反客为主型的人工智能是人类所最为担心的一种，这样的人工智能完全颠倒了机器与人的关系。人类或被屠戮或被毁灭或被奴役，人类在智能机器面前像蚂蚁面对强大的人类一样茫然无助，毫无尊严可言。

终结者

机器姬2.有感情的人工智能与人类的关系在很多与机器人有关的科幻影视作品中，智能机器人拥有人类的属性，如情感、意识、自由意志。这是更为人们所关注的。比如《阿童木》、《机器管家》、《人工智能》中等科幻电影中的机器人主角。这类科幻影视中的智能机器人启发人们从机器人的角度出发考虑人与类人智能机器之间应该是一种什么关系。《机器管家》和《人工智能》中的机器人13.2科幻影视中的强人工智能伦理13.3具有自我意识的人工智能人权伦理人权伦理，即人权中本身蕴涵的基本伦理道德以及在一切人权制度、人权活动中所体现出来的道德、价值和伦理关系以及应遵循的道德原则、道德规范的总和。可以想象，具有自我意识或类人属性会使得人的主体性、家庭结构、市场构成、社会关系、政治关系等的全面改变。具有自我意识的智能机器人或人工智能系统将不仅仅是简单的工具。人类和机器人也许有一天会变得密不可分，智能机器人可能被视为家庭中的一员，被视同为朋友，被视同为亲人。这时的机器人对于人类来已经不是附属关系、主仆关系，而是与人类具有同等的地位和身份，享有同样的权利。13.4具有自我意识的人工智能法律人格在人类法律史上，曾有过一段今天看起来很荒唐的历史，从公元九世纪到公元十九世纪，西欧有两百多件记录在案的动物审判，其中在公元1522年，一群老鼠因为啮食和破坏欧坦教会教区内的大麦作物而被指控犯有重罪。这样看似可笑的案例给人类带来的深刻启示是：让老鼠审判变得如此难以理解的，是欧洲文艺复兴以来整个人类概念-关系框架，世界的整体性行为和感觉方式全面转变的结果。这样的整体思想的转变，也适用当今世界对人工智能的伦理和法律问题的严肃思考和认识。人工智能也正带来与老鼠审判类似的难题。即具备自我意识或类人属性的高等智能，是否可以拥有“法律人格”？正如历史上曾经站上被告席的老鼠，未来的智能机器人、人工智能或机器智能以及人机混合智能，甚至基于类脑智能形成人工智能体，将会以被告、原告甚至法官、律师和公证人的身份参与到新的法律游戏中。未来的民事主体不再只是自然人、法人，还有其他“非人”的各种人工智能形态。13.5机器本性与人性对于人性，哲学家们有先验论和经验论之说。先验论强调人类的性格是先天生成，人类通过繁衍获得生命，人性向善，后天的培养只能是掌握控制性格的能力，然后通过实践来培养世界观、价值观和人生观。如果智能机器拥有了自我思维和自我意识，那么智能机器的本性是什么？它与人性有什么区别？是向善还是向恶？是否存在转变的可能？其会失控吗？为了自身价值、为了资源占有、为了寻找存在感、为了实现机器的目的和改造世界的需求，智能机器也会不断完善和改造并最终形成自身的、不同于人类的世界观、价值观、人生观。因此，参考人性的形成，这种超现实的智能机器的本性变化也是可能的。有了自我意识的智能机器与生物学意义上人类之间的关系注定变得复杂莫测。由此带来对人类社会传统的个体、家庭以及社区、组织、机构和企业之间的伦理关系影响将是非常复杂的