人工智能伦理导论- 课件 第3、4章 人工智能伦理、人工智能风险

人工智能伦理Lecture32024/2/1312如果有人设计计算机病毒，那么就有人设计不断自我完善、直到最终超越人类的人工智能，其结果将是一种新的生命形式。这种超级人类一出现，未改进的人类就再也不是他们的对手，严重的问题由此产生。原版人类将逐渐灭绝，或变得无足轻重。……人工智能的真正风险不是它的恶意，而是它的能力。超人工智能在完成目标方面非常出色，如果这些目标与我们的目标不一致，我们就会陷入困境。——霍金（StephenHawking）目录数据伦理计算机伦理人工智能伦理计算机伦理12345网络伦理信息伦理机器人伦理6发展历程主要问题基本原则2024/2/133计算机伦理（学）（ComputerEthics）是应用伦理学的一个研究领域,研究对象是在计算机的设计开发和应用以及计算机信息的生产、储存、交换和传播中所涉及的伦理道德问题。是关涉计算机及其应用中所固有的涉及文化、社会、法律和伦理等方面问题的研究和分析。1958年，发生了世界上第一起计算机犯罪。一位程序员能够使用计算机代码来防止他的银行账户被标记为透支。然而，当时没有法律能够阻止，因此他没有受到指控。人们意识到，为了确保避免其他人仿效、通过计算机进行类似金融犯罪的发生，计算机相关道德准则是必要的。2024/2/1343.1计算机伦理发展历程计算机伦理最早可追溯到20世纪40年代的二战时期：1948年，美国数学家和哲学家、麻省理工学院教授维纳(NorbertWiener)在他的《控制论》（Cybernetics）一书中指出：“像众所周知的原子弹一样……超高速计算机器给人类带来的是美好还是罪恶？”1950年，他的另外一本书《人有人的用处》（TheHumanUseofHumanBeings），深入讨论了围绕信息技术的伦理问题。维纳的观点为研究计算机伦理学奠定了基础，作为第一位就计算机对人类价值的影响进行严肃研究的学者,维纳被尊为“计算机伦理学”的创始人。计算机伦理的起源

发展历程20世纪50年代至60年代中期是计算机伦理研究的沉寂时期。由于计算机技术的发展在当时处于起步阶段,计算机技术尚未得到普遍应用,其间许多伦理学问题还没有充分暴露出来。因而,维纳于40年代末提出的计算机伦理问题的见解在学术界并没有引起太大的反响。20世纪60年代中期，随着计算机技术的飞速发展及其在各个领域内的广泛应用,与之相关的许多社会、伦理问题也逐渐明朗化。计算机应用中出现的两个问题直接促进了计算机伦理学研究的广泛开展。第一个问题是隐私问题。20世纪60年代中期,美国政府的许多部门已经开始为个人建立计算机信息数据库,美国国会也曾认真考虑,根据这些数据库给每一位公民指定一个身份证号。当时,由于许多人担心这样的身份证号码会干涉个人的隐私权而使得这项动议被搁置。然而,信息技术与隐私的关系问题无疑成了此时期计算机伦理问题研究的第一位动因,也成为学者们深思的一个重要课题。3.1计算机伦理2024/2/135第二个问题是计算机和信息技术的滥用和计算机犯罪问题。20世纪60年代之后,西方计算机应用过程中出现的因个人数据被盗用而在信用消费方面引起的问题,以及新闻媒体对大量计算机从业人员职业犯罪案例的报道引起了各方面人士的关注。有的学者把计算机犯罪问题形象地概括为“当人们进入计算中心时,他们把伦理丢在门口了”。计算机伦理研究的起步发展历程在政府层面上,世界各国政府部门做出了积极地反应。1970年,美国成立了由兰德公司的威尔和哥伦比亚大学的沃斯顿各自领导的独立专家组,从伦理学等方面对隐私和计算机数据库问题进行了专门研究。专家组的研究成果对于美国1974年的联邦隐私法案产生了很大的影响；英国政府于1971年成立了一个专门委员会,对隐私和计算机问题进行研究；瑞典于1974年在欧洲率先实施了国家性的数据保护法；1981年，欧洲委员会通过了欧洲数据保护条约,这个条约为整个西欧的数据保护法的建立奠定了基础。3.1计算机伦理诸多学者也投入到相关问题的研究。1968年，帕克（DonnParker）发表了《信息处理中的伦理规则》一文,阐明了建立计算计伦理规则的必要性,并初步拟订了一些规则。该规则于1973年被美国计算机协会（ACM,AssociationforComputingMachinery）所采用。1976年，魏森鲍姆（JosephWeizenbaum）出版了《计算机能力与人类理性》（ComputerPowerandHumanReason）一书,阐明了人类思维与本质上作为机器的计算机运行程序的差异。他指出,人不应当被视为机器,仅仅从机器层面理解人,是对人自身价值的否定。该书被列为西方计算机伦理学的经典之作。2024/2/136计算机伦理研究的起步发展历程1976年,著名应用伦理学家曼娜（WalterManer）正式提出“计算机伦理学”这一概念。他阐述了建立计算机伦理学这一学科的必要性和可行性,并率先将自己的理论用于教学实践。迈纳仿照医学伦理学、商业伦理学等应用伦理学学科,开设了计算机伦理学课程,取得了非常好的教学效果。20世纪70年代末，计算机伦理学最终确立一门新的应用伦理学，计算机伦理教育在欧美等国家诸多院校中得到推广实施。3.1计算机伦理2024/2/137计算机伦理的地位确立计算机伦理研究的兴起20世纪70年代中期以后,计算机伦理学的研究和推广得到逐步完善和深化。发表和出版了大量的学术研究论文、专著和文集，计算机伦理学研究成为应用伦理学研究的一个新热点。1985年，美国著名哲学杂志《形而上学》（Metaphilo-sophy）发表了泰雷尔·贝奈姆的《计算机与伦理学》（Acomputerethicsbibliography）和詹姆斯·摩尔的《什么是计算机伦理学》（WhatisComputerEthics?）两篇论文。这两篇文章成为西方计算机伦理学兴起的重要理论标志。出版有影响的专著包括：大卫·欧曼等的《计算机、伦理与社会》（1990）罗伊等的《信息系统的伦理问题》（1991）福雷斯特等的《计算机伦理》（1994）发展历程摩尔在《什么是计算机伦理学》一文中提出了计算机伦理学“四步法”：第一步，计算机伦理学要考察由于计算机技术的应用而导致的“政策真空”；第二步，计算机伦理学要有助于澄清由于计算机技术的应用所改变的一些核心伦理条款的意义而出现的观念混乱；第三步,计算机伦理学要制定“伦理”政策以填补相应的“政策真空”；第四步,计算机伦理学要根据人们的价值取向而证明新政策的合理性。摩尔“四步法”的提出,为计算机伦理规则或原理的制定提供了可循的基本思路,具有示范性意义。编写出版了有影响的教科书，促进了计算机伦理的教育。1985年，约翰逊的《计算机伦理学》以及约翰逊与斯耐普合著的《计算机应用中的伦理问题》相继出版。其中《计算机伦理学》被誉为计算机伦理学教学史上的标准教材。2003年，拜纳姆和罗杰森出版了《计算机伦理与专业责任》。在国内，2003年，殷正坤编写了教材《计算机伦理与法律》；2006年，姜媛媛等编写了教材《计算机社会与职业问题》；2011年，冯继宣等编写了教材《计算机伦理学》。3.1计算机伦理1992年10月，美国计算机协会（ACM）通过并发布了《伦理与职业行为准则》。2024/2/138计算机伦理研究的兴起个人隐私问题

随着计算机信息管理系统的普及,越来越多的计算机从业者能够接触到各种各样的保密数据。这些数据不仅仅局限为个人信息,更多的是企业或单位用户的业务数据,它们同样是需要保护的对象。计算机使某些人更容易获得他人的个人机密和信息，个人隐私受到计算机应用系统在采集、检索、处理、重组、传播等能力大大增强的严重挑战和空前威胁。知识产权问题知识产权是指创造性智力成果的完成人或商业标志的所有人依法所享有的权利的统称。计算机技术的发展，软件开发者可以轻而易举地移植、复制他人的源码。大量的计算机用户都在已知或不知的情况下使用着盗版软件。软件著作权的客体是指计算机软件，即计算机程序及其有关文档。某卫生系统“内鬼”泄露新生婴儿和预产孕妇信息2018年1月，某警方侦破了一起新生婴儿信息倒卖链条。从新学婴儿数据泄露的源头来看：某社区卫生服务中心工作人员徐某，掌握了某市“妇幼信息某管理系统”市级权限账号密码，利用职务之便，多次将2016年至2017年的某市新生婴儿信息及预产信息导出。被抓获前，他累计非法下载新生婴儿数据50余万条，贩卖新生婴儿信息数万余条。合作公司员工泄露防伪数据2018年2月，某警方侦破了知名酒被仿造的案件。蔡某拿任职于某公司的“国酒防伪溯源系统”项目专项经理，多次利用职务之便通过拍照、直接用U盘拷贝的方式窃取某知名酒企股份有限公司防伪溯源数据，并将窃取的数据泄露给蔡某刚。蔡某拿披露数据量共计700余万条（可制作成700万瓶能够通过防伪溯源验证的假冒酒）。防伪数据库泄露直接导致贵州茅台经济损失约105.7万元。“珊瑚虫”侵权案“珊瑚虫”QQ对正版QQ进行了非法改动，并放置于互联网上供他人下载以获取巨额利益，侵犯了腾讯的著作权。2008年，腾迅将原作者陈寿福告上法庭，法院判决：被告人犯侵犯著作权罪，被判处有期徒刑３年，并处罚金120万元；对被告人违法所得总计117.28万元予以追缴。2024/2/1393.1计算机伦理主要问题计算机犯罪问题以计算机为犯罪工具或以计算机为犯罪对象的犯罪行为，其概念有广义和狭义之分。职业道德问题涉及参与计算机软件、计算机硬件、网络技术的设计、制造的专业技术和管理人员对消费者和社会的道德与法律责任，其中包括产品的技术质量、设计的合理性和最优化等复杂的技术因素和专业技术人员个人的道德文化价值取向。案例1：吕某，25岁，广州市人。1997年4月加入国内“黑客”组织。他盗用他人网络账号以及使用非法账号上网活动，并攻击中国公众多媒体通信网广州主机（即“视聆通”广州主机）。成功入侵后，他取得了该主机系统的最高权限，并非法开设了两个具有最高权限的账号。此后，他又多次非法入侵该主机，对其部分文件进行删除、修改、增加等一系列非法操作，包括非法开设四个账号作为自己上网之用和送给他人使用、安装并调试网络安全监测软件(未遂)。同时，他为掩盖自己的行为，还将上网的部分记录删除、修改。更为严重的是，三次修改了该主机系统最高权限的密码，致使密码三次失效，造成主机系统管理失控共计15个小时的严重后果。广州市中级人民法院经审理认为，被告人吕某已构成破坏计算机信息系统罪。案例2：两名中国大陆的网络黑客入侵银行的网络系统，窃取人民币260,000元（约合美金三万一千四百元）的金额。据报导指出，这两个黑客是兄弟档。哥哥郝金龙（译音），是某工商银行的会计，管理该银行的网络系统。他们用不同的户名在该银行的某分行开了十六个帐户。并且在银行计算机终端机植入一个控制的装置。他们利用该装置，将虚拟存款720,000人民币（约合美金$86,975）电汇进入银行帐户内。之后，他们成功地从该银行的八个分行领出真实的钞票--人民币260,000元。后来这两名黑客遭江苏省的杨州法院判处一名未死刑、另一名为无期。2024/2/13103.1计算机伦理主要问题广义的计算机犯罪是指行为人故意直接对计算机实施侵入或破坏，或者利用计算机实施有关金融诈骗、盗窃、贪污、挪用公款、窃取国家秘密或其他犯罪行为的总称。狭义的计算机犯罪仅指行为人违反国家规定，故意侵入国家事务、国防建设等计算机信息系统，或者利用各种技术手段对计算机信息系统功能及有关数据、应用程序等进行破坏，制作、传播计算机病毒，影响计算机系统正常运行且造成严重后果。基本原则美国学者斯平内洛在《信息技术的伦理方面》中提出了计算机伦理道德的一般规范性原则：①自主原则，尊重自我与他人的平等价值与尊严，尊重自我与他人的自主权利；②无害原则，人们不应该用计算机和信息技术给他人造成直接或间接地损害；③知情同意原则，人们在信息交换中，有权知道谁会得到这些数据以及如何利用它们，没有信息权利人的同意，他人无权擅自使用这些信息。学者们对计算机“职业”、“职业人员”、“职业道德”的特殊性问题作了探讨。韦克特和爱德尼在《计算机与信息伦理学》中提出：“一个真正的计算机职业人员，不仅应当是自我领域的专家,而且也应当使自己的工作适应人类文明的一般准则,具有这方面的道德自律能力与渴望。”3.1计算机伦理2024/2/1311美国学者罗伯特·巴格认为，随着计算机与信息技术的发展，人类的基本道德价值观念和行为准则并没有过时。他在1993年于华盛顿召开的第二届计算机伦理学年会上提出了计算机伦理学的三条基本原则：①一致同意的原则,如诚实、公正和真实等；②把这些原则应用到对不道德行为的禁止上；③通过对不道德行为的惩处和对遵守规则行为的鼓励，来对不道德行为进行防范。基本原则美国的一些专门研究机构制定了简明通晓的道德戒律。如美国计算机伦理协会制定了“计算机伦理十诫”：①不应当用计算机去伤害别人；②不应当干扰别人的计算机工作；③不应当偷窥别人的文件；④不应当用计算机进行偷盗；⑤不应当用计算机作伪证；⑥不应当使用或拷贝没有付过钱的软件；⑦不应当未经许可而使用别人的计算机资源；⑧不应当盗用别人的智力成果；⑨应当考虑所编制的程序的社会后果；⑩应当用深思熟虑和审慎的态度来使用计算机。“特殊的职业责任”包括：①努力在职业工作的程序中，使产品实现最高的质量、最高的效益和高度的尊严；②获得和保持职业技能；③了解和尊重现有的与职业工作有关的法律；④接受和提出恰当的职业评价；⑤对计算机系统和它们包括可能引起的危机等方面作出综合的理解和彻底的评估；⑥重视合同、协议和指定的责任。3.1计算机伦理2024/2/1312美国计算机协会《伦理与职业行为准则》“基本道德规则”包括：①为社会和人类的美好生活做出贡献；②避免伤害其他人；③做到诚实可信；④恪守公正并在行为上无歧视；⑤敬重包括版权和专利在内的财产权；⑥对智力财产赋予必要的信用；⑦尊重其他人的隐私；⑧保守机密。美国许多公司、学校和政府机构，明确制定了各种网络伦理准则。如，南加州大学的网络伦理声明中明确谴责“六种网络不道德行为”：①有意地造成网络交通混乱或擅自闯入其他网络及其相关的系统；②商业性或欺骗性地利用大学计算机资源；③偷窃资料、设备或智力成果；④未经许可接近他人的文件；⑤公共用户场合做出引起混乱或造成破坏的行为；⑥伪造电子邮件信息。目录数据伦理计算机伦理人工智能伦理12345网络伦理信息伦理机器人伦理6发展历程主要问题基本原则发展历程主要问题信息法律2024/2/13133.2信息伦理发展历程信息伦理（学）

(InformationEthic)是规范伦理学中的应用伦理学分支，是从伦理学角度研究和探讨信息以及信息传递过程中的道德伦理问题,以揭示信息传递中的道德伦理规律。信息伦理学最初以计算机伦理学的面目出现。1985年，德国的信息科学家卡普罗（RafaelCapurro）发表了“信息科学的道德问题”的论文，研究了电子形式下专门信息的生产、存储、传播和使用问题。从宏观和微观两个角度探讨了信息伦理学问题,包括信息研究、信息科学教育、信息工作中的伦理问题。1986年，美国南部卫理公会大学梅森（RichardO.Mason）在《信息时代的四个伦理问题》论文中，提出了著名的“PAPA”理论，即，信息隐私（Privacy）、信息正确（Accuracy）、信息产权（Property）、信息存取（Accessibility）。20世纪90年代初期,计算机伦理学研究范围扩大,这时的研究包括与非专业性计算机使用和计算机网络不断发展有关的一些问题,研究对象也更加明确地确定为信息领域的伦理问题,在概念和名称的使用上直接使用了“信息伦理学”这一术语。2024/2/13141996年，罗格森·西蒙和贝耐姆共同发表了《信息伦理：第二代》。他们认为：计算机伦理学是第一代信息伦理学，它所研究的范围有限,研究的深度不够，只是对计算机现象的解释，缺乏全面的伦理学理论，对与信息技术和信息系统有关的伦理问题和社会问题，以及解决这些问题的方法缺乏深层次的研究和认识。2000年，卡普罗在“Ethicalchallengesoftheinformationsocietyinthe21stcentury”一文中专门论述了信息社会的伦理问题,将信息伦理从计算机伦理中区分出来,强调了信息伦理学。3.2信息伦理2024/2/1315主要问题信息伦理的主要问题包括：知识产权、个人隐私、信息污染、信息安全、信息鸿沟和文化侵害。知识产权和个人隐私也是计算机伦理的主要问题。信息伦理的主要问题信息污染问题

信息中混入了有害性、欺骗性、误导性信息元素，对信息生态、信息资源及人类身心健康造成破坏、损害等不良影响。信息安全问题信息系统（硬件、软件、数据、物理环境及基础设施）不受偶然或恶意原因而遭到破坏、更改、泄露，系统可靠正常地运行。信息鸿沟问题较多拥有信息技术和工具的个体、家庭、商业组织、地区和国家，与较少或未曾拥有信息技术和工具者之间，存在信息鸿沟。文化侵害问题互联网信息上90%以上的内容使用英语,非英语人群不能使用自己的母语交流,带来了某种程度上的文化侵害。3.2信息伦理信息伦理学有广义和狭义之分。狭义的信息伦理学是指信息技术伦理学,世界科技知识与技术伦理委员会信息社会伦理分委员会（COMEST）、斯皮内洛（RichardA.Spinello）早期的工作基本上可归为这一范畴。广义的信息伦理学是探讨与信息相关的所有方面的伦理问题,而不局限于信息技术的范围。美国国际信息伦理学中心也认为,信息伦理学有广义和狭义之分,但是他们的看法与上述观点不同。他们认为：广义的信息伦理学是研究一对多等级结构的大众传媒（媒体伦理学）（新闻伦理学）、计算机科学（计算机伦理学）和作为平等媒体的因特网（网络伦理学）中的伦理问题的应用伦理学科。狭义的信息伦理学研究因特网（网络伦理学）、信息和知识管理（与管理伦理学有关）以及图书馆、档案领域的伦理问题的应用伦理学科。随着信息伦理学研究范围和深度的不断拓展,人们逐渐认识到：信息伦理学不完全等同于计算机伦理学,信息伦理学有着更广阔的研究范围,涵盖了前者的研究范围。计算机伦理学侧重于计算机及其使用的个体性行为或区域行为的伦理研究；信息伦理学则立足于一般的信息或信息技术层面,试图概括计算机伦理学的研究成果,扬弃其特殊性以形成一种在信息领域具有普遍意义的伦理学。计算机伦理学未来融入信息伦理学、被信息伦理学取而代之代表了诸多学者的一种观点。信息伦理学计算机伦理学2024/2/1316信息伦理vs计算机伦理信息伦理与法律/政策信息法律与信息政策都是与信息伦理密切相关的概念，为信息伦理的实现提供了支持。了解信息伦理、信息法律与信息政策之间的区别与联系，有助于深入理解信息伦理的内涵，找到规范信息行为的伦理准则和约束机制。法律是一套由社会机构强制执行以控制人们行为的规则与指导方针的体系。法律由政府及其立法机构制定，用于调节人们之间的政治、经济与社会关系。信息法律指在调整信息活动中所产生的社会关系的法律规范的总称。这里的社会关系主要涉及利益、权益的安全问题。信息法律的主要内容包括知识产权法（专利法、著作权法、商标法等）、信息安全法、信息公开法、新闻出版与传播法、电信法、电子商务法（电子签名与数字认证法等）、计算机犯罪的法律等等。政策是指导决策并达到合理目的的原则或规则。信息政策用于指导信息收集、生产、创建、组织、存储、获取、传播与保存等整个生命周期的活动。信息政策既包括公共信息政策，也包括组织内部的信息政策。信息政策可以划分为基础设施信息政策、水平信息政策与垂直信息政策三个层次。信息政策的范围包括九大类：政府信息资源管理、信息技术、电信与广播、国际通信、信息公开、保密与隐私、计算机管制与计算机犯罪、知识产权、图书馆与档案馆、政府信息传播。3.2信息伦理2024/2/1317信息伦理、信息政策与信息法律三者在对信息活动的调控范围和规范强度等方面应相互补充,共同发挥作用,以维持信息社会的秩序,实现共同的价值目标。这些价值目标体现在：相同的义务准则、相同的权利追求和相同的功利主义追求。信息伦理、信息法律与信息政策在指导、约束人们的信息行为以及相互关系方面发挥着不可替代的作用，但是三者的作用层次和力度有所不同，其影响力的发挥也各有侧重。三者主要的区别可以归纳为：制定主体的不同、约束强度的不同、问题适应性不同、发布形式不同和调节范围不同。3.2信息伦理2024/2/1318信息伦理与法律/政策“维基解密”分析从“维基解密”事件，分析信息伦理、信息政策、信息法律之间的相互关系。“维基解密”作为一种在网络环境中诞生的新型传媒组织，自2010年连续三次大规模公布美国军事外交机密以来饱受国际社会的争议。其争议的焦点主要在于政府信息安全的保护和公民信息自由之间的制衡。3.2信息伦理2024/2/1319维基解密(WikiLeaks)，是一个国际性非营利媒体组织，专门公开来自匿名来源和网络泄露的文件。网站成立于2006年12月，创建者为朱利安·阿桑奇（澳大利亚）2010年，这家网站曝光关于阿富汗战争和伊拉克战争的海量秘密文件。2017年12月，阿桑奇被授予厄瓜多尔国籍。2019年4月，厄瓜多尔不再向阿桑奇提供庇护，英国警方随即以违反保释条例为由逮捕阿桑奇。次月，美国检察官以17项间谍罪和1项滥用计算机罪控告阿桑奇。同年11月，瑞典方面放弃调查对阿桑奇的强奸指控。2021年7月，阿桑奇的厄瓜多尔国籍被取消；12月10日，英国高等法院裁定，阿桑奇将被引渡至美国。2022年4月20日，英国法院已批准将“维基揭秘”创始人朱利安·阿桑奇引渡至美国；当地时间6月17日，英国内政大臣帕特尔签署命令，批准引渡阿桑奇至美国。“维基解密”分析“维基解密”涉及的伦理问题不是它究竟公开了什么，而是它采取了怎样的方式公开信息。事实上，这样的公开方式不仅威胁着政府信息安全，也威胁着个人隐私，触动着整个人类的伦理道德法则。人类赖以生存的不仅是物质资源，还有大多数人必须遵守的伦理道德规则，否则社会秩序的混乱将会危及人类生存。黑客出于智慧炫耀、政治立场或窃取利益等目的，威胁着政府、组织和公民个人的信息安全。在“维基解密”事件中，黑客出于揭露政府“丑闻”的目的而侵害政府安全，其中涉及的信息伦理问题包括两个方面：一是黑客非法获取政府机密、危害国家信息安全和政府形象的不道德行为；二是有助于更多的人监督政府活动的“正义”行为。对于两种伦理价值的权衡成为人们对“维基解密”事件争论的焦点。最终，人们对于理性与秩序的追求似乎更占上风。3.2信息伦理2024/2/1320“维基解密”所获取的秘密资料来自世界各地的匿名人士，已知的提供美国军事外交机密资料的只有驻伊美军士兵曼宁。从一般常理判断，这些人中有能够合法接触机密的人士，有通过黑客行为获取机密的人士，也可能有编造杜撰的人士。从动机来讲，有道德人士想通过“维基解密”揭发政府、企业的丑恶内幕，有的资料提供者存在自我炫耀的心理，也有持不同政见者想借此打击异己等。总之，这些行为都存在着制度约束缺位的不可控性。尤其是黑客行为、富有偏见的告密都是网络信息伦理普遍难以接受的方式。“维基解密”的信息伦理问题

“维基解密”事件发生之前，美国政府针对信息安全保护已经制定了一系列信息政策，例如：《关于保护国家信息基础设施的第63号总统令》(1998年)《信息系统保护国家计划》(2000年)《网络空间安全计划》(2003年)《保护关键基础设施和关键资产国家战略》(2003年)3.2信息伦理2024/2/1321“维基解密”分析“维基解密”相关的信息政策

“维基解密”事件所表现的主要是政府信息安全和公民信息自由之间的博弈。在这两个方面都有相关的美国法律法规，如:《信息自由法（1966、1996）》《阳光政府法（1976）》《总统档案法（1978）》等是为了保障公民获取政府信息的自由。其中尤以《信息自由法》影响最为深远，它在保障公民个人信息自由的同时，也对国家的信息安全予以保障，通过豁免条款将需要保护的信息加以列举。《爱国者法案（2001）》为防止恐怖主义，扩张了美国警察机关的权限。警察机关有权搜索电话、电子邮件通信、医疗、财务和其他种类的记录。《联邦信息安全管理法案（2002）》则要在整个政府范畴内为有关的信息安全风险提供有效的管理和监督。《反间谍法（1917）》《计算机安全法案（1987）》《电子政务法（2002）》都涉及国家信息安全问题。“维基解密”相关的信息法律

由于上述法律适用性局限，最终以强奸罪而非信息安全罪对“维基解密”创始人阿桑奇提出指控，而对“维基解密”网站则采取了经济封杀。这表明当时美国的信息法律在协调政府信息安全与公民信息自由之间的矛盾方面仍存在欠缺。美国政府和军方曾试图援引《反间谍法》起诉“维基解密”，并通过国务院网络安保措施加强对白宫数据库的控制，以避免造成更多的损失。美国国会计划通过立法使政府敏感部门的员工有渠道报告腐败、浪费和管理失误的问题，而不必寻求“维基解密”等外部网站的帮助。维基解密也没有触犯言论自由的法律底线。面对发生的泄密事件，信息法律显得相对滞后，没有任何法律能够预见到一种新兴传媒组织可以对政府信息安全造成如此严重的威胁。对于此类冲突，仅仅依靠义务原则或美德原则是远远不够的，需要依据功利主义的结果原则来判断什么样的对策更有利于绝大多数人乃至全人类的长远福祉。美国政府出于维护自身信息安全的考虑，制定了临时信息政策，包括对政府数据库进行安全维护、起草相关法律等措施，体现出信息政策的灵活性和针对性。从“维基解密”事件也可以清晰地看到三者之间的异同和互补关系，它们共同构建、调节和维护信息社会的秩序，以实现信息社会的价值目标。信息伦理、信息政策与信息法律具有相同的价值追求。因此，三者在作用时间、作用范围、作用人群、作用强度等方面相互补充，共同发挥作用。3.2信息伦理2024/2/1322“维基解密”分析“维基解密”事件发生之后，人们争论的焦点在于政府信息安全保护和公民信息自由各自的底线和边界究竟在哪里，如何确保在合理的范围内解决两者之间的冲突。目录数据伦理计算机伦理人工智能伦理12345网络伦理信息伦理机器人伦理6发展历程主要问题基本原则发展历程主要问题信息法律发展历程主要问题2024/2/13233.3网络伦理发展历程2024/2/1324网络伦理学，又称计算机网络伦理学，是计算机信息网络专门领域调节人与人、人与社会特殊利益关系的道德价值观念和行为规范。20世纪90年代，网络技术促使世界各地计算机用户相互连接，加快了信息的传播和获取速度。不仅仅遇到传统计算机伦理问题，还出现了新的伦理问题，计算机伦理学的外延得到进一步拓展。1996年，英国学者罗格森和贝奈姆的《信息伦理学:第二代》指出，第一代计算机伦理学存在研究范围有限、深度不够和应用领域狭窄等问题。高尼亚科倡导建立有力的信息伦理理论来为网络社会提供指南和决策。为了更加全面、深入地研究和解决信息网络技术和信息网络系统相关的伦理问题，学术界将计算机伦理学的研究范围向外拓展到互联网，进入计算机伦理学的第二个阶段，为了凸显网络信息这一专门领域的特点，一些学者将该阶段称为网络伦理阶段，称为网络伦理学。网络伦理vs信息伦理vs计算机伦理信息伦理学计算机伦理学网络伦理学从研究的视野、范围和问题域角度：计算机伦理学与网络伦理学的研究范围既有相似和重合的地方,又有不同之处。信息伦理学的研究范围最广，试图概括计算机伦理学和网络伦理学涉及的所有伦理问题，以形成一种信息领域的普适伦理学。案例1：网络谣言之食盐抢购风波

2011年3月11日，日本东海岸发生9.0级地震，地震造成日本福岛第一核电站1-4号机组发生核泄漏事故。这起严重的核事故竟然在中国引起了一场抢盐风波。从3月16日开始，部分地区开始疯狂抢购食盐，许多地区的食盐在一天之内被抢光。3月21日，杭州市公安局西湖分局发布消息称，已查到“谣盐”信息源头，并对始作俑者“渔翁”作出行政拘留10天，罚款500元的处罚。案例2：”人肉搜索”第一案2007年12月29日，姜某因其丈夫王某感情原因跳楼身亡。自杀前在博客中记载了自杀前两个月的心路历程。2008年1月，大旗网、天涯社区等网站披露了含王某私人信息的博客内容。2008年3月18日，王某将相关网站起诉至法院。2009年12月23日，北京二中院作出终审宣判：公民依法享有名誉权，公民人格尊严受法律保护。对王某批评和谴责应在法律允许的范围内进行，披露、宣扬其隐私，构成对隐私权和名誉权的侵犯。责令相关网站删除文章及照片、刊登道歉函、进行赔偿。案例3：热播剧《扫黑风暴》反盗版2021年8月9日，根据真实案例改变的电视连续剧《扫黑风暴》在北京卫视等视频媒体播出，播出后影响强烈，收视率和网播量飙升。但播出内容尚未过半，网上便流出《扫黑风暴》全集资源，以1元左右价格售卖。8月21日上午，该剧官方微博发布反盗版声明，指出互联网上有人未经许可非法传播、销售该剧的盗版内容，并已经第一时间向公安机关报案，追查盗版来源。最高人民检察院提醒：在互联网上非法传播、销售《扫黑风暴》的盗版内容，侵犯了出品方以及播出平台的合法权益，涉嫌构成刑事犯罪。3.3网络伦理2024/2/1325主要问题①具体问题：在网络使用过程中遇到的现实问题,包括网络行为的具体规范、网络行为具体性质的界定和网络具体问题的研究。②交叉问题：网络与社会其他现象相关联而出现的问题,这些问题不仅影响网络本身的运作和操作问题,而且影响到社会生活的方方面面,如，社会分层、民主体制、数字鸿沟、文化及意识形态冲突等。目录数据伦理计算机伦理人工智能伦理12345网络伦理信息伦理机器人伦理6发展历程主要问题基本原则发展历程主要问题信息法律发展历程主要问题发展历程主要问题基本原则治理对策2024/2/13263.4数据伦理发展历程大数据（bigdata）是，“由科学仪器、感应设备、电子邮件、多媒体软件、网络点击流和移动互联交易等多种数据源生成的大规模、多元化、长期的和复杂的分布式数据集”。大数据是相对于一般数据而言的，大数据的基本特征可以归纳为4个“V”。第一,大量化(volumebig),即数据规模庞大。大数据是大型数据集,不再像之前TB级别的数据那么简单,而是PB甚至是EB级别的数据,其容量和规模远远超过传统数据。第二,多样化(varietytype),即数据类型繁多。大数据所包含的数据类型多种多样,既有不同的媒体形态,也有不同的编码结构。除了结构化编码数据之外,还包括图片、视频、报表和XML、HTML等半结构化或非结构化数据。第三,快速化(velocityfast),即处理速度快。大数据时代,数据生成无时不刻,其规模正在以指数级速度增长,对于数据的分析和处理也需要快速,这样才能满足实时性的需求。因此,即时处理己是大数据时代的趋势之一。第四,价值化(value),即价值密度较低,数据总量与其产生的价值密度呈反比例函数。大数据本身的价值密度相对较低,需要不断从海量数据中挖掘分析真正有用的信息才能真正实现“用户价值”。2007年,计算机图灵奖获得者吉姆·格雷在演讲中提出,数据密集型科学正在从计算科学中分离出来,成为科学研究的“第四范式”。他指出,像理论科学、实验科学和计算科学一样,以数据为中心,以协同进化、数据驱动和网络化成长为主要特征的数据密集型科学必将深刻影响人们的思维模式和科学研究方式。1980年,美国未来学家阿尔文·托夫勒在《第三次浪潮》一书中指出，“如果说IBM主机拉开了信息化革命的大幕，那么‘大数据’则是第三次浪潮的精彩华章”。2024/2/1327发展历程3.4数据伦理2024/2/1328（大）数据伦理（bigdataethics），是大型数据采集、开发、利用和保护的道德规范。2012年9月，美国学者戴维斯和帕特森出版的《大数据伦理学》详细讨论了大数据技术的兴起,人类将面临的伦理挑战。同年，库克耶在其著作《大数据时代》中将大数据伦理界定为新的隐私问题、数据安全问题、虚假数据问题。2016年11月、2021年6月和2021年8月，我国分别颁布了:《网络安全法》《数据安全法》《个人信息保护法》2018年5月，欧盟颁布《通用数据保护条例》（GDPR）。2018年6月，英国颁布了《数据伦理框架》，对数据伦理的七条原则进行了界定。主要问题3.4数据伦理2024/2/1329数据隐私问题

数据信息蕴含的潜在价值得到空前的开发和利用，数据隐私问题更加突出。数据独裁问题

人们的决策逐渐完全依赖于数据的预测,使人们彻底走向唯数据主义。数字身份问题一组独一无二地描述一个人的数据,是有关一个人在数字上可获取信息的总和。数据权利问题

个人或组织对数据所拥有的占有权、使用权、支配权、知情权等。数字鸿沟问题

数字鸿沟也称为信息鸿沟，不同地域和不同的群体对社会信息资源占有、使用、收益、分配过程中的地位、权利和机会存在显著差距。“尽管大数据的力量是那么耀眼,但我们必须避免被它的光芒诱惑,并善于发现它固有的瑕疵”。——维克托·舍恩伯格(大)数据伦理vs网络伦理vs信息伦理vs计算机伦理现代信息技术是信息伦理学演进的逻辑依据：20世纪70年代,因计算机技术引发的伦理问题,产生了计算机伦理学。20世纪90年代，信息技术拓展到互联网领域，与信息相关的伦理研究发展为网络伦理学。进入21世纪，大数据作为信息化发展的高级阶段，引发新的伦理问题，逐步形成了新的道德价值和道德规范，即（大）数据伦理学。信息技术的推进和信息化程度的加深，促使信息伦理学的研究范围不断拓展，超出了传统计算机伦理与网络伦理的边界。信息伦理经历计算机伦理、网络伦理到大数据时代信息伦理（数据伦理）的历史演变，逐步形成了具有整体视野和普遍意义的信息伦理学。信息伦理计算机伦理网络伦理数据伦理目录数据伦理计算机伦理人工智能伦理12345网络伦理信息伦理机器人伦理6发展历程主要问题基本原则发展历程主要问题信息法律发展历程主要问题发展历程主要问题基本原则治理对策发展历程主要问题基本原则2024/2/13303.5机器人伦理2024/2/1331发展历程机器人伦理学（robotethics，roboethics）是以人类为中心，关于机器人建造和使用的伦理学。机器伦理（Machineethics）是如何确保使用人工智能的人工机器或人工智能体（ArtificialMoralAgents）具有道德的行为，是人工道德智能体、机器或人工智能计算机行为的道德规范或伦理准则。机器伦理学主要关注“机器如何对人类表现出符合伦理道德的行为”；机器人伦理学主要关注“人类如何在设计和使用操作阶段与这些机器进行联系交互”。机器人伦理学属于“以人为中心”的伦理学,责任主体是人,主要研究设计者在机器人设计、使用中的伦理规范以及把人类道德规范嵌入到机器人系统等问题；机器伦理学是机器具有了人类智能后应该遵循的伦理规范,机器伦理学是“以机器为中心”的伦理学,责任主体是机器。英国作家巴特勒在1863年就开始考虑机器成为人类继任者的可能性。对机器的伦理方面（即利用伦理原则对机器行为进行规约和引导）做了深刻的考察。1936年，捷克著名科幻剧作家恰佩克在喜剧《罗素姆的万能机器人》首次使用“Robota（机器人）”，后来演化为“robot”。该词原意是“劳动”或“奴役”，为伦理道德引入提供了对象载体。1942年，阿西莫夫的短篇小说《转圈圈》首次明确阐述了著名的“机器人三定律”。20世纪50年代后期，恩格尔伯格（JosephF.Engelberger）研制出第一台工业机器人。20世纪60年代，机器人进入了全面发展时期，随着人工智能的应用，机器越来越像人，甚至超过了人类的能力。如何设计与对待机器人也进入学者视野，机器人伦理学因此而诞生。3.5机器人伦理2024/2/1332发展历程1987年，沃尔德罗普在论文“AQuestionofResponsi-bility”中正式提出机器伦理这一术语，并指出“智能机器将包含价值、假设和目的，不管它们的程序员是否有意这样做。我们必须仔细而明确地思考这些内在价值是什么，也许我们需要的是一套符合阿西莫夫机器人三定律的机器伦理理论和实践。”1992年，英属哥伦比亚大学的应用伦理学教授彼特

丹尼尔森（PeterDanielson）出版了《技术人工物道德：善良机器人的美德游戏》一书，他第一次在伦理设计框架内对使用计算机技术进行构造道德推理模型进行了尝试性探索，这相对于以往几乎空白的研究来说具有前瞻性和开创性，从现在观点看，他对机器人伦理思想的探索仍然很具深度。可以说,丹尼尔森的研究工作代表了当时机器人伦理领域的最高成就。2002年在意大利召开的

“国际机器人伦理学研讨会”上，首次使用了“机器人伦理学”（roboethics），并提出把“机器人伦理学”细化为两个应用分支学科：“机器伦理学”和“机器人伦理学”。2007年4月14日，IEEE-RAS（RoboticsandAutomationSociety）技术委员会在意大利的罗马大学召开了ICRA（IEEEInternationalConferenceonRoboticsandAutomation）的机器人伦理学研讨会，拟定并颁布了《欧洲机器人伦理学路线图》（TheEURONRoboethicsRoadmap），为机器人伦理学研究开发提供了参考文本。发展历程美国佐治亚理工学院罗伯特

阿尔金（RonaldArkin）教授于2009年3月，出版了《自治机器人致命行为的管理》，他认为，“机器人伦理学的核心问题是责任主体限定，机器人是作为人类社会的奴仆和服务者角色而存在的”

。3.5机器人伦理2024/2/13332009年，耶鲁大学温德尔

瓦拉赫（Wendellwallach）和科林

艾伦（ColinAllen）合著出版《机器伦理：教机器人区分善恶》，对狭义机器人以及广义人工道德行为体等进行了探讨。如，人工道德行为体能否获得合法道德行为体资格；自治（主）系统是否能够“真正地”满足和具备自治行为的需要等

。2011年，美国加州理工学院帕特里克

林（PatrickLin）领衔，联合同事基思

阿布尼（KeithAbney），以及南加州大学计算机科学教授乔治

拜柯（GeorgeA.Bekey）三人出版了首部《机器人伦理学》（RobotEthics）学术专著，提出了“机器人伦理学（Roboethics）作为应用伦理学的新学科”的论断。该书对机器人伦理问题进行了系统、全面的探讨。诸如，军用机器人应用到战争中的法律和政策问题；在“人-机情感交互”实践中，作为护工、伴侣角色的机器人应当遵守哪些伦理规范；具有赛博格（生物-计算机混合体）形态的机器应享有和肩负何种权利和道德责任。发展历程2011年，美国哈特福德大学计算机科学教授迈克尔

安德森（MichaelAnderson）与康涅狄格大学的哲学教授苏珊

利

安德森（SusanLeighAnderson）合作主编出版了《机器伦理》（MachineEthics），该书介绍了机器人伦理学领域的研究纲领和最新进展状况，并入选了沃兹沃思哲学家系列（WadsworthPhilosophersSeries）)。3.5机器人伦理2024/2/13342015年，尼克·博斯特罗姆出版《超级智能：路径、危险、策略》一书，该书中指出，机器伦理是人类迄今为止面临的最重大的问题，该书列《纽约时报》最畅销科学书籍排行榜第17位。雅典国立技术大学的施皮罗斯

尼亚费斯塔（SpyrosG.Tzafestas）教授于2016年率先出版了国际上第一本通识教材《机器人伦理学：学科导论》对“机器人伦理学”的基本概念、研究对象、基本伦理原则、主要伦理问题以及研究方法等作了介绍。2017年的利雅得未来投资峰会，机器人索菲亚被授予沙特阿拉伯国籍（来第一个拥有国籍的机器人）。引起了争议，如，索菲亚是否可以投票或结婚？故意关闭系统是否视为谋杀等。发展历程联合国教育、科学及文化组织的下设委员会（theWorldCommissionontheEthicsofScientificKnowledgeandTechnologyofUNESCO，简称COMEST）历时两年完成并于2017年9月发布了《机器人伦理报告》（ReportofCOMESTonroboticsethics），建议制定国家和国际层面的伦理准则。从学术价值的角度看,机器人伦理开拓了科技伦理研究的新领域,对于加深与变革包括人、生命、智能与机器等基本哲学概念的理解与认识具有重要意义。从实践意义的角度看,对于社会大众来说,机器人伦理研究有助于建构起人类与机器人互动的道德观念与道德规范,实现人与机器人的和谐相处。对机器人技术的研发人员来说,机器人伦理设计原则与方法的研究成果,可以为其提供技术研发的伦理依据与理论支撑；而且,机器人伦理研究也有助于加强科技人员的道德责任感,培养科技人员的道德想象力与实践能力。对科技管理人员来说,机器人伦理研究成果可以为机器人产业政策的制定提供理论参考。“机器人在可预见的未来将面临人类道德的拷问，也面临担负着人类道德和法律的责任”。“会思考的机器人拥有人工智能，使它们可以复制自身，而不加控制的自我复制是这些新技术的危险之一”。人类作为社会的缔造者和主导者，对其担负着不可逃脱的重要责任。人类必须正视机器人的伦理问题和社会影响，通过哲学、心理学、法律和其他专业领域的智力支持和理论支撑，以一种跨学科多领域的复合知识系统指导设计，构建“善”的机器人。3.5机器人伦理2024/2/1335智能机器人已从科幻文学作品走进现实生活，开始逐渐成为人们所熟知的事物。正如计算机对人类生活世界冲击一样，智能机器人对人类社会产生着深远影响。主要问题3.5机器人伦理2024/2/1336机器人权利问题。什么样的机器人可以拥有权利？可以拥有哪些权利？机器人为何可以拥有权利？机器人的权利与人的权利、动物权利有哪些异同？如何赋予、保护、限制甚至剥夺机器人的权利？人与机器人关系。如何看待人与机器人的差异？应该如何对待机器人？如何建立某些机制来避免人类对机器人的过度依赖？在许多方面已经超过自己的机器人面前,人类如何保持自身主体性地位？机器人法律问题。在解决机器人伦理问题中,道德与法律手段的应用范围与限度如何界定？哪些机器人伦理相关问题需要通过法律手段来解决？军用机器人看护机器人服务机器人情侣机器人领域机器人伦理问题机器人伦理的普遍性问题不同领域机器人伦理问题军用机器人在战场上出现了错误，将由谁承担责任？如何保证军用机器人在战场上不会滥杀无辜？如何限制军用机器人的使用范围？已婚人士可否拥有情侣机器人？情侣机器人是否破坏婚姻伦理的忠诚原则？不同的人是否可以共享、出借与交换情侣机器人？是否可对同性恋者提供情侣机器人？把孩子交给机器人看护，会产生哪些负面效应？人类对助老机器人的依赖是否会冲淡人类的亲情？如何保证儿童看护与助老机器人的安全性问题？服务机器人如何与人类产生情感联系？性别、年龄、职业、受教育程度等是否会影响人与机器人之间的情感联系？3.5机器人伦理2024/2/1337机器（人）伦理vs(大)数据伦理vs网络伦理vs信息伦理vs计算机伦理信息伦理计算机伦理网络伦理数据伦理机器人伦理机器人伦理学和机器伦理学两者的重叠程度在一定意义上将取决于“机器人”如何被定义：如果“机器人”被给予宽泛的定义，即包括虚拟机和固定物理实体系统的话，那么，这两者将有很大部分的重叠；如果我们对“机器人”进行严格狭义地定义，排除虚拟机和固定物理实体系统的话，那么“机器伦理学”的主题将比“机器人伦理学”更宽泛。从学术价值角度看，机器人伦理开拓了科技伦理研究新领域，并且对于我们加深与变革包括人、生命、智能与机器等基本哲学概念的理解与认识具有重要意义。从实践意义角度看，对于社会大众来说，机器人伦理研究有助于建构起人类与机器人互动的道德观念与道德规范，实现人与机器人的和谐相处；对机器人技术的研发人员来说，机器人伦理设计原则与方法的研究成果，可以为其提供技术研发的伦理依据与理论支撑，而且也有助于加强科技人员的道德责任感、道德想象力与实践能力；对科技管理人员来说，机器人伦理研究成果可以为机器人产业政策的制定提供理论参考。目录数据伦理计算机伦理人工智能伦理12345网络伦理信息伦理机器人伦理6发展历程主要问题基本原则发展历程主要问题信息法律发展历程主要问题发展历程主要问题基本原则治理对策发展历程主要问题基本原则发展历程主要问题治理措施2024/2/1338发展历程3.6人工智能伦理2024/2/1339人工智能伦理渊源时间脉络图机器伦理机器人伦理计算机伦理信息伦理网络伦理数据伦理人工智能伦理1948年1936年1863年1996年2012年2016年1985年发展历程3.6人工智能伦理2024/2/1340人工智能伦理学（Ethicsofartificialintelligence）是针对人工智能系统的应用伦理学的一个分支。人工智能伦理是人类设计、制造、使用和对待人工智能系统的道德，机器伦理中的机器行为，以及超级人工智能的奇点问题。2016年，阿尔法狗赢得人机围棋大战为标志，人工智能伦理由此成为世界各国政府、组织机构以及大型科技企业的人工智能政策的核心内容之一。学者们也对人工智能伦理及相关问题开着了积极广泛的研究和探讨。2016年，IEEE标准协会启动了——伦理自主系统设计的全球行动倡议，旨在从实际需求出发建立社会公认的人工智能伦理标准、职业认证及道德规范。其发布的“人工智能设计的伦理准则”白皮书目前已迭代到第二版。2016年，博诺佛等在《Science》发文“TheSocialDilemmaofAutonomousVehicles”，对自动驾驶汽车的社会困境进行了讨论，指出定义有助于自动驾驶汽车作出道德决策的算法是一项艰巨的挑战。2017年，伯德丁顿出版了首部AI伦理著作《TowardsaCodeofEthicsforArtificialIntelligence》，阐述了如何借鉴其他领域的经验教训制定人工智能伦理规范或其他法规，并介绍了人工智能职业道德的特点。发展历程2017年1月初举行的“BeneficialAI”会议，在此基础上建立起来的“阿西洛马人工智能原则”，名称来自此次会议的地点——美国加州的阿西洛马市，旨在确保AI为人类利益服务。阿西洛马人工智能原则的第6至18条，指出了人工智能的伦理和价值。牛津大学、剑桥大学和OpenAI公司等7家机构于2018年共同发布《人工智能的恶意使用：预测、预防和缓解》，分析了人工智能可能带来的安全威胁并提出应对建议。微软、谷歌、IBM等科技企业制定了人工智能开发的伦理原则，Facebook在2019年初在慕尼黑工业大学建立了AI伦理研究所。3.6人工智能伦理2024/2/13412018年1月，微软发布了《未来计算》（TheFutureComputed）一书，其中提出了开发人工智能的六大原则：公平、可靠和安全、隐私和保障、包容、透明、责任。2018年3月，欧洲科学与新技术伦理组织（EuropeanGrouponEthicsinScienceandNewTechnologies）发布《关于人工智能、机器人及“自主”系统的声明》（StatementonArtificialIntelligence，Roboticsand‘Autonomous’Systems），呼吁为人工智能、机器人和“自主”系统的设计、生产、使用和治理制定共同的、国际公认的道德和法律框架。发展历程2019年2月，中国国家新一代人工智能治理专业委员会成立，并发布《新一代人工智能治理原则——发展负责任的人工智能》。同年4月，国家人工智能标准化总体组发布了《人工智能伦理风险分析报告》。3.6人工智能伦理2024/2/1342中国政府高度重视人工智能产业发展中的伦理问题。2017年7月国务院发布的《新一代人工智能发展规划》，要求“制定促进人工智能发展的法律法规和伦理规范；开展人工智能行为科学和伦理等问题研究；制定人工智能产品研发设计人员的道德规范和行为守则”。在该战略文件中，伦理一词出现15次之多，足见我国对人工智能伦理的高度重视。2018年1月18日，在国家人工智能标准化总体组的成立大会上，《人工智能标准化白皮书2018》正式发布。白皮书论述了人工智能的安全、伦理和隐私问题，认为设定人工智能技术的伦理要求，要依托于社会和公众对人工智能伦理的深入思考和广泛共识，并遵循一些共识原则。2017年11月，腾讯研究院与中国信通院互联网法律研究中心、腾讯AI实验室、腾讯开放平台一起出版了《人工智能：国家人工智能战略行动抓手》一书，书中战略篇、法律篇、伦理篇以及治理篇着重讨论人工智能的社会和伦理影响，呼吁为人工智能的发展和应用制定共同的伦理框架。发展历程3.6人工智能伦理2024/2/13432019年4月欧盟委员会发布《可信赖AI的伦理指导原则》。弗吉尼亚

迪格南在2018年3月的《伦理学与信息技术》杂志上发文指出，人工智能伦理具有如下三个目标：①设计伦理（Ethics

by

Design），伦理推理能力的技术/算法集成，作为人工自主系统行为的一部分；②设计中的伦理（Ethics

in

Design），当人工智能系统整合或取代传统社会结构时，支持分析和评估其伦理影响的监管和工程方法；③为了设计的伦理（Ethics

for

design），确保开发人员和用户在研究、设计、建造、使用和管理人工智能系统时完整性的行为规范、标准和认证过程。2021年11月，联合国教科文组织通过首个全球性的AI伦理协议《人工智能伦理建议书》。2019年6月，美国发布《国家人工智能研究和发展战略规划》提出“理解人工智能的伦理、法律和社会影响，开发用于设计与伦理、法律和社会目标一致的人工智能研发方法。”发展历程2020年至今，学者们陆续出版了一些人工智能伦理方面的学术著作和教材：在国外，马克

柯克伯格的《人工智能伦理》（AIEthics）（2020年），马库斯德克·杜伯、佛兰科

帕斯奎尔和苏尼特

丹斯的《牛津人工智能伦理手册》（TheOxfordhandbookofethicsofAI）（2020年），马修·廖的《人工智能伦理》（Ethicsofartificialintelligence）（2020年），克里斯托夫

巴特内克、克里斯托夫

路特德、阿兰

瓦格纳和肖恩

沃尔什的《机器人和人工智能伦理导论》（AnIntroductiontoEthicsinRoboticsandAI）（2021年）。3.6人工智能伦理2024/2/1344在国内，郭锐出版了《人工智能的伦理和治理》（2020年8月）、杜严勇出版了《人工智能伦理引论》（2020年6月）、陈小平出版了《人工智能伦理导引》（2021年2月）、古天龙出版了《人工智能伦理导论》（2022年8月）。3.6人工智能伦理2024/2/1345机器人通常被认为是人工智能系统的载体，机器人是人工智能的承载者。不是所有的机器人都通过人工智能系统发挥作用，也不是所有的人工智能系统都是机器人。人工智能伦理与机器人伦理相互交叉。机器学习是人工智能的核心技术，机器学习被誉为“算法+算力+数据”。由此，人工智能伦理与数据伦理、网络伦理、计算机伦理、信息伦理具有密切的关系。人工智能伦理源于计算机伦理、网络伦理、信息伦理、数据伦理和机器人伦理。从计算机伦理、信息伦理、网络伦理、数据伦理、机器人伦理到人工智能伦理，有其发展的继承性，有很多相似之处，但也有不同。AI伦理vs机器（人）伦理vs(大)数据伦理vs网络伦理vs信息伦理vs计算机伦理主要问题人工智能的主要伦理问题包括：隐私泄露偏见歧视技术滥用责任归属技术层面主要包括算法及系统的安全问题、可解释性问题、算法歧视问题和算法决策问题。算法及系统的安全问题，主要是指算法或系统的漏洞被攻击和恶意利用的情形；可解释性问题，则主要关注人类的知情利益和主体地位；算法歧视问题，来自算法研究人员的认知偏见或者训练数据集不完美导致的歧视性的决策结果；算法决策问题，则是人工智能自学习导致的不可预见性结果。数据层面人工智能在许多领域获得重大进展依赖于海量数据，人工智能技术的快速发展以及大量应用案例实施，提供了丰富的个人信息收集场景、范围和数量，数据采集日益成为引发人工智能伦理问题的重要原因之一。应用层面人工智能算法的滥用和误用。人们在社会活动时容易出现使用目的、方式、范围等偏差，从而导致不良的影响和后果。3.6人工智能伦理2024/2/1346特朗普团队借助Facebook干预大选虚拟社交网络中的隐私泄露据《纽约时报》和《英国观察家报》报道，剑桥分析公司（CambridgeAnalytica）与2016年特朗普竞选团队合作，在未经用户许可的情况下，CambridgeAnalytica获取了5000名Facebook账号的信息，并将之滥用于2016美国总统大选期间的政治广告，利用个人档案建立起个人信息系统，预测和影响民意的选择，来帮助自己赢得大选。新冠疫情相关人员信息遭泄露2020年1月，新冠疫情期间，近7000多名武汉返乡人员的信息被泄露。不少人在信息遭遇泄露后，被微信骚扰，甚至误认作新冠携带者被人打电话辱骂。2020年2月9日，中央网信办发布了《关于做好个人信息保护利用大数据支撑联防联控工作的通知》，除卫生部门依法授权机构外，任何单位、个人都不得借疫情防控为由未经同意收集个人信息，不得未经被收集者同意公开姓名、年龄、身份证号码等个人信息。智能音箱被爆“偷听”用户隐私2018年8月，一名名叫马丁的智能音箱用户，要求亚马逊给出自己使用的亚马逊智能音箱的语音记录，想不到，亚马逊向他发送相关录音链接时，还发送了一位陌生人的1700个音频文件。这些录音来自另一名男子家中，该男子和一名女性同伴的活动被录了下来，甚至还包括洗澡时音频。也一度爆发了智能音箱“监听门”。现实社交生活中的隐私泄露家居/办公场景中的隐私泄露隐私泄露是指正当的、而又不能或不愿示人的事、物及情感活动等被非法窃取或使用。主要问题3.6人工智能伦理2024/2/1347价格歧视性别歧视种族歧视2019年3月，一位网友称自己疑似被携程“杀熟”。一开始他购买了一张价格为17548元的机票，由于忘记选择报销凭证取消订单重选，但随后发现系统显示无票，再次搜索时价格就变成了18987元。2020年3月，有网友爆料，天猫超市88VIP看到的商品价格居然比普通会员还高。同一款豆奶，88VIP显示的价格为73.3元，非88VIP显示的价格才62.8元。2018年2月，麻省理工学院的JoyBuolamwini发现，IBM、微软和中国公司Megvii的三个最新的性别识别AI可以在99%的情况下准确从照片中识别一个人的性别，但这仅限于白人。对于女性黑人来说，这个准确率会降至35%。在2015年的一项研究中显示，使用Google搜索“CEO”的图片，其中只有11%的人是女性。COMPAS是一种在美国广泛使用的算法，通过预测罪犯再次犯罪的可能性来指导判刑，而这个算法或许是最臭名昭著的人工智能偏见。根据美国新闻机构ProPublica在2016年5月的报道，COMPAS算法存在明显的偏见。根据分析，该系统预测的黑人被告再次犯罪的风险要远远高于白人，甚至达到了后者的两倍。大数据杀熟现象人脸识别、搜素引擎结果存在差异犯罪预测系统判定结果存在差异偏见是指以不正确或不充分的信息为根据而形成的对他人或群体的片面甚至错误的认识和态度。歧视是指由偏见引起的，直接指向偏见目标或受害者的否定性消极行为表现。主要问题3.6人工智能伦理2024/2/1348Uber无人驾驶汽车致人死亡AI造成的事故责任由谁承担？2018年3月，美国当地时间晚上22点，亚利桑那州坦佩市郊区，一辆Uber自动驾驶测试车在由南向北行进过程中，撞上推着自行车在人行道之外横穿马路的49岁女子伊莱·赫兹柏格(ElaineHerzberg)，该女子送医后抢救无效宣告死亡。这是全球首例无人驾驶汽车致死事故。微软小冰的绘画作品通过学习人类历史上236位顶尖画家，在训练22个月之后，微软智能程序“小冰”可以将人类给到的文字转换成一幅全新的、油画质感的艺术图像，完成艺术创作。此外，小冰通过学习519位中国现代诗人而习得了写诗，而微软为了测试其写诗能力，曾化名将小冰生成的诗篇投稿给文学社、诗歌竞赛；藏身在网易云音乐的评论区，假扮热心网友；或是当电台的实习主播，朗读一段文字……拥有公民身份的Sophia机器人索菲亚（Sophia）是由香港汉森机器人技术公司（HansonRobotics）开发的类人机器人。2017年10月26日，沙特阿拉伯授予索菲亚公民身份。索菲亚的创始人DavidHanson曾经问索菲亚：Doyouwanttodestroyhumans?Pleasesayno.而索菲亚的回答是：OK.Iwilldestroyhumans.AI“作品”的著作权归谁？机器人是否该成为道德主体？责权归属是指责任与权利的合理界定与划分。主要问题3.6人工智能伦理2024/2/1349人脸数据被过度采集人脸识别技术滥用中央网信办、工信部、公安部、市场监管总局四部门联合成立的App专项治理工作组2020年发布的《人脸识别应用公众调研报告》显示，在2万多名受访者中，94.07%的受访者用过人脸识别技术，64.39%的受访者认为人脸识别技术有被滥用的趋势，30.86%的受访者已经因为人脸信息泄露、滥用等遭受损失或者隐私被侵犯。Deepfake当Deepfake在2017年首次流行起来时，绝大多数被用于在互联网论坛上生成名人的假色情作品。即使在2019年，根据公司Sensity所做的调查，96%的公开发布的Deepfake都是色情内容。各种各样的创作者将Deepfake应用于声音、图像、视频等各种形式的媒体。例如，在Y