人工智能应用概论（第2版） 课件 第十章：人工智能的展望与争论

第十章人工智能的展望与争论

《人工智能应用概论（第2版）》RengongZhinengYingyongGailun“十四五”广西壮族自治区职业教育规划教材

新编21世纪高等职业教育精品教材·通识课系列Part0101人工智能国内发展形势Part0202人工智能国际发展形势Part0303人工智能与道德目

录contentPart0404人工智能与法律【案例导入】电影《机械公敌》内容概要：警探戴尔·斯普纳接手了此案的调查。由于不愉快的往事，斯普纳对机器人充满了怀疑，不相信人类与机器人能够和谐共处。他根据对朗宁博士生前在3D投影机内留下的信息分析和对自杀现场的勘查，将怀疑对象锁定为朗宁博士自己研制的NS-5型机器人桑尼，而公司总裁劳伦斯·罗伯逊似乎也与此事有关。Part01人工智能国内发展形势10.1.2人工智能国内发展形势我国人工智能发展现状可以用“高度重视，态势喜人，差距不小，前景看好”来概括。未来十几年我国人工智能发展的宏伟蓝图，明确到2030年人工智能理论、技术与应用总体达到世界领先水平，成为世界主要人工智能创新中心。10.1.1人工智能国内发展形势-国家高度重视习近平在党的十九大、2018年两院院士大会、全国网络安全和信息化工作会议、十九届中央政治局第九次集体学习、党的二十大等场合多次强调要加快推进人工智能的发展。2017年7月，国务院发布《新一代人工智能发展规划》，将新一代人工智能放在国家战略层面进行部署，描绘了面向2030年的我国人工智能发展路线图。国家发改委、工信部、科技部、教育部等国家部委和北京、上海、广东、江苏、浙江等地的地方政府都推出了发展人工智能的鼓励政策。10.1.1人工智能国内发展形势-中国人工智能发展规划国务院印发《新一代人工智能发展规划》提出六个方面重点任务：一是构建开放协同的人工智能科技创新体系，从前沿基础理论、关键共性技术、创新平台、高端人才队伍等方面强化部署。二是培育高端高效的智能经济，发展人工智能新兴产业，推进产业智能化升级，打造人工智能创新高地。三是建设安全便捷的智能社会，发展高效智能服务，提高社会治理智能化水平，利用人工智能提升公共安全保障能力，促进社会交往的共享互信。四是加强人工智能领域军民融合，促进人工智能技术军民双向转化、军民创新资源共建共享。五是构建泛在安全高效的智能化基础设施体系，加强网络、大数据、高效能计算等基础设施的建设升级。六是前瞻布局重大科技项目，针对新一代人工智能特有的重大基础理论和共性关键技术瓶颈，加强整体统筹，形成以新一代人工智能重大科技项目为核心、统筹当前和未来研发任务布局的人工智能项目群。10.1.3人工智能国内发展形势-产业链从产业链来看，人工智能产业可分为基础层、技术层和应用层三层。产业链上游解析：基础层提供数据资源、硬件设施以及计算力平台等一系列基本支持。具体来看，基础层包括人工智能芯片、传感器、大数据及云计算等，其中大数据与智能传感器的主要任务是数据采集，AI芯片与云计算则负责数据分析与运算，技术门槛较高，生态搭建已基本成型。10.1.3人工智能国内发展形势-产业链产业链中游解析：技术层是AI产业发展的核心，包括通用技术、AI技术框架以及算法模型等。这一层级依托于海量数据的挖掘处理与机器学习建模，来进行各种应用技术的开发，从而解决实践中的具体类别问题。计算机视觉、自然语言处理、语音识别、机器学习、深度学习、知识图谱为这一层级的代表性技术。优势企业如谷歌、亚马逊、Facebook加快部署机器学习、深度学习底层平台，建立产业事实标准。10.1.3人工智能国内发展形势-产业链产业链下游解析：应用层是人工智能技术在各不同场景下的商业化应用。人工智能已在金融、教育、交通、医疗、家居、营销等多垂直领域取得较大发展；与此同时，智能终端、模型预测控制、推荐系统、定位与地图构建等服务层面及自动驾驶汽车、无人机、智能机器人、智能语音助手等人工智能产品发展迅速。Part02人工智能国际发展形势势10.2.1人工智能国际发展形势随着人工智能技术的进一步成熟以及政府和产业界投入的日益增长，全球人工智能产业规模在未来10年将进入高速增长期，可在现有基础上将劳动生产率提高40%。到2030年，约70%的公司将釆用至少一种形式的人工智能，人工智能新增经济规模将达到13万亿美元。到2035年，美、日、英、德、法等12个发达国家的年均经济增长率可以翻一番。2016年10月，美国国家科学技术委员会发布《国家人工智能研究与发展战略计划》。2018年4月，欧盟委员会计划2018—2020年在人工智能领域投资240亿美元；法国总统在2018年5月宣布《法国人工智能战略》，目的是迎接人工智能发展的新时代，使法国成为人工智能强国；2018年6月，日本《未来投资战略2018》重点推动物联网建设和人工智能的应用10.2.2中美人工智能比较供给面（1）中国政府在供给面政策工具的使用上较为均衡。科学与技术开发方面主要集中在加快建立新一代人工智能基础理论体系和关键共性技术体系;教育与训练方面的核心主要是加快培育聚集人工智能高端人才和加强人工智能劳动力培训。（2）美国在供给面主要侧重于科学与技术开发政策工具的使用，具体政策措施包括提升基于数据发现知识的能力及人工智能系统的感知能力、开发可扩展的人工智能系统、寻找人类感知人工智能的新算法、开发可视化和人机界面技术等。10.2.2中美人工智能比较环境面（1）中国在环境面的政策制定中，法规与管制方面，在知识产权保护、优化人工智能领域的法律框架和监督评估体系等方面都有涉及。在政策性策略方面，主要是统筹布局人工智能创新平台、加强人工智能领域军民融合，以及布局新一代人工智能重大科技项目。（2）美国环境面政策工具注重法规与管制的使用，主要包括相关标准的制定，例如开发广泛应用的人工智能标准、制定人工智能技术的测试基准，以及促进人工智能社群参与标准和基准的制定等。10.2.2中美人工智能比较需求面（1）对于中国而言，需求面将主要精力投入在了公共服务和贸易管制上。首先通过构建安全高效的智能化基础设施体系，以满足国内人工智能产业发展中对于某些基础设施的需求;其次是形成适应人工智能发展的制度安排，构建开放包容的国际化环境，夯实人工智能发展的社会基础。（2）美国在需求面倾向于公共服务政策工具的使用，主要包括三个方面，首先是通过提高人工智能的可解释性、透明性以及信任度;其次是增强其可验证性与可确认性，保护其免受攻击;最后则是实现长期的人工智能安全和优化，开发满足多样化人工智能兴趣与应用的丰富数据集。10.2.2中美人工智能比较整体比较。中国主要是从技术研发、产业应用、政府政策保障等方面做出部署，侧重于技术发展对行业带来的经济影响;而美国则侧重于人工智能对社会可能带来的风险，并就政府资助研发和就业保障两个方面进行了另行专题规划。中国政策工具使用频次前三位依次是“公共服务”（25%）、“政策性策略”（21%）、“贸易管制”（13%），政策内容强度依次为环境面（42%）、需求面（38%）、供给面（20%），表明政府产业创新政策重在通过扩大投入、刺激需求来推动产业发展。美国人工智能政策工具使用频次前三位依次是“科学与技术开发”（45%）、“法规与管制”（24%）、“公共服务”（21%），政策内容强度依次为供给面（52%）、环境面（28%）、需求面（20%），表明美国人工智能市场环境较为成熟，政府产业政策重在刺激研发、引导和规范。Part03人工智能与道德10.3.1人工智能机器的道德主体地位的思考以下问题涉及对人工智能机器的道德主体地位的思考，这些都是随着人工智能的发展而引发的伦理问题：根据人工智能的现有规模和发展速度，人工智能或许在未来能够发展出具有自我意识的智能产品，这些人类制造出来的智能机器是否也该被赋予与人类同等的权利和地位呢？当这些智能机器也具备了与人类高度相似的感知能力、情感水平的时候，是否会威胁到人类的自身利益呢?如果人工智能产品出现了伤害人类的情况，或者有以造成人类伤亡为目的的人工智能产品出现，责任主体是人还是机器呢？美国警方曾经出动杀人机器人击毙犯罪嫌疑人，机器人是否有权剥夺人类生命呢？人工智能该有、能有怎样的道德地位？当人工智能机器具有自我意识甚至能够模仿人的感情以后，机器是否有自制能力呢？10.3.1智能主体人工智能学家引入了“智能体”（Agents，又称“智能主体”）的概念来定义人工智能：一般而言，人工智能及智能自动系统能根据人的设计自动地感知或认知环境（包括人），并执行某些行动，还可能具备一定的人机交互功能，甚至可以与人“对话”，常常被看作具有一定自主性和交互性的实体。“智能体”使人工智能系统更为明晰地呈现为可以模拟和替代人类的理性行为，因其可与人类相比拟乃至比肩，故可视之为“拟主体”，或者说智能体具有某种“拟主体性”。在人们赋予智能体以拟主体性的同时，会自然地联想到，不论智能体是否像主体那样具有道德意识，它们的行为可以看作与主体伦理行为类似的拟伦理行为。但是，能不能运用智能算法对人工智能体的拟伦理行为进行伦理设计？尚未得到解决答案。10.3.2情感伦理问题面对如此多的伦理问题，我们要如何发展或者改进现有的伦理理论体系，使之更好地适应人工智能的发展，既要人工智能更好地服务于人类，又要限制其负面效应，这是人工智能发展面临的巨大挑战。人工智能越来越像人，人类对机器有了感情怎么办？人类是否会与人工智能产生感情，将取决于这种过程是否给人类带来愉悦。当人类在不知道沟通者的身份时，只要对方能够给自己带来愉悦，感情就可能产生。例如：未来，知识型的人工智能可以回答人们能够想到的很多问题，从而导致个体学习方式、生活方式乃至社会化模式的变革。假如人与人工智能出现类夫妻、亲子等情感，将考问现代伦理规范。如果社会主流意见认为这种关系符合伦理，人们可能倾向于以类似于夫妻、亲子之间的伦理准则来调节二者之间的关系；10.3.3社会安全和公平正义问题人工智能机器人工作效率高、出错率低，且维护成本低，但存在公平正义问题：（1）Northpointe公司开发的预测罪犯二次犯罪概率的人工智能系统的算法，因为黑人的概率远远高于其他人种而被指带有种族偏见倾向；（2）上海交通大学利用唇曲率、眼内角距以及口鼻角度等的面部识别系统可以预测某些人具有犯罪倾向，但被质疑存在偏见。（3）在2016年“世界首届人工智能选美大赛”上，基于“能准确评估人类审美与健康标准”的算法的机器人专家组对人类面部进行评判，由于未给人工智能提供多样的训练集，比赛的获胜者都是白人，这说明机器人审美也存在人种歧视的现象。社会公正是和谐社会的本质和基石，因为算法输入者或者人工智能设计者的问题却会导致一些新的社会伦理问题出现。10.3.4智能时代的数字鸿沟当今世界，由于生产力不均衡、科技实力不平衡，人们的素质和能力参差不齐，不同国家和地区间的信息化、智能化水平存在差距，智能时代的数字鸿沟作为社会现实的写照不容小觑。随着智能技术的不断推进，大量的“数字贫困区域”和“数字穷人”出现，形成残酷的竞争环境，使得原有的贫富差距逐渐加剧。智能时代的数字鸿沟潜移默化地影响了未来社会发展的和谐与公正。如果先进的人工智能技术掌握在少数发达国家和地区手中，并未对全人类的福祉做出应有的贡献，则有可能进一步导致社会矛盾的产生，加剧社会阶层的分化，形成破坏社会秩序的危害因素。Part04人工智能与法律教学内容4：人工智能与法律10.4.1数据收集、使用和安全目前人工智能基本都会涉及机器学习技术，这意味着需要收集、分析和使用大量数据，其中很多信息由于具有身份的识别性（包括结合其他信息识别身份），属于个人信息。按照个人信息保护方面的法律规定，这些行为应当取得用户明确、充分且完备的授权，并应当明确告知用户收集信息的目的、方式手段、内容、留存时限还有使用的范围等。案例1：Facebook就曾因其人脸识别和标记功能未按美国伊利诺伊州《生物信息隐私法案》（BIPA）要求告知用户收集面部识别信息的期限和方式被诉，随后Facebook又因采集面部特征前未能明确提醒用户并征得用户同意而遭到爱尔兰和德国有关部门的调查。案例2：2016年美国阿肯色州发生的一起刑事案件中，警方希望获取亚马逊Alexa语音助手收集的语音数据，该请求遭到了亚马逊公司的拒绝，理由是警方没有出具有效的法律文件。但此后这种例子层出不穷10.4.2数据收集、使用和安全人工智能在应用中，往往需要利用数据训练算法。如果输入的数据代表性性不足或存在偏差，训练出的结果可能将偏差放大并呈现某种歧视特征。案例1：谷歌创建的广告定位算法可能存在对互联网用户的性别歧视。在搜索20万美元薪水的行政职位中，假冒男性用户组收到1852个广告，而假冒女性用户组仅收到318个广告。案例2：2016年3月23日，微软公司的人工智能聊天机器人Tay上线不到24小时，就在一些网友的恶意引导和训练下，发表了各种富有攻击性和歧视性的言论10.4.3事故责任和产品责任和其他技术一样，人工智能产品也有事故和产品责任的问题，但要分清是人为操作不当还是人工智能的缺陷并没有那么容易，举证尤其困难。例如汽车的自动驾驶功能在国内外都曾因发生交通事故而被质疑其安全性。然而，并非只要安装了人工智能，用户使用产品受到的损害就都属于人工智能的责任。相关功能与损害后果之间是否存在因果