《人工智能伦理导论》课件第3章算法伦理

第三章算法伦理学习和理解算法伦理含义及产生原因。理解算法伦理的主要问题。理解深度学习与大数据结合应用产生的伦理问题的根源。本章学习要点数据伦理问题主要是由于大数据技术应用而产生的，算法伦理问题则是人工智能算法与大数据结合之后而产生的，尤其是深度学习算法与大数据结合并大规模应用而产生的。算法伦理问题主要涉及算法不透明（黑箱）、算法模型及算法决策等方面的问题。本章在学习和理解算法伦理的含义及算法应用引发的伦理问题的基础上，更要注意理解算法伦理背后的本质问题，即功利主义的人类价值观在算法中以何种方式体现的问题。学习导言1.什么是计算“计算”是一个基本的数学概念。简单地说，就是符号串的变换。从一个习惯性右的符号串开始，按照一定的规则，一步一步地改变符号串，经过有限步骤，最后得到一个满足预先规定的符号串，这种变换过程就是计算。数学家们已经证明，凡是可以从某些初始符号串开始在有限步骤内得到计算结果的函数都是一般递归函数，或者说，凡是可计算的函数都是一般递归函数。3.1计算与算法2.算法从最广泛的意义上讲，算法是通过将输入数据转换为所需输出来解决问题的编码程序。对计算机而言，算法或程序的执行和操作就是计算。算法广泛嵌入到社会生产、生活中的各个环节，其基础是能够对数据进行程序化、自动化处理而获得知识并做出决策的智能算法。人工智能各种实际应用主要依赖于各种算法，因此，算法产生的伦理问题是其中的核心议题，由此带来的挑战和风险也必须引起人们的重视和思考。3.1计算与算法机器学习与人类学习的类比3.2机器学习与深度学习机器学习与人类学习思考的类比3.2机器学习与深度学习前向人工神经网络卷积深度神经网络用于识别图像3.2机器学习与深度学习卷积深度神经网络各种算法貌似客观，但不论是分类还是标注都会受到算法设计和数据分析的主导者的价值取向的影响，即便是所谓的“用数据说话”也往往隐含着某些人类的价值选择或意向。2015年，美国谷歌公司的照片错误地将黑人的照片贴上了“大猩猩”的标签。算法伦理主要指以深度学习为主的各种人工智能算法在处理大数据时产生伦理问题。随着深度学习技术在大数据应用方面的显著成效以及暴露出的各种问题而受到关注。3.3算法伦理与算法伦理问题3.3.1算法伦理含义但在算法高效地执行各种任务时，由于数据样本存在偏差，被存在偏差的样本训练完的算法运用到现实中时，就可能出现对于人或事物决策偏差或错误判断，从而造成“歧视”等问题。一些语音识别软件在识别女性的声音时往往性能表现较差，因为训练样本可能包好较多的男性声音特征。国外的一些面部识别软件在识别黑人面孔时，不像识别白人那样简单，因为训练样本可能包含较多的白人脸部特征。3.3算法伦理与算法伦理问题3.3.2算法歧视由算法歧视产生后果之一就是偏见。人工智能算法容易将人类偏好差异性的放大。这些偏好很有可能通过算法开发被扩大为“偏见”。防止算法偏见较好的算法是让对抗偏见的规则或对策成为人工智能系统的一部分，在系统开发初期阶段就避免偏见问题。3.3算法伦理与算法伦理问题3.3.3算法偏见2018年12月，谷歌旗下的视频社交网站YouTube被指出向客户推送极端主义、假新闻等内容。这些算法对人们的思维意识形态形成潜移默化的影响，人类在满足消费、猎奇、社交欲望的同时，不知不觉受到算法的控制，实际上是受到算法背后的平台公司的控制。当算法渗透到社会生活的各方面，人对它的依赖成为惯性，人对算法带来的囚禁也可能会越来越浑然不觉。算法一方面在促成人的某些能力的解放与扩张，另一方面又用某些方式实现着对人们的禁锢。案例：算法控制外卖骑手。3.3算法伦理与算法伦理问题3.3.4算法控制深度伪造技术对一些人物的脸部进行控制处理，可以播放他们从未播放的假新闻或发表从未发表过的讲话。3.3算法伦理与算法伦理问题DeepFake变脸技术3.3.5算法欺骗算法自主性是指算法在执行数据分析、决策等任务过程中，一定程度上脱离了人类的监管而自动给出结果。算法自主性问题主要有两方面：一是算法在何种意义上可以被称之为自主的。二是这种自主性会产生什么样的伦理问题。3.3算法伦理与算法伦理问题3.3.6算法自主性造成的不确定风险算法自主性造成的不确定性容易导致人们的信任危机。算法的信任危机包含人们由于算法不透明性而产生的不信任感和对算法分析数据后产生的知识本身的不信任感。3.3算法伦理与算法伦理问题3.3.7算法信任危机算法的评分机制是把人们对规则执行的结果量化出来。评分机制可以帮助汇集社会主体的日常活动，形成公意并强制执行。算法评分不仅为管理机构的监控提供了支持，也为人们之间的相互评价、监督提供了基础。但不可否认的是，它可能形成对个人隐私的侵犯以及对算法控制权的滥用。2020年某地方政府提出的“文明码”等之所以受到质疑，也在于其试图滥用管理权力，通过算法入侵道德评价这样的私人空间。3.3算法伦理与算法伦理问题3.3.8算法评价滥用3.3算法伦理与算法伦理问题深度学习算法对蒙娜丽莎的再创作3.3.9算法对人的认知能力影响从2012年到2018年，深度学习计算量增长了3000倍。最大的深度学习模型之一GPT-3单次训练产生的能耗相当于126个丹麦家庭一年的能源消耗，还会产生与驾驶700000公里相同的二氧化碳排放量。深度学习训练的过程同时也是一个耗能的过程。深度学习的程序设计者不仅要关心算法的性能和效益，还应该关心其能耗问题。3.4深度学习算法的环境伦理个人提高算法素养建立算法监管机制3.5算法伦理问题应对算法伦理含义、算法伦理主要问题。深度学习对超级算力的需求带来的环境伦理问题。