《人工智能中算法的危害及原因分析》8000字

人工智能中算法的危害及原因分析目录TOC\o"1-2"\h\u8935人工智能中算法的危害及原因分析 195561算法危害的表现形式 1180531.1信息茧房 134481.2算法杀熟 233861.3算法黑箱 3213981.4算法共谋 495482算法造成危害的原因分析 683772.1算法自身的隐蔽性和复杂性 6327562.2算法的监管机制不健全 7174522.3算法伦理的缺失与不足 937102.4对“技术中立”原则的不当引用 101算法危害的表现形式凡事皆有利弊。算法的快速发展代表了科技的进步和生产力的提升，也提高了社会分配效率，但算法的不当使用也让许多民众深受其害。本节拟选择如今社会中比较典型的“信息茧房”、算法杀熟、算法黑箱和算法共谋四种算法侵害行为，阐述其表现形式以及带来的不良后果。1.1信息茧房信息茧房，最早由CassR.Sunstein提出，CassR.Sunstein.Infotopia2006指的是在通讯领域，人们往往倾向于去阅读和搜索自己感兴趣的东西，而不去关注那些无法引起自身兴趣的事情，但日复一日，用户们选择接受的信息面就会越来越狭窄，长此以往就会像蚕蛹一样作茧自缚，把自己包裹起来而不与外界相联系。朱立波.《新媒体的“信息茧房”现象研究》［J］《智富时代》2019，（0CassR.Sunstein.Infotopia2006朱立波.《新媒体的“信息茧房”现象研究》［J］《智富时代》2019，（01）参见付松聚.《从8月CPI报道看机器新闻与人工新闻差异何在》，［J］《中国记者》2015，（11）吴小玉.在算法“黑箱”中保障用户知情权［J］.《传媒与法》，2019，（07）：28-29在21世纪的今天，信息的价值日益巨大，一个人掌握的信息越充分，其在进行人生道路选择和实现个人价值时则越能处于有利地位，在做出一些行为选择时也会更加合理化。然而大众参与舆论的方式因为自媒体出现而带来了巨大的变化。一时间，成为记者的门槛全无，每个人都可以自己注册公众号，发表言论，畅所欲言，并且算法编辑审核并不严格，进而加深了算法的危害。如今广泛应用的协同过滤算法就是根据大量相似用户的选择来预测用户可能会喜欢的文章、书籍甚至是未来的领导人。这小小行为的背后，轻则导致群体分极，重则阻碍社会共识甚至影响民主的进程。朱立波.《新媒体的“信息茧房”现象研究》朱立波.《新媒体的“信息茧房”现象研究》［J］《智富时代》2019（01）另外，信息茧房还体现在算法按照收集到的用户习惯路径自动推送与此相关的信息，例如曾经搜索过“茶叶”，那么算法就会不断向我们提供与茶叶有关的信息。想要突破该视域有新的了解，就要经过一轮一轮的重新检索，让算法中我们产生的新路径覆盖旧的路径，然而新的路径又会造成个人视域的限制。传统纸质媒体呈现的信息是多元的，其报道涵盖政治、体育、娱乐、健康等各个领域，而算法则让这种多元趋于单一，长此以往，难道不是一种倒退吗？1.2算法杀熟算法杀熟是指算法根据用户以往累积的路径和消费习惯，在预计用户可承受范围内定价，形成同一件商品不同标价的情况，并且低频使用用户以及新用户的定价往往低于高频使用用户的定价。随着媒体的跟踪报道，越来越多的“杀熟”事件曝光在大众面前，也引起了不少的社会争议。在数据被广泛收集的今天，对数据的收集和加工让平台对消费者更加了解，平台不仅可以实施动态定价，获取更高的利润，也更能够形成行业垄断，以至于影响正常的市场竞争。长此以往，杀熟行为会被看成合理的逐利行为，甚至会成为商家暗中炫耀的资本。平台通过软件对消费者产生的数据进行实时获取，不断地收集用户们的信息，例如可接受的消费范围、个人习惯偏好、购买产品的个人倾向性等信息，然后模拟未来可能产生的消费行为，再根据差异化的定价，实现点对点的精准投放营销，这些就是我们所熟悉的消费领域里典型的算法杀熟行为。从根本上说，算法杀熟源于算法偏见。2018年闹得沸沸扬扬的滴滴打车软件差别定价应该是第一起被公众曝光并引来强大舆论批判的算法杀熟事件。在滴滴平台使用的算法中，苹果手机用户被视为有能力承担更高消费的人群，因此同样的路程，安卓用户的打车费用居然比苹果用户低得多。兰亚妮、郑晋鸣：《让人工智能更有温度》［N］《光明日报》2019年1月28日，第4版然而，这只是一系列算法杀熟事件的开端：2019年携程被发现同一航班对不同用户差别定价，2020年天猫超市也被发现差别定价，接踵而至的杀熟事件一次又一次地将以往公众所信任的知名企业拽入诚信危机的漩涡，也让公众对算法的运行产生了不信任感。兰亚妮、郑晋鸣：《让人工智能更有温度》［N］《光明日报》2019年1月28日，第4版段泽孝：《人工智能时代互联网诱导行为的算法规制》［J］《江西社会科学》2019，（02）个人数据算法设计者和拥有者广泛地收集用户的兴趣爱好、生活习惯、消费水平以及个人隐私，这些数据都被赤裸裸地曝光在平台和数据收集者的面前，这对于每一个公民而言无疑都是恐怖的，其后果不仅仅是造成算法杀熟或者区别定价那么简单，倘若有朝一日，个人基因信息也可以被随意地收集并分析，许多行业将会成为公民个人无法与之对抗的强大力量，例如保险行业，如果公民的个人基因和家族疾病等相关信息被收集整合，并且通过精确分析个人的身体状况来制定不同的保险价格，那么人们将失去对于未来不确定性的防范。大数据确实带来了效率的提升，但其正当性和公平性的基础很难得到充分证明。况且机器也有出差错的时候，包括算法偏见等问题不断出现。另外，算法的拥有者还可能利用算法进行交易，获取并贩卖他人信息，或者追逐利益等，以致损害人们的权利甚至生命健康。在整个互联网视域下，算法产生的问题可远不止算法杀熟那么简单，杀熟仅仅是冰山一角，但杀熟源自算法，所以，对算法进行规制是解决大数据杀熟的必由之路。1.3算法黑箱算法黑箱指的是人工智能算法不公开透明。邢会强：《人工智能时代的金融监管变革》，［J］《探索与争鸣》2018，（10）：21所谓黑箱，字面上的含义，就是不透明的箱子。算法黑箱，则是指的那些无法通过外部观察了解内部的运作原理和结构的系统，在人工智能系统输入端与输出端，存在着人们无法洞悉的部分。许可：《人工智能的算法黑箱与数据正义》，［J］《社会科学报》2018年3月29日，第6版算法黑箱是现阶段社会热议话题，机遇与挑战并存，同时，算法黑箱也对法律提出了更高的要求，法学界也在对如何规制算法展开如火如荼地讨论。吴汉东：《人工智能时代的制度安排与法律规制》，［J］《法律科学（西北政法大学学报）》2017年9月因为算法的存在，以往粗放式的营销如今变得精准投放，即针对不同用户的特点，使用不同的营销方式，根据不同用户的不同需求，精准推送广告推销信息引导消费。这一原理也被运用到各种领域，甚至是国家大选。2016年剑桥分析孙宝云、李艳、齐巍：《网络安全影响政治安全的微观分析——以“剑桥分析”事件为例》，[J]《保密科学技术邢会强：《人工智能时代的金融监管变革》，［J］《探索与争鸣》2018，（10）：21许可：《人工智能的算法黑箱与数据正义》，［J］《社会科学报》2018年3月29日，第6版吴汉东：《人工智能时代的制度安排与法律规制》，［J］《法律科学（西北政法大学学报）》2017年9月孙宝云、李艳、齐巍：《网络安全影响政治安全的微观分析——以“剑桥分析”事件为例》，[J]《保密科学技术》.

2020，（04）：27-34付松聚：《从8月CPI报道看机器新闻与人工新闻差异何在》，［J］.《中国记者》2015，（11）穆琳《“剑桥分析”事件“算法黑箱”问题浅析》[J]中国信息安全2018，（04）：92~941.4算法共谋2015年美国田纳西大学的MauriceE.Stuckle教授和英国牛津大学的ArielEzrach教授，首次提出“算法共谋”这一概念，阿里尔·扎拉奇(ArielEzrachi)、莫里斯·E.斯图克(MauriceE.Stucke)：《算法的陷阱》[M]余潇译中信出版社,2018.将其定义为反垄断法领域中部分经营者的共谋行为，余正峰《大数据时代算法共谋的反垄断规制研究》[D]安徽财经大学2020年阿里尔·扎拉奇(ArielEzrachi)、莫里斯·E.斯图克(MauriceE.Stucke)：《算法的陷阱》[M]余潇译中信出版社,2018.余正峰《大数据时代算法共谋的反垄断规制研究》[D]安徽财经大学2020年张进《大数据背景下关于算法共谋反垄断规制研究》[J]淮南职业技术学院学报.

2020（02）:143-145［美］罗伯特C.马歇尔、［美］莱斯利M.马克思：《共谋经济学———卡特尔与串谋竞标》，蒲艳、张志奇译，吴汉洪校，人民出版社2015：100-128虽然算法可以提升分配效率，但不可因小失大，只注重效率提升而忽视了算法共谋带来的扰乱市场竞争秩序等负面影响。算法的设计者和拥有者即使没有进行意思联络时，但其开发设计的算法却能根据市场动态，与其他同行业者实现排除竞争效果的市场行为，既破坏了市场秩序，又损害了消费者的权益。殷继国、沈鸿艺、岳子祺：《人工智能时代算法共谋的规制困境及其破解路径》[J]殷继国、沈鸿艺、岳子祺：《人工智能时代算法共谋的规制困境及其破解路径》[J]华南理工大学学报(社会科学版).2020,22(04)：33-41但在实践中，利用法律规制算法共谋行为却遭遇重重阻碍。首先，算法共谋主体责任难以确定。算法本质上是一种计算机程序，法律上如何确定其人格属性，就已经是一个较大的争议点。通常商家之间进行算法共谋，会以算法作为媒介，设计出带有自己明显意图的算法程序，不论是监视竞争者价格变化也好，还是向竞争对手释放迷惑信息也罢，总之把算法当成达到特定目的的工具。通过算法向竞争对手派发用以达到其不正当竞争目的的信息，然后再借助“技术中立”原则等为托词，逃避法律责任。其次，客观要件难以证明。《反垄断法》中要求实施垄断行为的参与方之间要存在意思联络，但很显然，算法共谋中的合谋却缺乏意思联络这一要件。算法自动预测市场价格变化走向，然后做出相应的价格调整，看似无害，但归根到底，这种程序还是添加了人为意志。这无形之中反而方便了多个商家无需意思联络却能形成价格垄断行为。在此情形下，价格垄断是否依然构成垄断协议是值得深思的问题。最后，根据马克思主义辩证法的观点，笔者认为，任何事物都具有两面性，虽说目前的主流观点也好，舆论导向也罢，对算法共谋的评价都偏向于消极负面，甚至主张将其认定为违法行为，但我们也可以换个角度考虑，比如算法共谋行为下衍生出的算法程序，是否也在一定程度上促进了行业的进步与发展，或者说让消费者坐收渔利？因为在行业内算法共谋行为的影响下，商家会用价格优势吸引顾客，就像电商的兴起，虽然冲击了一大批实体经济，但价格不断下降以至于接近生产成本，还是让消费者坐收渔利。在国内，像阿里巴巴、百度这样的互联网龙头企业，在利用大数据提升自身竞争力的同时，也在客观上促进了数字技术的快速发展，在加剧了行业竞的同时也起到了推动整个互联网行业快速发展的目的。张进《大数据背景下关于算法共谋反垄断规制研究》[张进《大数据背景下关于算法共谋反垄断规制研究》[J]淮南职业技术学院学报.

2020，（02）：143-1452算法造成危害的原因分析分析完算法的危害表现，本节拟从算法自身技术运行角度、算法外部监管角度和算法平台的不合理使用等多方面分析造成上述危害的原因，以便为我国算法的法律规制提出针对性建议。2.1算法自身的隐蔽性和复杂性算法作为一种人工编纂的指令，本身就有其复杂性，因为一个算法的成功缔造，不仅需要付出极大的时间成本，更加需要许多技术高超的程序员们的精密设计。算法主体是具备特定的职业技术能力，直接参与算法研发、算法衍生产品的制造和生产等具体实践活动的自然人、法人或相关组织，包括算法的控制者和处理者，算法主体对算法的研发和升级起着主导和关键作用。金梦金梦《立法伦理与算法正义——算法主体行为的法律规制》[J]政法论坛.2021年1月第39卷第1期：30-402.2算法的监管机制不健全马克思主义辩证法认为，事物的结果均由内因和外因两方面造成，因此在分析完算法自身复杂性和隐蔽性的原因之外，我们不妨也从外部找寻算法造成危害的原因。笔者认为，算法之所以带来各种危害，不仅仅是由于运行不规范，更重要的原因在于外部没有合理且强有力的机制和法律规范指引其正常运行。因此，建立合理有效的算法监管机制十分必要。我们常会遇到这样的情况：在下载新软件、注册新用户的时候，填完所有的个人信息，最下方往往会出现所谓的“隐私保护条例”，这看似是平台在征求个人的意见，但实际上若不选择同意，用户则无法进行下一步的操作。用户的“被迫妥协”使得隐私保护条例被大量虚置。同时，个人用户大多缺乏必要的专业知识，无法有效地利用个人权利与之对抗。曾有许多人对这个问题进行过探讨，得出的结论是即使提高了算法运行透明度，也向用户告知了相应的权利，但普通人没有应对的方法。因此，迫切需要成立监督和管理算法的行政部门。我国颁布的《新一代人工智能发展规划》白皮书中，对人工智能的监管提出了提升透明度的要求，称要建立健全公开透明的人工智能监管体系。王海霞.人工智能时代算法新闻的版权保护机制研究［J］.出版发行研究，2王海霞.人工智能时代算法新闻的版权保护机制研究［J］.出版发行研究，2020,(02)：46-50反观国外，许多国家早已意识到仅仅依靠行业自律无法保障算法的规范运行，因此建立起了各类机构以实现对算法的外部监管。例如，美国针对劳工频繁受到算法侵害的问题设立了美国平等就业机会委员会，该机构主要着力于帮助劳工在招聘阶段免受算法的歧视，只要发现招聘信息中有涉及种族、性别、年龄等倾向的信息，该招聘就会被认定为违法，而不论该信息对于招聘结果是否产生影响。郑智航徐昭曦《大数据时代算法歧视的法律规制与司法审查郑智航徐昭曦《大数据时代算法歧视的法律规制与司法审查以美国法律实践为例》[J]比较法研究2019，（04）：111—122郑智航徐昭曦《大数据时代算法歧视的法律规制与司法审查以美国法律实践为例》[J]比较法研究2019，（04）：111—122目前，我国相继出台了《中华人民共和国数据安全法（草案）》、《中华人民共和国网络安全法》，也制定了《数据安全管理办法》（以下简称“办法”）。除了办法第二十三条《数据安全管理办法》第二十三条：网络运营者利用用户数据和算法推送新闻信息、商业广告等，应当以明显方式标明“定推”字样，为用户提供停止接收定向推送信息的功能；用户选择停止接收定向推送信息时，应当停止推送，并删除已经收集的设备识别码等用户数据和个人信息。网络运营者开展定向推送活动应遵守法律、行政法规，尊重社会公德、商业道德、公序良俗，诚实守信，严禁歧视、欺诈等行为。和第二十四条参见《数据安全管理办法》第二十四条：网络运营者利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息，应以明显方式标明《数据安全管理办法》第二十三条：网络运营者利用用户数据和算法推送新闻信息、商业广告等，应当以明显方式标明“定推”字样，为用户提供停止接收定向推送信息的功能；用户选择停止接收定向推送信息时，应当停止推送，并删除已经收集的设备识别码等用户数据和个人信息。网络运营者开展定向推送活动应遵守法律、行政法规，尊重社会公德、商业道德、公序良俗，诚实守信，严禁歧视、欺诈等行为。参见《数据安全管理办法》第二十四条：网络运营者利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息，应以明显方式标明“合成”字样；不得以谋取利益或损害他人利益为目的自动合成信息参见《中华人民共和国网络安全法》由此可以看出，在国外早已对算法进行法律规制的背景下，我国相关的监管机制至今仍不健全，因此我国可以借鉴国外对于算法的法律规制路径，加紧制定相关法律法规。2.3算法伦理的缺失与不足算法问题层出不穷，现有的法律法规无法应对所有问题，这意味着需要重新塑造公众对于算法的认知和法律的规则形态。另外，倘若算法发展到一定程度，今后司法活动中的起诉书、判决书等都有可能按照算法规定的路径自动生成，证据材料也能经由算法自动审查，这不可避免地会带来一些隐患，例如当算法编程上出现问题，或是算法某个运行环节出错，都可能导致严重的司法后果。如果要为此重新启动人工审查，势必会增加劳动量并耗费更多的人力资源。当然算法和人相比，出错的几率可以说是低得多，但是我们也不得不考虑到这个“万一”，以及出错后的弥补办法。另外，由于算法是人工编写的，在算法编程的过程中，很有可能加入编程者个人的主观倾向，例如对性别的偏见、地域的歧视等一系列常见的歧视因素都可能被编入算法程序中，这毫无疑问会影响算法输出的结果。美国某项调查研究表明，性别歧视广泛存在于谷歌的广告系统之中，同种情形下，男高收入工作往往喜欢推荐给男性用户而非女性用户。法律具有滞后性，价格共谋这一现象的出现，也提现了反垄断法具有滞后性的特点。预设伦理规范是反映市场竞争变化的有效手段。与我国不同的是，欧美国家对于机器人以及算法等相关产业的伦理道德研究已经展开多年，不仅对于人工智能伦理学方面已经有了诸多崭新的认识，也出台了一些相关的白皮书。同时，对于人工智能的研发人员，也有了相应的道德约束条款和操作指引性说明。对于这方面的研究，我国更应该紧追其后，乘势而上。另外，对于任何的新兴事物，我们应尽可能采取鼓励支持，并且合理引导的态度，充分相信人工智能技术所带来的利大于弊，才能支持继续发展人工智能。如今，各行各业也基本达成这样的共识：人工智能系统的研发和应用必须服从一些伦理原则。2.4对“技术中立”原则的不当引用“技术中立”原则来源于著名的环球电影制片公司起诉美国索尼公司王迁《“索尼案”二十年祭——回顾、反思与启示》[J]《科技与法律》，2004,(04）：59-68一案，1976年因该案而确立的“实质性非侵权用途规则”一直沿用至今。在中国涉及算法责任的案件如“快播案”等，也常援引“技术中立”为抗辩理由，这一原则强调技术自身的价值，一项合法并被广泛运用的技术，则即使它被用于非法活动，也应当豁免技术开发者的责任。邱遥堃《法院如何规制算法从快播案切入》［J］《法律与社会科学》，2017,(0王迁《“索尼案”二十年祭——回顾、反思与启示》[J]《科技与法律》，2004,(04）：59-68邱遥堃《法院如何规制算法从快播案切入》［J］《法律与社会科学》，2017,(01)：49-68在资讯整合平台陷入案件纠纷时，他们往往会引用“技术中立”进行抗辩，久而久之，“技术中立”原则被许多平台和编辑有意无意当成了保护伞。但需要记住的是，“技术中立”原则的确立本为了保护新兴技术的发展，倘若该项原则被有心之人加以利用，成为了侵权行为的保护伞，则背离了司法原则的本意。“技术中立”原则在以往的司法实践中也常出现：2013年，优酷诉猎豹浏览器不正当竞争一案参见《优酷网络技术（北京）有限公司与北京猎豹网络科技有限公司侵害作品信息网络传播权纠纷一审民事判决书》（2020）京