新媒体管理 课件 第八章　新媒体生态治理

第八章新媒体生态治理在新媒体生态治理方面,我国目前已经形成了以宪法为根本,以法律、行政法规、部门规章和地方性法规、地方政府规章为依托,以传统立法为基础,以网络内容建设与管理、网络安全和信息化等网络专门立法为主干的网络法律体系,为营造安全、公平、健康、文明、清朗的新媒体生态提供了强有力的保障。不过,除了政府主导的集网络立法、网络执法、网络司法、网络普法与法制教育为一体的法制措施外,网络平台、主流媒体、社会组织、公众等多元主体也应承担起相应的责任,通过多元主体协同合作实现治理效能的提升。第一节网络谣言与网络暴力网络谣言与网络暴力是互联网普及以来一直存在的“顽疾”,随着技术的持续发展,二者不仅演变出了更多元的存在形态与更隐蔽的传播方式,而且危害范围更广、扩散速度更快、影响程度更深。一、网络谣言(一)网络谣言的定义及智能化发展参考谣言的概念,网络谣言可定义为经由互联网被广泛传播的、含有极大的不确定性的信息。与传统谣言的口口相传不同,网络谣言不仅可以跨越时空的束缚,实现快速裂变传播,还能够在多元节点的传递与创造中逐渐变异,成为更符合人们经验、预期以及“合理想象”的谣言版本。目前,网络谣言的体量越发膨胀,2023年中国互联网联合辟谣平台汇集的谣言样本及辟谣数据达到7640条,关涉议题遍及公共政策、社会事件、医疗健康、经济金融、自然灾害等领域,典型谣言样本如表8-1所示。表8-1

2023年网络谣言主要关涉领域及典型样本随着大数据、算法、机器学习等人工智能技术的深度发展,信息内容的采集、生产、加工、分发与消费模式发生了深刻变革,进一步驱动着网络谣言向智能化谣言加速演化——智能技术取代人的经验性参与成为谣言运转的底层逻辑,催生出了以下三种智能化谣言形态：1.定制化谣言智能内容生产的核心优势是基于大数据分析技术的内容精准生产与基于人工智能技术的内容自动生产,两者相互叠加能够共同提升网络内容生产的精准度与效率。2.深度伪造谣言深度伪造(deepfake)谣言是一种高度拟真的虚假信息,其借助人工智能和机器学习实现音频及视频的模拟、合成与伪造。典型应用实践包括图像和视频“换脸”、操纵视频人物的表情和语音、伪造不存在的场景与人物等。3.喷灌式谎言此类谣言多将先进且隐匿的自动化程序或社交机器人技术作为“超级传播者”,通过大规模的自动点赞、转发、搜索等行为,以指数级的速度扩大相关问题的流量,用“谎言喷灌”的方式将谣言送入网民视野。(二)网络谣言产生与传播的动因谣言产生与传播的动因一直是谣言研究的热点议题,这不仅关涉到对谣言本质特征的理解,还为谣言治理提供了基本的依循。目前得到普遍认可的动因主要有一下几个：1.主题重要性与信息模糊性主题重要性与信息模糊性是目前多数谣言公式中不可或缺的要素,其最早由社会心理学家戈登·W.奥尔波特(GordenW.Allport)和利奥·波斯特曼(LeoPostman)提出。2.公众批判能力1953年,A.克罗斯(A.Chorus)在奥尔波特等人提出的谣言公式中加入了公众批判能力C(criticalability),将该公式修改为:“R~I×A/C”,即谣言的传播广度和公众的批判能力成反比,公众批判能力越弱,谣言传播范围就越广;若公众能拥有较强的科学素养与理性思考能力,则更容易识别谣言的假象,从而阻断谣言的扩散。3.事件反常程度胡钰在对流传于中国媒介环境中的谣言中心事件进行梳理后发现,除了前述三个变量之外,事件的反常程度也是谣言传播的重要因素之一。以此为基础,胡钰将谣言公式修正为R=a×a'×a″,其中,a为关注度(attention),a'为模糊度(ambiguity),a″为反常度(abnormality)。4.谣言自我变异与主题重要性、信息模糊性、公众批判能力及事件反常程度不同,谣言自我变异从动态发展的视角阐释了其能够被持续传播的动力源泉。5.其他要素除了前述较为常见的要素之外,研究者们根据研究背景与语境的差异也提出了其他可作用于谣言生成与传播的变量及其作用方式,随着社会信息消费习惯、媒介技术环境、公众社会心理等的不断变化以及谣言研究的持续深入,谣言生成与传播的动因还将持续得到优化与补充。(三)网络谣言的治理作为一种信息的畸变形态,网络谣言的泛滥不仅会对健康的社会舆论环境形成冲击,造成严重的信息污染与信息失序,还会在根本层面上消解网络社会已然摇摇欲坠的真实观念与真相机制,使公众丧失对社会信息环境的信任与信心。加强对网络谣言的治理迫在眉睫。由中央网信办举报中心主办、新华网承办的中国互联网联合辟谣平台是谣言治理实践方面的典型代表。这一平台以辟谣为主要目标,通过联合多家区域性辟谣平台与媒体辟谣平台等，广泛收集网络谣言并对谣言中的不实信息予以核查、澄清并公开发布,从而达到阻断谣言传播的效果。作为使用者的公众不仅可以借助这一平台查证自己接收到的信息是否为谣言,还可以对不确定性较强的信息加以举报,由平台借助自身的专家资源与媒体资源进行事实的核查(见图8-1)。图8-1中国互联网联合辟谣平台小程序首页(左)及举报/查证页(右)二、网络暴力(一)网络暴力的概念、特征及类型网络暴力是指针对个人集中发布侮辱谩骂、造谣诽谤、侵犯隐私等违法信息及其他不友善信息,侵害他人合法权益,扰乱正常网络秩序的攻击性行为。作为暴力的形式之一,网络暴力拥有其最本质的特征,即对当事主体产生压迫力或者威胁力,但这种压迫与威胁的形成机制又与线下空间中的直接暴力存在着区别——从来源上看,网络暴力对当事主体的伤害并非缘于以武力为代表的物理力,而是以公开流传的文字、图像、视频等为载体的群体负面评价;会对当事主体产生压迫和威胁的,也并非是对身体承受疼痛的恐惧,而是声誉被毁坏、隐私被曝光、生活秩序被扰乱等心理与精神上的压力。施暴者发动网络暴力的手段大致有四种：1.道德谴责,群起攻之2.恶语相向,人身攻击3.人肉搜索,曝光隐私4.组织预谋,扰乱秩序(二)网络暴力的生成机制网络暴力之所以能够对他人产生强制性干涉的作用,就在于其具有舆论的“集结”优势,即通过集结一批具有相同批判观点的人,对当事主体展开规模化、持续的名誉攻击。从理论视角来看,此种负面舆论氛围的集结、强化是网络群体相互趋同与去除异质双重路径作用下的结果。1.趋同:信息茧房与情绪传染2.去异:沉默的螺旋与孤立恐惧(三)网络暴力的治理与以多元主体联动为保障、以事后处置为手段的网络谣言治理不同,目前我国网络暴力治理的责任多由平台承担,且其管理链条涉及事前预防、事中监管、事后追责等各个环节。根据中央网信办2023年7月发布的《网络暴力信息治理规定(征求意见稿)》、2022年11月发布的《关于切实加强网络暴力治理的通知》等相关规章制度,网络平台应从健全网络暴力信息监测预警、强化网络暴力信息处置、完善网络暴力防护功能等方面着手完善平台规则、优化平台功能,让网络暴力不仅止于微末,亦防于未然。例如,为指导用户保护自己免受伤害、制止网络暴力,豆瓣在社区管理中心发布文章《在豆瓣,你该如何应对网暴?》,详细介绍了其为治理网络暴力推出的新功能与新机制,包括:(1)设置一键防护功能。当用户觉得自己遭到攻击、骚扰或感到隐私被侵犯时,可以打开豆瓣的应急防护模式进行自我保护;该功能一旦被打开,用户发布的动态、日记等内容下含有不友善关键词的评论将会被隐藏,且未被用户关注的人既无法继续查看用户主页,也无法与用户进行交流(见图8-2)。图8-2豆瓣应急防护模式(左)及网络暴力投诉界面(右)(2)细化私信屏蔽范围,用户可将私信交流范围缩小至“仅我关注的人”,未被用户关注的人的私信将被屏蔽。(3)设置快速举报通道,用户可将私信聊天中的暴力信息快速勾选并发送到豆瓣后台,提供网络暴力的证据。(4)提供风险提示,当用户私信中出现了不友善的关键词时,界面中会出现风险提示,提醒用户采取投诉等方式维护自身权益。第二节算法滥用与网络“三俗”一、算法滥用(一)算法的定义与算法滥用的类型算法是用计算机程序实现的、基于数据分析、面向特定目标的一套指令、方案或规则,其不仅确立了机器所试图实现的目标,同时也指出了实现目标的路径与方法。本节讨论的算法聚焦于对新媒体生态的形塑与维护起着举足轻重作用的算法推荐技术,主要包括五种类型:(1)个性化推荐类,例如信息流的排序与推送算法;(2)合成生成类,如图像、音频和视频合成算法;(3)排序精选类,如电商平台上商品、店铺的排序算法;(4)检索过滤类,如搜索引擎对信息的展示与过滤算法;(5)决策调度类,如网约车平台、外卖平台的订单匹配算法等。算法滥用的类型包括以下几种：1.算法歧视(1)大数据“杀熟”:为了获取更高的收益,部分互联网平台经营者会依据对消费者个人消费偏好和习惯数据的收集、检索、分析、挖掘,利用忠诚顾客的路径依赖和信息不对称,就同一商品或服务向其索取高于新用户的售价,且该售价差别不反映成本差别。(2)“种族歧视”与“性别歧视”:这一现象往往发生于用以辅助决策的识别与筛选系统中。2.算法操纵(1)对个人信息获取的操纵。(2)对舆论生态的操纵。(3)对受其管理的劳动者的操纵。3.算法诱导算法诱导指的是借助对用户个人资料、偏好习惯等信息的挖掘与分析预测其心理活动与后续行为,并进一步通过改变产品机制、推送相关信息等操作对该行为进行不良诱导,在实践中主要表现为诱导沉迷与过度消费。(二)理解算法滥用的负面影响:传播技术的偏向算法滥用带来的系列难题与困境也可被视为其传播偏向的固有风险。研究者借鉴媒介环境学派中传播偏向理论的基本框架,将算法推荐技术所具有的偏向归纳为空间偏向、感官偏向、意识形态偏向等,现将主要观点分述如下。1.空间偏向:强化对人的控制2.感官偏向:弱化思考的能力3.意识形态偏向(三)算法治理传播在任何一种偏向的过度延展都可能对社会稳定与文明延续带来消极影响,这也凸显了社会管理者通过行政、经济、文化等方式对此加以干预,推动媒介生态恢复平衡的必要性。以此为基础,国内互联网平台依照算法透明、尊重算法选择权等原则做出了整改与优化,较为典型的举措如下：(1)履行信息服务算法备案职责,在互联网信息服务算法备案系统中填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告等信息并进行公示。(2)主动公开算法规则。例如,美团通过微信公众平台发布文章《让外卖配送算法更透明,让更多声音参与改变》,详细解释了其外卖配送中“预估到达时间”的算法规则。根据美团App的设置,用户下单后看到的“预估到达时间”并非仅是依靠机器学习模型得出的结果,而是平台综合考虑了模型预估时间、城市特性保护时间、分段保护时间和分距离保护时间后,从中选择的最长的时间,具体机制如图8-3所示。

图8-3美团“预估送达时间”的选择逻辑(3)允许用户关闭“个性化推荐”功能。“个性化推荐”作为大数据杀熟、信息偏食等算法滥用消极效果的主要作用机制之一,已然引起了较大的争议。为了尊重用户的算法选择权,平台上线“个性化推荐”关闭按键,让用户自行选择是否接受基于自身偏好的内容推荐服务。二、网络“三俗”(一)网络“三俗”的定义及表现形式“三俗”文化指的是迎合人的低级趣味、病态审美需求、本能感性欲望的文化,包括庸俗、低俗与媚俗。其中,庸俗指的是平庸粗俗,缺乏新意与深度;低俗指的是低级、不雅观、不文明;媚俗指的是刻意迎合某些低级趣味或世俗观念。目前,网络“三俗”多发生于短视频、直播、网络广告领域,较为典型的内容有:1.暴露色情2.卖俗扮丑3.斗狠谩骂4.传递扭曲观念(二)网络内容的道德规范:信息伦理学的视角信息伦理学认为,信息技术本身是价值中性的,而人的行为具有明确的价值倾向;若能够建立起一套完整的信息伦理,即针对信息活动各环节的伦理要求、伦理准则、伦理规约与伦理关系,并以此指导人们使用信息技术的行为,那么价值中性的技术就可以导向善的价值的生成。在信息伦理体系中,最为基本的原则为“无害原则”,即不能制造、传播会对他人造成伤害的内容。其中,“伤害”既指受众在接收到内容后遭受的直接身心伤害,也包括其在受到内容影响后产生的言行对社会、他人带来的伤害。以此为底线,人们在信息活动的不同环节中还负有差异化的伦理道德责任,包括:1.信息开发与传播信息开发是包括增加信息量、丰富信息资源或为信息活动提供新的手段、方式等在内的各种信息行为,信息传播则指被开发的信息在社会上扩散开来的过程。2.信息消费信息消费者的消费偏好一般有两个向度:由经济理性定位的利益向度和由道德理性定位的道德向度。3.信息管理本节讨论的信息管理特指信息资源管理,即对包括信息、技术、资金、设备等各种要素进行更科学的规划、组织、协调和控制,以确保信息资源的充分开发和合理利用,从而有效地满足社会的信息需要,实现一定的目标。(三)网络“三俗”的治理要根治网络“三俗”现象,归根结底就是要提升所有公众的道德素养,以体系化、立体化的道德规范帮助公众在信息活动中自觉做出正确的伦理选择。在我国的网络“三俗”治理实践中,他律的途径主要包括法律规制与平台规制两条路径。与之相适应,平台也在不断探索网络“三俗”行为的鉴别标准与治理举措。小红书和抖音的实践为其中的两个典型案例。1.小红书:生态引导针对平台中的大量“炫富”行为,小红书不仅持续升级算法模型,提高经由AI算法识别炫富内容的准确性,还通过推出《社区公约》、鼓励博主发声,实现正确价值观与良好社区生态的引导。2021年4月,小红书在面向普通用户、创作者、MCN机构进行数月的调研后推出了《社区公约》,以践行“真诚分享、友好互动”的社区价值观为目标提出了系列行为规范。其中,针对“炫富”行为,小红书要求用户“避免炫耀远超常人的消费能力”,若其分享的有关消费过程和结果的内容对于他人而言是“无用的内容”,就会被平台判定为“炫富”并进行相应处罚(见图8-4)。图8-4小红书《社区公约》首页(左)及有关“炫富”内容的认定(右)2.抖音:规则共创为让用户更好地了解平台规则、参与平台治理,抖音上线了“规则共创会”,在向用户普及平台规范的同时,邀请用户建言献策。第三节信息安全与版权保护信息安全与版权保护涉及在新媒体时代颇受关注的两种个人权益:隐私权与著作权。尽管在相关领域已经有了较为完备的法律体系,但层出不穷的新型侵权形式、手段、领域等仍对新媒体生态造成了极大的威胁。一、信息安全(一)信息安全问题的表现及影响随着移动互联设备尤其是智能设备的发展普及,人的画像、身体、位置、行为、情绪心理、关系、评价乃至思维方式都在被全息“数据化”,这些量化“数据”在让人们获得更多自我认知、自我表达、自我记录的可能的同时,也使得其在一定程度上丧失了对自身数据的控制力,个人信息安全问题由此越发突出。信息安全问题可发生在个人信息的收集、存储、使用、加工、传输、提供、公开、删除等各个环节,其典型表现与影响包括:1.违规收集使用个人信息,侵害用户权益2.过度披露个人信息,助推网络暴力3.非法获取个人信息,形成黑灰产业链(二)个人信息保护新议题:被遗忘权个人信息在网络上的可访问性、永久性和全面性使得个体在数字空间中当下和过去的数据痕迹都将永久保留、无法抹去,成为特定机构借助特定算法监视公众一举一动、一思一感的重要工具,人们在一定程度上失去了对自己隐私和个人信息的控制权。出于对这一问题的担忧,关于“被遗忘权”(therighttobeforgotten)的讨论应运而生。尽管多数研究者承认被遗忘权有其存在的合理性和必要性,但其在实践中仍面临着诸多问题与挑战,这突出地表现为以下几点。1.隐私保护与言论自由2.个人尊严与公众知情(三)信息安全问题的治理与其他危及新媒体健康生态的常见问题一样,对个人信息安全问题的治理同样遵循着行政规制、平台落实的路径,具体举措包括以下几点。1.政府:完善顶层设计,持续净化App生态政府对个人信息安全的重视与保护主要体现在立法和监管两个层面。2.平台:修改隐私政策,成立第三方监督机构《个人信息保护法》对个人信息处理者义务的详细规定推动着各新媒体平台在个人信息保护方面做出相应的保障,较为典型的举措包括:(1)修改隐私政策,将敏感信息进行脱敏处理。(2)成立第三方机构,监督隐私保护工作。二、版权保护(一)版权保护范围及侵权表现版权又称著作权,指的是著作权人对其创作的文学、艺术和科学领域内具有独创性并能以一定形式表现的智力成果依法享有的专有权利,是知识产权的重要组成部分之一。受到版权保护的对象包括:(1)文字作品;(2)口述作品;(3)音乐、戏剧、曲艺、舞蹈、杂技艺术作品;(4)美术、建筑作品;(5)摄影作品;(6)视听作品;(7)工程设计图、产品设计图、地图、示意图等图形作品和模型作品;(8)计算机软件;(9)符合作品特征的其他智力成果。为了打击网络侵权盗版行为,国家版权局、工业和信息化部、公安部、国家互联网信息办公室四部门自2005年起便持续联合开展名为“剑网”的专项行动,聚焦网络视频、网络音乐、网络文学、网络新闻、网络直播等领域开展版权专项治理。在此仅在