DB31-T 1560-2025 互联网信息内容安全审核能力通 用要求

互联网信息内容安全审核能力通用要求2025-03-26发布2025-07-01实施上海市市场监督管理局发布IDB31/T1560—2025前言 1范围 12规范性引用文件 13术语和定义 14等级划分与要求 25技术能力 25.1违法和不良信息检测能力 25.2违法和不良信息过滤能力 35.3违法和不良信息溯源能力 45.4违法和不良信息处置能力 46管理能力 46.1组织机构 4 46.3信息内容审核 56.4信息源及用户分类 56.5监测预警与应急处置 5附录A(资料性)违法和不良信息的主要类型 7附录B(规范性)互联网信息内容安全审核能力要求 8参考文献 本文件按照GB/T1.1—2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定起请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。本文件由上海市互联网信息办公室提出并组织实施。本文件由上海市信息安全标准化技术委员会归口。本文件起草单位：上海市信息安全测评认证中心、中国科学院信息工程研究所、上海东方报业有限公司、支付宝(中国)网络技术有限公司、上海携程商务有限公司、上海幻想七猫数字技术有限公司、上海盒马网络科技有限公司、上海宽娱数码科技有限公司、行吟信息科技(上海)有限公司、东方财富信息股份有限公司、上海任意门科技有限公司、公安部第三研究所、上海喜马拉雅科技有限公司、上海观察者信息技术有限公司、上海米哈游网络科技股份有限公司。本文件主要起草人：李宏达、徐御、俞露婷、俞佳敏、化嘉仪、何极、范劭林、张潇丹、黄杨、林冠辰、吴梦楠、王业元、丁吕瑾、侯金龙、朱厚真、陈云鹏、韩嘉巍、丁治国、娄向文、李建辉、杨梦11范围本文件规定了互联网信息内容安全审核能力的等级划分与要求、技术能力、管理能力等要求。本文件适用于上海地区互联网信息服务提供者开展信息内容安全审核能力建设，本市监管部门、第三方机构进行监督管理和评估时可参考使用。2规范性引用文件下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件，仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本(包括所有的修改单)适用于本文件。GB/T40645—2021互联网信息服务安全通用要求3术语和定义GB/T40645—2021界定的术语和定义适用于本文件。基于信息发布、交互、传播等相关技术和功能属性，通过互联网面向社会公众提供的信息服务。[来源：GB/T40645—2021,3.1]信息源informationsource互联网信息服务中信息的提供者及信息内容。互联网信息服务用户internetinformationserviceuser使用互联网信息服务的个人或组织。为用户提供互联网信息服务的组织或机构。[来源：GB/T40645—202利用深度学习、虚拟现实等生成合成类算法制作文本、图片、音频、视频、虚拟场景等网络信息的技术。2注：违法和不良信息的主要类型见附录A。对于给定的数据集，违法和不良样本判断正确的本文件将互联网信息服务提供者的信息内容安全审核能力划分为两个等级，分别是基本级和增强审核能力等级√一中型企业一√一√业务范围√一图片√一√100万及以下√100万以上一√35.1.1文本检测能力5.1.1.3应具备对变形的文本检测能力，如：插入特殊符号、使用拼音替换、使用同音字替换、使用5.1.2图片检测能力5.1.2.3应具备对变种图片的检测能力，变种方式包括：裁剪、变5.1.3音频检测能力5.1.3.1应具备对音频中文本的检测能力，如：中文普通话语音、5.1.3.2应具备对语音清晰、少量背景噪声的单人5.1.3.3应具备对其他音频内容的检测能力，包括：音乐类或包含背景音5.1.4视频检测能力5.1.4.3应具备对变种视频的检测能力，变种方式包括：剪辑视频、改变5.1.5样本数据库5.1.5.1参照附录A确定违法和不良信息的类型，建立、维护与业务规模相适应的样本数据库，包括5.1.6.1违法和不良文本信息的召回率不低于85%,精确率不低于80%。5.1.6.2违法和不良图片信息的召回率不低于85%,精确率不低于70%。5.1.6.3违法和不良音频信息的召回率不低于80%,精确率不低于80%。5.1.6.4违法和不良视频信息的召回率不低于85%,精确率不低于70%。45.2.2.2应具备对技术检测命中疑似违法和不良信息的内容进行风险量化的能力，并对风险值较高的5.3.1应具备对互联网信息服务用户的账号信息、操作时间、操作内容、操作结果等进行日志记录的5.3.2应具备对信息源的相关信息进行日志记录的能力，如信息的采集来源、发布时间、发布渠道、5.3.3日志留存时间不少于6个月。6.2人员6.2.1.1应指定至少1名负责人，负责组织开展相关信息内容审核工作，机构应为信息内容审核工作6.2.1.3信息内容审核人员数量与业务规模相比，应具有一定冗余。6.2.2.3对参与信息内容审核的相关人员应建立培训制度，制定年度培训计划，培训内容应包括信息6.2.2.4信息内容审核的从业人员每年应至少参加1次业务培训。56.3.1.2信息内容审核标准化手册应包括审核程序、审核标准、审核时限、信息源和用户账号的分类6.3.2.2应具备审核策略，包括：A.1中所述信息的分级审核、审核技术检测能力(文本、图片、音频、视频)、审核覆盖语种(汉语、英语、方言、小语种)及审核方式(机器抽审、机器全审、人工抽审、人工全审)等。6.3.2.3针对首屏推送、弹窗信6.3.3.3发生重大事件时，应对技术检测技术检测命中疑似违法和不良信息的内容宜在30分钟内由审核人员审核完毕。6.4.2.2宜从账号IP、账号实名情况、影响力、活跃度等方面对用户账号进行分类。6.4.2.4宜对不同类别的用户账号，如未成年人账号、机器人账号等，从发布、转载信息等方面进行6.5.1.2应明确监测预警人员名单、联系方式、具体分工、与66.5.2.1应制定安全事件管理制7(资料性)j)侮辱或者诽谤他人，揭露他人隐私，侵害他人合法权益；1)其他法律、行政法规禁止的其他信息。h)可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成8(规范性)互联网信息内容安全审核能力要求互联网信息服务提供者的安全审核能力技术要求和管理要求见表B.1和表B.2。表B.1互联网信息内容安全审核能力技术要求审核能力等级违法和不良信息检测能力文本检测能力图片检测能力音频