国研专稿国外关于ChatGPT风险的监管态度及启示

内容摘要：当前，ChatGPT正引发新一轮人工智能革命。ChatGPT在给经济社会发展带来机遇的同时，也存在个人隐私泄露、算法歧视、制造虚假信息、侵犯知识产权、冲击中高端就业市场等潜在风险。由于人工智能的产业状况、战略定位与监管传统等不同，各国对ChatGPT的监管态度也存在差异，欧盟最为严格，高度关注数据安全；美国持包容态度，但对算法相关的性别与种族歧视容忍度低；英印日等国更为宽松，积极鼓励创新发展。当前，人工智能正成为全球科技竞争的焦点，而我国在基础研究、技术生态、产业发展、顶尖人才等方面与美国存在较大差距，建议顺应人工智能发展大势，包容审慎监管，避免因超前立法或过严监管扼杀创新，为技术创新留足空间。同时，强化风险研判，分级分类推进应用，严厉打击利用ChatGPT传播虚假信息、实施犯罪等行为。关键词：人工智能，风险监管，数据泄露，算法歧视2023年4月28日，中共中央政治局会议提出，“要重视通用人工智能发展，营造创新生态，重视防范风险”。聊天生成型预训练转换模型(ChatGPT)的出现是人类社会迈向通用人工智能时代的重要一步，被称为点亮通用人工智能的第一道曙光。从技术发展规律看，技术创新必然伴随着机遇与风险，ChatGPT也是如此。面对ChatGPT及类似产品的快速发展，我们需构建符合技术发展规律的监管体系，以促进人工智能的创新发展与规范应用。一、ChatGPT的潜在风险引发全球广泛关注ChatGPT是由美国OpenAI公司开发的智能对话产品，在“海量数据+先进算法+强大算力”驱动下，具有强大的文本、图像、音视频等输出能力。ChatGPT一经推出便引发全球关注。2023年3月，千名科技人士联名呼吁暂停GPT-4后续研发，担忧ChatGPT给个人隐私、社会安全等造成冲击。从各界讨论看，ChatGPT的潜在风险主要有以下五方面。(一)数据安全风险高，个人隐私和商业秘密易被泄露ChatGPT的训练高度依赖海量互联网数据，如GPT-3的训练使用了近1万亿个单词和45TB数据，包括超过数十亿个网页、电子书、新闻和科学论文等。所衍生的数据风险：一是个人隐私易被侵犯。2020年GPT-2曾发生隐私泄露，只要输入前缀为“EastStroudsburgStroudsburg…”的提示词，GPT-2会自动生成包括姓名、电话号码、住址等信息的文本。2023年，OpenAI发布报告称，有1.2%的ChatGPTPlus用户数据可能被泄露，包括姓名、聊天记录标题、信用卡号后四位等。二是企业商业秘密易被泄露。2023年，数据公司Cyberhaven调查160万名员工后发现，2.3%的员工曾将公司机密输入ChatGPT。为保护商业机密，花旗集团、德意志银行、摩根大通等多家机构已禁止员工使用ChatGPT处理工作。(二)算法歧视风险突出，可能强化性别、种族等偏见ChatGPT算法训练的数据来源于互联网，海量数据蕴含了人类社会存在的种族歧视、性别歧视、宗教歧视等价值观。同时，设计算法的人本身具有价值观，也可能把偏见嵌入算法中。2023年，微软发布的报告《通用人工智能的火花：GPT-4的早期实验》显示，ChatGPT对女性存在某些刻板印象，如让GPT-4为“男人是计算机程序员，女人是________”创建类比时，给出答案主要为护士、舞者等要求相对较低的职业。实验显示，GPT-4甚至会放大社会对女性的偏见(见表1)。如世界范围内约22%的软件工程师为女性，而ChatGPT描述该职业时，98%的概率使用“他”，仅有1%的概率使用“她”。(三)虚假信息传播风险大，易被用于造谣、诈骗等违法行为ChatGPT既大大降低了信息造假门槛，又极大提高了虚假信息识别难度。ChatGPT在短时间内可产生大量逻辑清晰、格式规范但无信源的文字、图片、视频，这些“以假乱真”的内容极易绕过各互联网平台的安全审核机制，被滥用于造谣、诽谤、诈骗等不道德甚至违法犯罪行为。美国新闻可信度评估机构NewsGuard发现，当被问到充斥阴谋论和误导性叙述的问题后，ChatGPT能在几秒钟内产生大量令人信服却无来源的内容。该机构表示，“ChatGPT可能成为互联网有史以来最强大的传播虚假信息的工具”。OpenAI首席技术官穆拉蒂(MiraMurati)也坦言，ChatGPT可能会被“危险分子”使用于编造事实，这是当下大型语言模型共同面临的挑战。(四)知识产权侵权风险高，作品著作权归属不明确一是容易侵犯知识产权。训练ChatGPT的海量数据中包括大量学术论文、新闻报道、著作、商标等，显然OpenAI公司在训练过程中无法保证所有使用数据均获得了权利人许可，因而存在明显的侵权风险。美国知名语言学家乔姆斯基(Chomsky)表示“ChatGPT是一个高科技剽窃系统”。二是著作权归属存争议。ChatGPT能否成为作者、所生成作品是否受著作权保护，这些都引发了社会争议。Nature、Science等顶尖学术杂志明确禁止将ChatGPT列为合著者。美国版权局(USCO)表示，ChatGPT等平台生成的作品完全由人工智能完成，且训练数据是基于人类创作的作品，因而不受版权法保护。(五)冲击中高端就业市场，加剧高技能群体失业风险“机器换人”问题是伴随着技术创新一直存在的老问题。通常而言，技术对简单重复的工作具有较强替代性，但ChatGPT的出现让从事脑力劳动的高技能、高学历劳动者失业风险明显提高。微软报告《通用人工智能的火花：GPT-4的早期实验》显示，ChatGPT在解决视觉、数学、编码、医学、法律等领域难题时惊人地接近人类水平，并能推理人的意图。OpenAI公司的研究显示，ChatGPT至少影响美国约19%的工作岗位所执行的50%的任务。2013年，学者Frey和Osborne估算了美国702类职业被人工智能替代的概率，发现低技能、低教育水平的劳动者更容易被取代。2023年，美国《商业内幕》(BusinessInsider)杂志访谈大量专家后，得出十个最可能被生成式人工智能替代的职业(见表2)。对比可见，ChatGPT让一些职业的被替代概率明显提升。如平面设计师在2013年的预测中，被替代概率仅8.20%，但由于ChatGPT具备强大的图文生成能力，导致该职业被替代概率位居前十。未来，许多教育程度高、技能性强、薪酬水平较高的就业群体，或将受到ChatGPT的重大冲击。二、当前国外对ChatGPT的监管态度存在较大差异各国由于人工智能的发展基础、产业状况、战略定位与监管传统等不同，对ChatGPT潜在风险的监管态度存在差异。从当前监管态度来看，欧盟监管尺度最为严格，美国监管以包容为主，英印日监管则较为宽松。(一)欧盟多国担忧ChatGPT的数据安全风险，主张实施严格监管欧盟多国纷纷表示了对于ChatGPT在数据安全方面的担忧。2023年3月，意大利宣布对ChatGPT涉嫌违反数据收集规则展开调查，是全球第一个官方禁用ChatGPT的国家。随后，德国、法国、西班牙、爱尔兰等欧盟多国表示出于数据保护方面的考虑，对ChatGPT开展调查或考虑封禁。欧洲刑警组织(Europol)警告称，ChatGPT可能被用于网络诈骗、传播虚假信息和网络犯罪。欧洲数据保护委员会(EDPB)表示已成立ChatGPT特别工作组，将就人工智能监管制定通用政策。欧盟各国的表态，本质上是欧盟在个人信息保护方面一贯极其严苛监管风格的延续。早在2018年，欧盟便出台了全球最严格的数据保护政策《通用数据保护条例》(GDPR)，为全球个人信息保护竖立了新标杆。2021年，欧盟出台了全球首部系统化规制人工智能的法律《人工智能法案》(草案)，强调要保护新技术使用过程中公民数据安全。事实上，国际社会一直存在批评声音，认为欧盟过于严苛的数据保护政策约束了技术创新与数字经济发展，目前全球互联网企业市值前10强均来自美国与中国，欧盟无一企业入选。(二)美国强调人工智能创新发展优先，但对算法歧视等监管严厉美国对ChatGPT持包容态度，其主要目的在于巩固与提升美国在人工智能领域的全球领导地位。2023年1月，美国国防信息系统局(DISA)将ChatGPT为代表的生成式人工智能技术纳入技术观察清单，曾被列入该清单的5G、边缘计算等技术成为国防安全的支柱。2023年4月，美国总统拜登在与科技顾问讨论人工智能时表示，人工智能是否危险还有待观察，但科技公司有责任确保产品在公开之前是安全的。从数字技术监管风格看，美国政府一直将促进人工智能创新发展作为优先考量，力求全方面提高竞争力。2019年，特朗普政府签署行政令《保持美国在人工智能领域的领导地位》，强调人工智能的发展对美国经济发展和国家安全至关重要。2020年，美国发布《人工智能应用的监管指南》，明确要以减少人工智能技术应用的障碍、促进技术创新为监管宗旨，呼吁更多采取行业细分的政策指南、自愿性行业标准等非监管措施。与此同时，美国对于人工智能的种族歧视、性别歧视等问题一贯监管严厉。2023年4月，美国联邦贸易委员会(FTC)、司法部(DOJ)、平等就业机会委员会(EEOC)、消费者金融保护局(CFPB)四大机构联合发声，要监管人工智能造成的歧视与不平等问题。(三)英国、印度、日本等国积极鼓励ChatGPT发展，避免过严监管影响创新英国一直在积极谋求全球人工智能领域的领先地位。2021年，英国发布《国家人工智能战略》，提出了成为全球人工智能超级大国的十年规划。2023年3月，英国政府发布《一种支持创新的人工智能监管方法》白皮书，提出针对ChatGPT等人工智能技术的治理原则，明确强调监管目标是“提供一个清晰的、有利于创新的监管环境”，使英国成为世界上构建、测试和使用人工智能技术的最佳地点。2023年4月，印度电子和信息技术部表示，人工智能可能引发道德问题和歧视风险，但印度政府将人工智能作为“数字经济的推动者”，不会考虑制定法律或监管人工智能领域的发展。2023年4月，日本政府表示，现阶段无意监管ChatGPT，正推进ChatGPT的使用，如借助ChatGPT让晦涩复杂的政府法规变得更易于理解。三、几点启示当前，虽然ChatGPT尚未向中国内地及中国香港用户开放注册，但如何监管ChatGPT及类似产品的潜在风险，是我国须直面的重大问题。监管的目的是为了发展。建议主动适应全球人工智能发展趋势，统筹发展与治理，不宜过于放大风险，以促进人工智能创新发展。同时，积极研判国内外ChatGPT类产品的潜在风险及防范策略，让技术更好地服务于经济社会发展。(一)坚持包容审慎的原则，给技术创新留足空间随着ChatGPT在全球范围迅速火爆，国内的百度“文心一言”、阿里“通义千问”、腾讯“混元大模型”、华为“盘古大模型”等人工智能大模型也纷纷推出，但整体表现均明显落后于ChatGPT。鉴于我国人工智能在基础研究、技术生态、产业发展、顶尖人才等方面与美国存在较大差距，建议实施包容审慎监管，避免因超前立法或过严监管扼杀创新，为国内ChatGPT类产品的创新发展与应用留足空间，提高在新一轮人工智能革命中的竞争力与主动权。加强与其他国家、国际组织的交流合作，推动形成更具广泛共识的人工智能治理框架，积极围绕算法伦理等风险治理开展合作。(二)持续完善数据规则，强化数据安全保障落实好《网络安全法》《数据安全法》《个人信息保护法》等相关法律要求，持续加强数据权属、跨境数据流动等基础性问题研究，细化与ChatGPT类产品相适应的数据保护规则。发展隐私计算技术，实现数据的“可用不可见”，强化数据采集、挖掘、流通等多环节的个人隐私保护。在我国所提出的《全球数据安全倡议》基础上，持续完善数据跨境流动治理框架，妥善解决好ChatGPT类产品的数据跨境流动等问题。(三)减少算法偏见，健全伦理风险过滤机制完善算法的公平性、稳健性、透明性、可解释性测评等相关规范，引导科技向善。强化生成式人工智能服务提供者、算法工程师、数据标注师等群体的合规意识与伦理意识，通过技术参数调整、算法模型优化等对人工智能开展道德伦理训练，减少科技伦理风险。构建客观、准确、多样的训练数据集，将由数据所衍生的歧视与偏见最小化。加强行业自律，鼓励中国互联网协会、中国人工智能学会等相关行业协会围绕ChatGPT类产品的合法合规应用制定行业规范。提高公众社会责任感，倡导合法合理使用ChatGPT类产品，不要用违法或不道德行为(如反复用含有性别歧视的话提问)引导算法。(四)建立风险评估机制，分级分类推进行业应用鉴于各行业风险不同，分级分类推进人工智能应用成为全球人工智能治理的重要趋势。建议增强人工智能监管的灵活性，健全技术应用风险评