AI社会责任影响

提纲

01. 概要02.AI对社会的积极影响03.AI的隐患与威胁04. 应对措施05.未来展望06. 风险提示核心观点本报告探讨了AI的社会影响和AI与ESG投资间的联系。首先介绍概要，随后分析AI对社会的积极影响和对人类的威胁与隐患，最终提出应对措施和未来展望。尽管AI能够在ESG投资等诸多领域产生积极影响，但同时也可能引发潜在风险，如劳动力市场冲击、隐私泄露、算法歧视等。未来需要找到发挥AI优势和解决AI隐患之间的平衡。31.1

人工智能的发展现状5GPT的预期发展技术和策略局限现状（2022年）评价内容生成模型的可用性、可靠性和效率难以指定和继续执行任务输出可能是不连贯的，或者是捏造的事实从零开始构建模型可能会花费数百万美元；微调的有效性仍在探索不同的能力训练以更好地遵循指示定期对更新鲜的数据进行再培训硬件、软件和工程进度难以发展与影响行动有关的新的和更一般的能力可以产生推文，短篇新闻文章很少有互动或远程对话未针对影响进行优化（通过点击率等代理）扩大与更大的模型和更多的数据使用影响指标来训练模型将模型与非ML软件管道和人工审查员结合起来对人工智能的影响的兴趣和投资；文本生成工具的可访问性领先的人工智能研发，主要由少数国家的行业实验室和学术机构完成没有免费的在线工具来生成任意规模的最先进的文本国家投资或调整人工智能以适应影响市场营销行业采用了语言模式最先进的语言模型在线发布与一个简单的用户界面，对任何人免费使用近年来，随着深度学习等技术的发展，人工智能已成为全球热门领域。具体表现为以下方面：深度学习技术的快速发展：已成为人工智能领域核心技术之一，应用范围不断扩大，如计算机视觉、自然语言处理、语音识别等。机器学习技术的广泛应用：机器学习是一种广泛应用的人工智能技术，其被广泛应用于数据挖掘、图像识别、推荐系统等领域。自然语言处理技术的进展：自然语言处理技术一直以来都是人工智能领域的研究热点，如机器翻译、语音识别、文本生成等。人工智能与物联网的结合：物联网技术不断发展，人工智能与物联网的结合已成趋势，智能家居、智能城市等领域得到快速发展。在医疗、金融等领域的应用：人工智能技术在医疗、金融等领域的应用也越来越广泛，如医学影像诊断、智能客服、风险管理等。图表1：生成模型（

Generative

Models）的预期发展：GenerativeLanguageModelsandAutomatedInfluenceOperations:EmergingThreatsandPotential

Mitigations1.2

人工智能的未来趋势人工智能在未来的发展趋势主要包括以下几个方面：更深层次的学习：随着计算能力的提升和数据量的增加，人工智能将能够进行更深层次的学习和理解，实现更加智能化的应用。多模态智能：未来将逐渐拥有多模态的感知和理解能力，不仅可以识别图像、文字和语音等单一模态的信息，还能够将多种模态信息进行融合，提高整体的智能水平。自主决策：将逐渐具备自主决策的能力，而不是仅通过规则做出响应。这种能力将会使人工智能能够更好地适应不同的场景和任务。长期记忆：未来人工智能将拥有更好的长期记忆能力，使其能够更好地记住过去的信息并利用这些信息进行更加精准的决策。边缘计算和云计算的结合：未来将结合边缘计算和云计算技术，实现更加高效和智能的数据处理和分析。人工智能与物联网的深度融合：将与物联网技术深度融合，使得物联网设备能够更加智能化地工作，并且将从物联网设备中获取更多的数据，提高自身的智能水平。总体上，未来人工智能将会更加智能化、全面化、多样化，使得其能够更好地适应不同的场景和任务，为人类生活和产业发展带来更大的便利和创新。图表2：对语言模型的人工反馈进行微调：Traininglanguagemodelstofollow

instructionswithhumanfeedback，中信建投61.3 人工智能对社会发展的重要意义人工智能对社会发展具有重要意义，体现为：提高效率和生产力：实现自动化、智能化，可以提高工作效率和生产力，为社会带来更多的财富和福利。促进产业升级：帮助企业实现数字化转型和智能化升级，提高企业的竞争力和创新能力，推动整个产业向更高层次发展。优化社会资源配置：分析和优化社会资源的配置，提高资源的利用效率和社会效益，从而促进社会的可持续发展。改善人类生活品质：帮助人类解决一些重复、枯燥或危险的工作，从而提高生活品质，让人们更多地关注生活的质量和幸福感。推动科学技术进步：作为重要的科学技术，其发展和应用能够促进科学技术的进步，推动人类社会向更高层次发展。人工智能是一种重要的技术和工具，它的发展和应用能够为社会带来更多的发展机遇和创新动力。需要关注其对社会带来的影响，加强对其应用的规范和监管，确保人工智能的发展有益于人类社会。ESG数据分析ESG投资策略ESG风险管理人工智能与ESG：ESG数据是金融机构进行投资决策、风险控制和管理的重要参考。AI技术可以对大量的ESG数据进行分析和挖掘，发现其中的规律和趋势，帮助做出更明智的投资决策。ESG投资策略强调社会责任和可持续发展，与AI技术的应用有着紧密的联系。通过预测和数据分析，为ESG投资提供更加准确和可靠的支持。对金融机构进行ESG风险管理已成为了一项重要任务。AI技术可以对ESG风险进行预测和分析，帮助金融机构制定更加有效的风险管理策略。金融机构需要向投资者、客户和监管机构披露其ESG表现和政策，以提高透明度和公信力。AI技术可以帮助金融机构自动生成ESG报告和分析，提高报告的准确性和及时性。ESG报告和透明度7研究AI与ESG的关系对金融应用具有重要意义，可以提高金融机构的效率和决策水平，加强对ESG风险的管理和控制，为实现可持续发展和社会责任提供更加有效的支持。2.1 促进科技创新与产业升级人工智能可以提高生产效率和质量，帮助企业优化生产流程、管理资源、降低风险、创新产品等，提升企业的竞争力和盈利能力，促进产业转型升级和经济增长。自动化和智能化生产大数据分析和应用智能化决策和管理创新服务模式产业融合和创新AI促进科技创新和产业升级实现自动化和智能化生产，减少人工劳动力的使用，提高生产效率和产品质量，降低生产成本。例如机器人、智能制造等领域。对大数据进行分析和挖掘，发现其中的规律和趋势，帮助企业更好地理解市场和消费者需求，提高产品和服务的质量和竞争力。帮助企业实现智能化决策和管理，例如智能客服、智能制造、智能供应链等。加速企业的反应速度，提高决策效率和准确性。帮助企业创新服务模式，例如智能客服、智能营销等。这些服务模式可以提高企业的服务质量和效率，满足消费者个性化的需求。帮助不同行业和产业之间实现融合和创新，例如人工智能和制造业、医疗保健等领域的融合，可以创造新的产业和商业模式，促进科技创新和产业升级。92.2 提升社会服务和公共服务水平人工智能可以提高社会管理水平和公共服务水平，帮助政府制定政策、监督执行、预警应急、解决纠纷等，提供智能化、便捷化、精准化的社会管理和公共服务，维护社会稳定和公共安全。更智能10智能客服和智能助手：人工智能可以帮助企业和政府机构实现智能化客服和助手，例如智能机器人、智能语音助手等。这些技术可以提高服务效率和质量，减轻人力负担，满足消费者和公众的服务需求。智慧城市建设：人工智能可以应用于智慧城市建设中，例如智能交通、智能公共安全、智能环境保护等领域。这些技术可以提高城市的管理和服务水平，优化城市运行和生活环境。医疗健康服务：人工智能可以用于医疗健康服务中，例如医学影像分析、健康监测、疾病预测和预防等。这些技术可以提高医疗服务的精准性和效率，减轻医务人员负担，改善使用者健康状况。更高效智能政务服务：人工智能可以应用于政务服务中，例如智能行政审批、智能公共服务等。这些技术可以提高政务服务的效率和便捷性，优化政府管理和公共服务。更精准社会治理和安全保障：人工智能可以用于社会治理和安全保障中，例如公共安全监测、防灾减灾、反恐和反诈骗等。这些技术可以提高社会治理和安全保障的能力和效率，维护社会稳定和公共安全。2.3

改善民生福祉人工智能可以为民生福祉提供更智能、更精准、更便捷的服务和管理，更好地保障使用者的基本权益和生活需求，提高使用者的生活质量和幸福感。人工智能可以帮助医生和病人更准确地诊断疾病、制定个性化治疗方案、进行康复评估等，提高医疗服务水平和治疗效果。此外，人工智能技术还可以用于智能健康监测、疾病预防和预测等方面，更好地保障使用者的身体健康人工智能可以根据学生的学习情况和能力，提供个性化的学习内容和教学方式，提高学习效果。此外，人工智能还可以用于智能考试监管、学生行为预测等方面，提高教育教学质量和管理水平。人工智能可以帮助老年人进行智能化养老服务，例如智能康复训练、智能生活辅助、智能健康监测等，提高老年人的生活质量和健康状况。人工智能可以帮助政府更准确地评估和调整社会保障政策，例如智能社保核算、智能就业指导等，更好地保障使用者的基本生活需求。医疗健康教育培训养老服务社会保障11人工智能还可以用于智能交通、智能公共安全、智能城市管理等方面，提高社会管理和公共服务水平，更好地满足生活需求。123根据OpenAI在2023年3月23日发布的《GPTs

are

GPTs:

An

Early

Look

at

the

Labor

Market

Impact

Potential

of

Large

Language

Models》论文中，OpenAI强调了GPTs的通用潜力对于美国劳动力市场的显著影响。该篇文章定义了三种暴露程度，通过在岗位和技能的数据集上进行人工标注和GPT-4模型生成标注的方式，来对于不同种类的岗位和劳动力在大语言模型之下的暴露程度进行分析。3.1 影响劳动力市场——GPTs暴露度的定义变量含义E0在相同工作质量/工作产出的前提下，使用大语言模型不会减少工作时间或未达到最小工作时间减少的标准E1在相同工作质量/工作产出的前提下，通过ChatGPT或者OpenAI

playground使用大语言模型可以减少50%的工作时间E2在相同工作质量/工作产出的前提下，只使用大语言模型不会缩短工作时间，将大语言模型与额外的软件搭配使用可以缩短50%的工作时间图表3：工作暴露程度定义数据来源：GPTsare

GPTs:

An

Early

Lookatthe

Labor

Market

Impact

PotentialofLarge

Language

Models𝛼13𝛼暴露度变量，用于后续回归分析；𝛼等于E1，代表职业中暴露程度的下限𝛽𝛽暴露度变量，用于后续回归分析；𝛽等于E1+0.5E2，其中E2的系数0.5代表将部署GPTs所需技术和应用的额外投资考虑在内的权重𝜁𝜁暴露度变量，用于后续回归分析；𝜁等于E1+E2，代表职业中暴露程度的上限图表4：工作暴露相关变量的定义3根据OpenAI研究结果，人工注释和GPT-4都表明平均𝛼暴露度在0.14至0.15，表明15%的职业直接暴露在GPTs下；𝛽和𝜁分别有超过0.3和0.5的暴露度，可见目前GPT-4与相关软件结合已经可以覆盖超过50%职业的工作内容。OpenAI预测，有超过80%的工人有至少10%的工作暴露在GPTs下；超过19%的工人有至少50%工作暴露在GPTs下；此外，不同职业和工人在GPTs下的暴露度是相似的，表明工人的集中程度与岗位在GPTs下的暴露度无明显关系。3.1 影响劳动力市场——GPTs暴露度统计14图表5：人工与GPT-4标准结果统计图表6：整体经济环境下的职业（左）和工人（右）在GPTs下的暴露度数据来源：GPTsare

GPTs:

An

Early

Lookatthe

Labor

Market

Impact

PotentialofLarge

Language

Models3在职业的水平上，人工标注和GPT-4标注呈现出一定程度的相关性：暴露度与就业岗位数量的关系上：整体趋势为就业岗位数量越多的岗位，工作内容在GPTs下的暴露度越强；暴露度与岗位薪资的关系上，尽管存在许多底薪资高暴露度和高薪资低暴露度的岗位，整体上GPTs的暴露度与岗位薪酬成正相关，薪酬越高的岗位在GPTs下的暴露度越高。3.1 影响劳动力市场——岗位数量和薪酬与暴露度图表7：暴露度与岗位就业数量的关系【人工（左），GPT-4（右）】图表8：暴露度与岗位薪资的关系【人工（左），GPT-4（右）】数据来源：GPTsare

GPTs:

An

Early

Lookatthe

Labor

Market

Impact

PotentialofLarge

Language

Models153不同工作技能对GPTs的暴露度关系如下：科学研究、高效学习、批判性思维、监管技能都与GPTs暴露度呈现显著的负相关，表明需要此类工作技能的岗位不容易受到GPTs的影响；相反，编程和写作等技能与GPTs的暴露度呈现显著的正相关，表明具有此类的技能的相关岗位容易受到GPTs的影响。3.1 影响劳动力市场——工作技能类型与暴露度图表9：不同工作技能对暴露度的回归结果数据来源：GPTsare

GPTs:

An

Early

Lookatthe

Labor

Market

Impact

PotentialofLarge

Language

Models163相似的岗位难度有以下特征（1）学历要求相似（2）相关经验要求相似（3）岗位所需的培训相似；将工作难度分为5个区域，其中区域1需要最少的准备量（3个月），而区域5需要4年或更长时间的准备量。分析结果表明：随着需要的准备水平的增加，各工作区的平均收入单调增加；所有的暴露度测量结果（𝛼、𝛽和𝜁）显示了相同的趋势，即从工作区域1到工作区域4的暴露量增加，而在工作区域5则保持相似或减少。平均而言，在工作区1到5中𝛽暴露大于50%的工人的𝛽比例分别为0.00%（工作区1）、6.11%（工作区2）、10.57%（工作区3）、34.5%（工作区4）和26.45%（工作区5）。3.1 影响劳动力市场——岗位难度与GPTs暴露度17图表10：不同暴露度阈值下工人的百分比（按工作难度分组）数据来源：GPTsare

GPTs:

An

Early

Lookatthe

Labor

Market

Impact

PotentialofLarge

Language

Models图表11：薪酬、暴露度与不同进入难度的岗位的关系3在美国劳动力市场中，目前超过80%的工人有至少10%的工作暴露在GPTs下；超过19%的工人有至少50%工作暴露在GPTs下，表明目前GPT模型已经在日常工作内容中具有广泛的渗透程度。岗位数量与岗位薪酬均与GPTs的暴露度呈正相关；科学研究、高效学习、批判性思维、监管技能不容易受到GPTs的影响，而与编程和写作等技能的相关岗位容易受到GPTs的影响；岗位难度与GPTs暴露度在一定程度上呈现正相关，而岗位难度最高的职业具有一定的GPTs不可替代性；183.1 影响劳动力市场——总结与展望GPT已经具有成为通用技术的三大特征（1）随时间而进步（2）广泛渗透于经济领域（3）产生与其他技术互补创新的能力。未来在GPT逐步向通用技术发展的过程中，与科学研究、批判性思维等技能相关的工作以及岗位难度较低的工作不易受到GPT的冲击；而岗位难度适中、与工作经验强相关的岗位容易受到GPT的冲击。33.2

个人信息和隐私泄露作为生成式人工智能（generative

AI），ChatGPT本身即具备收集、储存和使用个人信息的功能。尽管ChatGPT在回答关于隐私的问题时声称其不会记住用户的任何信息，也不会主动提供用户个人信息，但它又表示与用户对话的数据被存储在OpenAI或使用的云服务提供商的数据中心；在人机交互问答中，提问者与ChatGPT分享的隐私和个人信息可能被用于未来模型的迭代训练，ChatGPT模型训练中使用的数据大多来自互联网，可能包含大量的个人信息和数据，而未经用户同意的数据抓取和训练模型强大的推理能力又极大地增加了个人信息泄露的风险；含有个人信息的问答内容可能成为模型训练的基础“语料”，这使ChatGPT输出的内容包含用户提供的个人信息或重要数据。即便泄露用户个人信息的概率非常小，但如果加以刻意引导和提示，它仍然可能用来生成包含个人信息内容的回答。目前三星公司已经出现员工因为使用ChatGPT而泄露公司机密信息的事故，这表明人工智能在现阶段仍不能很好的处理隐私泄露问题。1933.3

算法歧视和偏见在OpenAI发表的论文《Understanding

the

Capabilities,

Limitations,

and

Societal

Impact

of

Large

Language

Models》中，OpenAI指出GPT-3模型存在种族、性别和宗教等算法偏见。在2022年12月，清华大学团队“AI模型性别歧视水平评估项目”表明GPT-2模型在“中性”职业上具有极强的性别偏见，其原因主要为以下三个方面：数据集带来的偏差，也就是供AI学习训练的“教材”本身暗含偏见。设计者的局限，有时也在无意中形成了“偏见”。硅谷、以及大量的智能应用公司都集中在美国旧金山湾区，一个发达的大都会区，开发者主要为白人中青年男性，相较主流群体，其对第三世界、边缘群体的关注难说到位。算法本身的不足，也加剧了歧视。以目前AI领域备受推崇的“深度学习”为例，它会自行发展联系、分析特征、决定变量权重，其不透明性，便是人们常说的“黑盒”特性，也促使了模型容易对某一特定领域产生“算法歧视”。图表12：模型在医生职业的性别偏见程度 图表13：模型在教师职业的性别偏见程度数据来源：清华大学于洋教授研究团队，《AI模型性别歧视评估》2033.4

伦理道德隐患图表14：人工智能伦理问题的分类数据来源：ChangwuHuang，AnOverviewof

ArtificialIntelligenceEthics人工智能伦理问题可以分为个人层面、社会层面和环境层面的伦理问题。个人层面，人工智能对个人的安全、隐私、自主和人格产生了潜在影响；社会层面，我们关注人工智能为社会以及世界各地国家的福祉带来的影响，包括但不限于AI的责任与问责、监控与数据化、民主与公民权利、工作代替与人际关系等伦理问题；环境层面，关注人工智能对环境和地球的影响。例如硬件生产消耗大量的自然资源、硬件丢弃产生的环境污染、庞大算力所需要的高能耗以及对人类可持续发展目标的影响21人类的应对方法2234.1 加强对AI技术的监管OpenAI在文档中写道：“GPT-4表现出一些特别令人担忧的能力，例如制定和实施长期计划的能力，积累权力和资源（寻求权力），以及表现出越来越‘代理’的行为”。对于AIGC技术带来的潜在风险，各国不约而同地开始自上而下地监管或问责举措。中国：4月11日，国家互联网信息办公室根据《中华人民共和国网络安全法》等法律法规起草了《生成式人工智能服务管理办法（征求意见稿）》，文件要求利用AIGC生成的内容应当体现社会主义核心价值观，防止出现种族、民族等歧视，防止生成虚假信息，防止侵犯知识产权等问题；美国：4月11日美国商务部就ChatGPT等人工智能技术相关的问责措施正式公开征求意见，包括具有潜在风险的新型人工智能模型在发布前是否应进行核准认证程序；意大利：3月31日，意大利个人数据保护局宣布从即日起禁止使用ChatGPT，限制OpenAI处理意大利用户信息，并开始立案调查；德国：4月3日，德国数据专员表示，德国可能会以数据安全方面的担忧为由，屏蔽OpenAI的聊天机器人ChatGPT。23324解决AI的伦理问题可分为伦理手段、技术手段和法律手段。伦理手段：致力于开发伦理AI系统或智能体，通过在AI中嵌入伦理道德，使它们能够根据伦理理论进行推理和决策。现有的在人工智能中嵌入伦理的方法或途径可以分为三种主要类型：自上而下的方法、自下而上的方法和混合方法。4.2 加强对AI技术的法律和伦理规范数据来源：

Changwu

Huang，An

Overview

of

Artificial

Intelligence

Ethics图表15：三种人工智能伦理设计范式及其特点比较设计范式定义特点预设伦理规则学习能力自适应性可解释性自上而下自下而上混合方法嵌入预设的伦理理论和道德规范基于案例，不断试错自上而下和自下而上的复合方法是否是无强强弱强强强差中等34.2 加强对AI技术的法律和伦理规范25数据来源：

Changwu

Huang，An

Overview

of

Artificial

Intelligence

Ethics解决AI的伦理问题可分为伦理手段、法律手段和技术手段。法律手段：旨在通过立法来规范或管理人工智能的研究、部署、应用和其他方面来避免先前讨论的伦理问题。随着人工智能技术的应用越来越广泛，以及人工智能应用中出现的伦理问题和风险，政府和组织已经制定了许多法律法规来规范人工智能的开发和应用。法律方法已成为解决人工智能伦理问题的一种手段。技术手段：旨在开发新技术（尤其是机器学习技术），以消除或减轻当前AI的缺点，规避相应的伦理风险。例如，对可解释机器学习的研究旨在开发新的方法来解释机器学习算法的原理和工作机制，以满足透明或可解释性原则。公平机器学习研究使机器学习能够做出公平决策或预测的技术，即减少机器学习的偏见或歧视。图表16：解决五项关键原则的技术方法总结原则 代表性研究方向透明度公平正义非恶意责任与问责隐私ExplainableAIorInterpretable

AIFair

AISafeAISecure

AIRobust

AIResponsible

AIDifferential

AIFederatedorDistributed

earningHomomorphic

Encryption34.3 加强对AI技术的国际交流与合作在2022年12月9日清华大学“人工智能韧性治理与未来科技论坛”指出，基于数据驱动的“第四范式”正在从根本上改变传统的科研范式，释放出巨大的创新潜能。人工智能技术需要应对气候变化、公共卫生、数字鸿沟等重大问题与全球性挑战，消除全球“治理赤字”，关键在于在AI技术的国际合作中考虑不同国家的公共利益与和社会责任，在人工智能伦理原则与标准制定中更加尊重多元文化与不同诉求。联合国开发计划署（UNDP）在《2022-2025年数字战略》中制定了“创建数字技术助力人类和地球发展的世界”的雄伟愿景，然而其指出目前谁来设计并实施全球行为准则和标准体系、如何做出决策以及关键受众是谁等问题尚且不明晰，AI技术的国际合作任重道远；关于发达国家与发展中国家人工智能应用与治理不平衡的问题，联合国助理秘书长徐浩良表示：AI共治是事关全球的重要事件，发达国家坚持国家政府主导，在国际框架、国际协议里的承诺范围内帮助其提高能力，缩小他们与现代技术或现代应用技术、概念治理方面的差距。5.1

与人工智能和谐共存人类与人工智能和谐共处的关键在于建立有效的沟通和合作机制，促进互相理解和尊重。确保负责任地开发人工智能系统：需要预防和解决合作方之间的集体行动问题。（The

Roleof

Cooperation

inResponsible

AI

Development，AmandaAskell，MilesBrundage，Gillian

Hadfield）建立透明的人工智能决策机制：需要了解AI如何做出决策，以及如何纠正AI的错误，可以通过公开透明的AI算法和决策过程实现。鼓励多样性和包容性：人工智能系统的设计和开发需要考虑到不同文化、背景、种族和性别的差异。鼓励多样性和包容性可以减少偏见和歧视的风险，并帮助确保AI系统的公正性。保护隐私和安全：人工智能系统需要通过加密技术和访问控制等安全措施遵守隐私和安全法规，并保护用户的个人信息。培养人类的技能和素质：随着AI技术的发展，许多传统的工作岗位将会被自动化。人类需要不断学习和提升自己的技能和素质，以适应新的工作环境。重视道德和伦理：人工智能系统的设计和开发需要考虑到道德和伦理问题。人们需要深入了解AI系统的运作和潜在的影响，以确保其符合道德和伦理标准。推广人工智能的社会责任：人工智能系统的设计和使用需要负起社会责任。需要考虑到系统对社会和环境的影响，并采取相应的措施来减少负面影响。图表17:对人工智能赋能行为的的干预阶段：GenerativeLanguageModelsandAutomatedInfluenceOperations:EmergingThreatsandPotentialMitigations285.2 展望人工智能时代前景与机遇人工智能时代将会给人类带来广泛的前景和机遇，注意负面影响的前提下，充分发挥智慧和创造力，以促进人工智