麦肯锡-中国金融行业CEO季刊：全球洞见中国实践捕捉生成式AI新机遇

2023年秋季刊 304020235图1:GenAI的潜在影响可以通过两个视角进行评估视角1视角2用例的总经济全球劳动力执60多个组织视角2用例的总经济全球劳动力执潜力用例的行的约2,100成本影响项详细工作活动的劳动生产影响1用例对收入的动的劳动生产影响11.定量分析，收入影响被重新定义为相应支出的生产率增加，以保持与成本影响的可比性，而不是假设任何特定市场的额外增长。资料来源：麦肯锡分析6.1-7.9~15-40%增量经济影响6.1-7.9~15-40%增量经济影响图2:人工智能技术对全球经济的潜在影响在17.1-25.6万亿美元之间，相当于~25%的生产率增长人工智能对全球经济的潜在影响，万亿美元17.1-25.6~35-70%增量经济影响2.6-4.42.6-4.4数据和高级人工智能用新的GenAI总用例驱动通过GenAIAI总经济分析用例例（不是用例潜力GenAI）深入关注提高所有员包括在用例中潜力资料来源：麦肯锡全球研究院高达~25.6万亿美元人工智能对全球经济的潜在影响相当于当前全球经济的~25%GenAI的影响相当于当前全球经济的~8%彭博数据显示，2022年GenAI行业的全球市场收入达400亿美图3:GenAI用例在不同行业和部门中具有不同规模的GenAI在不同行业和部门中的产值¹低影响高影响营销与客户销售运营产品与软件研发开发供应链风险与战略与公司人才与十亿760-340-230-580-280-47042053026026040-5060-904.8-9.3240-460银行业2.8-4.7200-340药品与医疗产品2.6-4.5通信2.3-3.7教育2.2-4.0120-2301.8-3.2150-260保险1.8-2.850-70媒体与娱乐1.5-2.6高端制造31.4-2.4170-2901.4-2.3160-270高端电子与半导体1.3-2.3旅行、交通与物流1.2-2.0180-300零售4240-390地产150-240行政与专业服务150-250化学建筑基础材料120-200农业40-70公共与社会部门0.5-0.92,600-4,400注：由于四舍五入，数字之和可能不等于100%1.不包括实施成本（例如培训、许可证）2.不包括软件工程3.包括航空航天、国防和汽车制造4.包括汽车零售资料来源：比较行业服务(CIS)、IHSMarkit；牛津经济杂志；麦肯锡公司和业务职能数据库；麦肯锡制造和供应链360；麦肯锡销售导航；麦肯锡数据库Ignite；麦肯锡分析图4:在少数职能中使用GenAI可以实现用例的大部分价值1●占生成式AI每年总影响的~75%4003002000客户运营●产品与研发2●供应链制造财务风险与合规●人才和组织（包括人力资源）●●●采购管理占职能支出的百分比，%1.注意：用例价值按行业平均计算2.不含软件工程资料来源：IHSMarkit；牛津经济研究院；麦肯锡企业和业务职能数据库；麦肯锡制造和供应链360；麦肯锡销售导航；Ignite，麦肯锡数据库；麦肯锡分析GenAI对客户运营的影响客户与类似人类的聊天机器人进行交互，该机器人对复杂的查询提供即时、个性化的响应，确保无论客户语言或辅助人工互动辅助人工互动人工客服使用人工智能开发的呼叫脚本，并在电话交谈期间接收实时帮助和响应建议，即时访问相关客户数据以进行量身定制的实时信息传递摘要与建议生成人工客服将收到简洁的对话摘要，用以记录客户投诉和所采取行动人工客服将使用由AI生成的自动化、个性化的见解，包括量身定制的后续消息或个性化的指导建议GenAI对营销和销售的影响销售和营销人员从非结构化数据源（例如，社交媒体、新闻、研究报告、产品信息和客户反馈）中收集市场趋势和客户信息，并起草营销和销售内容客户会看到根据其画像量身定制的广告客户可以访问全面的产品信息和动态建议，例如进行“试穿”由GenAI支持的虚拟销售代表模拟人类品质（例如同理心、个性化沟通和自然关系更有可能通过定制的消息和奖励来留存，他们可以与人工智能驱动的聊天机器人系，减少人工客服需要处理的对话GenAI对产品研发的影响早期研究分析研究人员使用GenAI来协助市场报告、产品或解决方案的起草研究人员使用GenAI生成基于提示的草项快速迭代如果与新的深度学习创成式设计技术相结合，研究人员可以加速和优化虚拟仿真阶段研究人员优化测试用例以实现更高效的测试，从而减少物理构建和测试所需的通过采用可以增强测试功能的算法来提升测试质量，并可以自动生成测试用例和测试数据工程师使用GenAI来创建多个IT架构设计并迭代潜在的配置，从而加速系统设计并缩短上市时间通过采用可以增强测试功能的算法来提升测试质量，并可以自动生成测试用例和测试数据工程师使用GenAI来创建多个IT架构设计并迭代潜在的配置，从而加速系统设计并缩短上市时间GenAI对软件开发的影响软件工程师和产品经理使用GenAI来协助分析、清理和标记大量数据，例如用户反馈、市场趋势和现有系统日志码码协助生成草稿、快速查找错误及充当易于导航的知识库来缩短开发时间工程师使用有关系统日志、用户反馈和性能数据的AI洞察来帮助诊断问题，提供修复建议，并预测其他高优先级的改进领域图5:GenAI部署于部分行业的用例中时，可以提供巨大该职能对行业的价值潜力高低行业总价值潜力十亿美元占行业收入百分比价值潜力利润的百分比产品研发，软件工程客户运营营销和销售其他职能银行业200-340(3-5%)9-15%旧代码转换使用自然语言翻译功能优化旧框架的迁移客户紧急交互式语音响应(IVR)技术部分自动化以加速和提高客户紧急情况的解决率IVR相互作信用卡丢失）定制化零售银行业务基于客户画像和交易历史，为银行的每个客户量身定制的个性化营销和销售内容，并为A/B测试生成替代方案风险模型文档创建模型文档，并检查确实的文档和相关法规更新零400-660(1-2%)27-44%消费者研究通过测试场景加速消费者研究进程，并通过创建用于训练的“合成客户”形象来增强客户定位增强现实辅助客户支持快速实时通知员工产品状态和消费者偏好协助撰写营销加快营销内容和广告脚本的文案编写采购供应商流程改进准备与供应商的谈判草案科学60-110(3-5%)15-25%研究和药物发现加快选出最适合作为新药配方候选者的蛋白质和分子客户文档生成起草药品说明书和药品转售风险通知为商业代表生成内容准备与医生互动的脚本合约生成起草包括具体监管要求的法律文件草案资料来源：麦肯锡分析创造4,000亿至6,600亿美元的价值，价值潜力占行业总收入的图6:科技能力，科技可实现的人类表现水平生成式AI发展后估计（2023年）生成人AI之前估计（2017）中位数中位数前四分位数前四分位数表示专家估计的范围20102020203020402050206020702080多方协调创造力逻辑推理和解决表达和演讲生成新颖的模式和类别感官认知社交和情感表达社会和情感推理社会和情感感知资料来源：麦肯锡分析图7:生成式人工智能的出现推动了技术自动化的潜力按不同预估划分的技术自动化潜力，%活动耗费2023202320202030204020502060激进预估（结合GenAI）激进预估（2017）保守预估（2017）资料来源：麦肯锡分析2.0%4.21图8：效率提升：GenAI将影响各个职能部门，对营销、客户运营和工程的影响最大总体价值(万亿总体价值(万亿美元)(%营与销售客户运营产品与研软件工程供应链运风险与法律与财人才与组影音娱乐~0.1~0.12.6%实时供应实时供应商风险评估软件技术0.2-0.50.2-0.54.9%-4.9%-9.3%编码副编码副候选人尖叫银行和保险0.4-0.60.4-0.62.9%生成客户生成客户反馈产品生成产品生成和旧代码更新户服务职位描述起草零售0.4-0.4-0.72%超个性化超个性化0.2-0.2-0.33.2%疗保健支持服务教育0.1-0.20.1-0.22.1%-2.1%-4%生命科学&农业0.2-0.2-0.30.9%-0.9%-公共部门~0.1~0.10.6%-0.6%-0.9%~0.1~0.12.2%-2.2%-3.7%运输、物流&旅游0.2-0.2-0.30.9%-0.9%-制造业0.4-0.4-0.60.9%-0.9%-3D3D数字模型，产品设计3D3D数字模型，产品设计供应链价供应链价格重新谈判销售合同销售合同创建者发票异常发票异常检测器助手金属&采矿0.1-0.1-0.20.7%-0.7%-材料发现材料发现异常检测异常检测环境~0.2~0.20.6%-0.6%-0.9%资料来源：麦肯锡分析应用专业知识决策、规划和创造作90.5管理和培养人才与利益相关方互动处理数据收集数据在不可预知的环境中进行体力工作体在可预知的环境中进行体力工作应用专业知识决策、规划和创造作90.5管理和培养人才与利益相关方互动处理数据收集数据在不可预知的环境中进行体力工作体在可预知的环境中进行体力工作图9:GenAI可对协作和专识应用类任务等早先自动化潜力较低的领域产生最大影响使用GenAI不使用GenAI1任务分类58.558.524.549.045.024.073.079.068.046.045.573.072.5注：由于四舍五入，数字可能不能加总资料来源：麦肯锡全球研究院分析 54 62 54 62325728 6539 532866 4427 43295745 3829 4334 8273 7870 4942 67616359 5349 6351图10:GenAI带动的技术进步将加速教育、科研、创意等职业转型考虑GenAI不考虑GenAI全球就业职业分类技术自动化潜力在中点场景的对比,%,2023人口份额,%教育与培训教育与培训4商业和法律专业人士5科研专业人士3社区服务3创意与艺术1行政支持879管理3医疗健康专业人士2客服和销售10物业维修4健康助手及技术人员3生产工作12食品5交通服务3机械安装和维修4农业21建筑7注：由于四舍五入，数字可能不能加总包括来自47个国家的数据，约占全球就业人数的80%资料来源：麦肯锡全球研究院分析图11:产品创新：我们预计软件和技术以及媒体和娱乐领域的影响最大产品创新领域冲击低高场景虚拟任务客户互动对话超个多媒体产品辅助数据价值编码生成建模界面性化生产设计总体价值影音娱乐测试到图测试到图所有媒体个所有媒体个性化生成新内容生成新内容软件技术开发人员工作效率生成整个生成整个提高可用性提高可用性完整的设计银行业&保险更新旧代码客户数据的客户数据的和审计重新定义的重新定义的客户体验零售消费品聚合器购物聚合器购物个性化营销个性化营销新设计健康从旧平台模拟临床模拟临床试验患者病史患者病史患者治疗患者治疗虚拟私人虚拟私人个性化治疗个性化治疗教育代码学习学习材料学习材料个人学习个人学习材料新的学习新的学习生命科学&农业合成健康合成健康数据药物发现药物发现蛋白质、基公共服务城市规划和城市规划和政策制定来自媒体和来自媒体和公众反馈的案例管理，案例管理，任务自动化市民信息市民信息助理学习与发展学习与发展符合符合GDPR的客户数据使用生成式角色生成式角色扮演协议运输、物流&旅游改进自动驾改进自动驾驶模式需求预测需求预测制造业评估设计的评估设计的影响设计协助金属&矿业确定运营确定运营瓶颈虚拟挖矿虚拟挖矿指南能源&环境基础设施基础设施监控数据1.每个行业都包含行业特定的软件2.与行业无关的软件3.包括航空航天和国防、汽车和装配、化学品、半导体、基础材料4.包括石油和天然气、电力资料来源：麦肯锡分析竞争格局的变化主要竞争壁垒价值竞争格局的变化主要竞争壁垒价值图12:竞争变化：我们预计对转换成本、专有内容和成本优势的影响最大基因人工智能的影响壁垒强度客户切换去中介化低成牌知作集领专知高险境户络应用网效数据监管监管总体价值媒体与娱乐定制媒体行业媒体生成媒体生成的商品化能为主要软件技术一站式服务对话式对话式现成本载入和迁载入和迁移速度降低银行和保险抵押贷款商品化给和保险机价格带来器人压力零售消费品易于创建易于创建产品能够通过能够通过聚合器进行销售定制医疗行业适应当地适应当地法律要求教育广义教育模型生命科学&政府计划农业模型资格映射公共部门运输、物流和旅游制造业金属&采矿能源&环境商品化商品化B2C产品原本已在自身系统内嵌入人工智能能力的组织，也在积极探索图1:各地区、行业和资历级别的受访者表示，他们已经在使用生成式人工智能工具。没有接触过不知道在工作中经常使用在工作之外经常使用在工作中和工作之外经常使用没有接触过不知道按办公地点亚太4181936发展中市场欧洲大中华区北美34233454638按行业先进制造业商业、法律和专业服务消费品/零售能源和材料金融服务健康、制药和医疗产品科技、媒体和电信47412124026450414437按职位企业领导高级管理层中级管理层424235按年龄1964年或更早出生出生于1965-1980年出生于1981-1996年30375222436按性别男性37备注：由于四舍五入，各项数据加总后不一定等于100%。亚太地区受访人数=164；欧洲=515；北美=392；大中华区（包括香港和台湾）=337；发展中市场（包括印度、拉丁美洲、中东和北非）=276。先进制造业（包括汽车和装配、航空航天和国防、先进电子和半导体）受访人数=96；商业、法律和专业服务=215；消费品和零售业=128；能源和材料=96；金融服务=248；健康、制药和医疗产品=130；科技、媒体和电信=244。企业领导受访人数=541；高级管理层=437；中层管理层=339。1964年或更早出生的受访者人数=143；1965年-1980年出生的受访者=268；1981年-1996年出生的受访者=80。不是所有受访者都提供了年龄信息。男性受访者人数=1025；女性受访者人数=156。调查样本还包括选择“非二元性别”或“其他”的受访者，但数量不多，不具有统计意义。资料来源：麦肯锡全球人工智能调查，1684名受访者涵盖组织各个层级，2023年4月11日至21日进行图2:生成式AI工具最常见的用途是营销和销售、产品服务开发以及服务运营。表示其组织在相应职能中经常使用GenAI的受访者占比（%）1营销与产品和/服务战略与供应链销售或服务开发运营风险资金管理HR管理制造营销和销售产品和/或服务开发服务运营起草文本初稿识别客户需求趋势采用聊天机器人（如用于客户服务）997766个性化营销起草技术文件预测服务趋势或异常情况885555总结文本文档设计新产品起草文件初稿8844551.问题仅针对表示其企业已至少在一个职能中采纳人工智能技术的受访者。显示数据已经过调整，以代表所有受访者。资料来源：麦肯锡全球人工智能调查，1684名受访者涵盖组织各个层级，2023年4月11日至21日进行AlexSingla根据调查，几乎没有企业已为GenAI的AlexanderSukharevsky565338462545565338462545283939202928 1企业认为重要且正在着手解决的生成式AI相关风险，不准确网络安全不准确网络安全监管合规可解释性个人隐私取代人工公平公正组织声誉国家安全人身安全环境影响政治稳定以上都不是1.仅对表示其所在企业已在至少一个职能采纳AI技术的受访者提问。上述两组受访者人数均为913。资料来源：麦肯锡全球人工智能调查，1684名受访者涵盖组织各个层级，2023年4月11日至21日进行图4:来自人工智能高绩效企业的受访者将降本视为生成AI领先公司的核心业务创造新业务和/或收入来源增加核心业务收入通过嵌入AI功升产品/服务价值所有其他备注：由于四舍五入，各项数据加总后不一定等于100%。1.仅对表示其所在企业已至少在一个职能采纳AI技术的受访者提问。2.表示其组织2022年至少有20%的息税前利润源自AI应用的受访者。人工智能高绩效企业受访者人数=45；所有其他受访者人数=712。资料来源：麦肯锡全球人工智能调查，1684名受访者涵盖组织各个层级，2023年4月11日至21日进行其他数据技术应用与推广人才模型和工具其他数据技术应用与推广人才模型和工具图5:模型和工具是领先企业面临的最大AI挑战，其他企业则更多被战略难题所困。在受访者中占比（%）1AI高绩效企业 1所有其他22466注：由于四舍五入，各项数据加总后不一定等于100%。1.该问题仅针对表明自己所在组织某一职能领域已采用人工智能技术的受访者。2.表示其组织2022年至少有20%的息税前利润源自AI应用的受访者。AI高绩效企业受访者人数=49；其他受访者人数=792。资料来源：麦肯锡全球人工智能调查的1684名受访者涵盖组织各个层级，2023年4月11日至21日进行BryceHall图6:人工智能相关岗位招聘仍然很难，不过受访者反映许多岗位的招聘难度在2022年后有所下降。020222023难度较低难度较高020406080100机器学习工程师。AI数据科学家a0转译员。AI产品负责人或经理数据架构师。提示工程师2软件工程师。数据工程师。设计专家。数据可视化专家●01.该问题仅针对表明自己所在组织某一职能领域已采用人工智能技术、且过去12个月招聘相关岗位的受访者。未展示回复“简单”、“不简单也不难”或“不知道”的受访者。2.2022年未询问受访者。资料来源：麦肯锡全球人工智能调查的1684名受访者涵盖组织各个层级，2023年4月11日至21日进行产品和/或服务开发风险战略与企业资金管理融产品和/或服务开发风险战略与企业资金管理融营销与销售供应链管理服务运营受访者占比（%）1员工数量变化增加20%以上3增加11%~20%4增加3%~10%8变化很小或没有变化（变化幅度不超过2%）30减少3%~10%25减少11%~20%10减少20%以上8不知道>20%≤5%88注：由于四舍五入，各项数据加总后不一定等于100%1.仅对表示其所在企业已至少在一个职能采纳AI技术的受访者提问，受访者人数=913资料来源：麦肯锡全球人工智能调查的1684名受访者涵盖组织各个层级，2023年4月11日至21日进行图8:服务运营是唯一一个大多数受访者都认为会因生成未来3年生成式AI对员工数量的影响，按业务职能划分，受访者占比（%）1下降变化很小或没有变化增加不知道303035202028254041459注：由于四舍五入，各项数据加总后不一定等于100%1.该问题仅针对表明自己所在组织某一职能领域已采用人工智能技术的受访者资料来源：麦肯锡全球人工智能调查的1684名受访者涵盖组织各个层级，2023年4月11日至21日进行图9:来自AI领先公司的受访者所预计的企业重塑员工技预计应用人工智能后公司未来3年需要重塑技能的员工比例，受访者占比（%）1来自AI领先公司的受访者221-30%9所有其他受访者 9不知道 1.该问题仅针对表明自己所在组织某一职能领域已采用人工智能技术的受访者2.表示其组织2022年至少有20%的息税前利润源自AI应用的受访者。来自AI领先企业的受访者人数=50；所有其他受访者人数=863资料来源：麦肯锡全球人工智能调查的1684名受访者涵盖组织各个层级，2023年4月11日至21日进行图10:不足1/3的受访者表示，所在企业已经1个以上职能部门采用人工智能技术——该数字在2021年后几乎没有1个或以上职能部门2个或以上职能部门3个或以上职能部门4个或以上职能部门5个或以上职能部门202120222023●20212022202396662021202220232021202220234232021202220231.In2021,n=1843;in2022,n=1492;in2023,n=1684资料来源：麦肯锡全球人工智能调查的1684名受访者涵盖组织各个层级，2023年4月11日至21日进行MichaelChui图11:企业继续在采用人工智能技术的职能部门看到长期2022年AI技术应用的降本成效，受访者占比（%）1人力资源营销与销售研发、产品或产品开发风险服务运营战略与企业资金管理供应链管理所有职能的平均值≥20%10-19%<10%26440264414126444126444192644526445887572492442284422842022年AI用例落地后营收增加，受访者占比（%）2人力资源营销与销售研发、产品或产品开发风险服务运营战略与企业资金管理供应链管理所有职能的平均值>10%6-10%≤5%9988242433661.该问题仅针对表明自己所在组织某一职能领域已采用人工智能技术的受访者。不展示回答“成本上涨”、“无变化”、“不适用”或“不知道”的受访者。2.该问题仅针对表明自己所在组织某一职能领域已采用人工智能技术的受访者。不展示回答“营收下降”、“无变化”、“不适用”或“不知道”的受访者资料来源：麦肯锡全球人工智能调查，1684名受访者涵盖组织各个层级，2023年4月11日至21日进行22在ChatGPT推出后的几个月里，主要大型语言模型（LL1111月30日OpenAI的ChatGPT（由2020年GPT-3版本的改进版GPT-3.5驱动）成为第一个被广泛使用的文本生成产品，在2个月内收获了创纪录的1亿用户量12月26日谷歌的Med-PaLM等LLM针对临床知识等特定用例和领域接受训练20232月24日Cohere发布首款支持100多种语言的LLM，可在其企业人工智能平台使用3月14日Anthropic推出Claude，一款使用名为“合宪人工智能”方法训练的人工智能助理，旨在减少有害输出概率3月16日微软宣布将GPT-4整合到其Offce365套件中，或有助于广泛提升工作效率20233月21日谷歌发布基于LLM的人工智能聊天机器人Bard4月13日亚马逊发布Bedrock，这是第一款有完全管理的服务，除了亚马逊自己的TitanLLMs，还可以通过API使用多个供应商（例如Anthropic）的模型2月2日亚马逊的多模态-CoT模型包含了“思维链提示”，模型可解释其推理，且在多个基准上优于GPT-3.5LLaMA比其他一些模型更具使用效率，且与其他模型相比，在一些任务上持续表现良好2月27日微软推出Kosmos-1，一款多模态LLM，除了自然语言外，还能对图像和音频提示做出回应3月13日OpenAI发布GPT-4，在准确性和减少幻觉方面有明显改进，声称与GPT-3.5相比有40%的提升3月7日Salesforce发布EinsteinGPT（利用OpenAI的模型），这是第一款用于客户关系管理的生成性AI技术3月30日彭博宣布以金融数据训练然语言任务12月12日2022资料来源：麦肯锡分析 服务围绕如何利用生成式AI（如，训练、反馈和强化学习）的专业知识而提供的服务应用使用基础模型的B2B或B2C产品，基本直接使用或根据特定用例进行微调模型中心和MLOps管护、托管、微调或管理基础模型的工具（例如，应用程序和基础模型之间的虚拟门面）基础模型用于建立生成式AI应用的核心模型提供计算机硬件访问的平台为训练和运行模型而优化的加速器芯片（例如，图形处理器GPU）资料来源：麦肯锡分析2。 图3:生成式人工智能对组织的要求从低到高不等，具体取决于用例此不需要专此不需要专有数据不太需要技术人才——可能负责选择合适的解决方案和轻度的整合工作许多SaaS工1具提供固定服务，每名用户每月10至30美元；一些产品则按使用情况务S)工具111流程基本保持不变，但工作人员应系统地检查模型结果的准确性和适当性1113221此不需要专有数据模型3221此不需要专有数据模型API构建软件层需要前期投资开发用户界面、整合解决方案并建立后处理层发、产品管理和数据库集成能力，工程师、设计师和前端工程师、设计师和前端开发人员API使用和软件维护的持续成本3对开标记以及模行微本增加，初调始成本比基3对开标记以及模行微本增加，初调始成本比基于API构建高模型维护和云计算的持续成本更高4户支持代表时间进行更有价值的工带标签的数据集以微调模型，尽管在某些情况下该数据及可能相对较小经验丰富的数据科学和工程团器学习运营（MLOps）可以检查或创建所需的标签数据基础模型可以通过大量公开数据训练，但长期的差异性优势来自于增基础模型可以通过大量公开数据训练，但长期的差异性优势来自于增加自有的标记或未标记数据（更易于收集）据科学和工程团队，具加快研究者识别相关细胞特征的速度，助力药物有流程，64训练础设施成本模型本比基于训练础设施成本模型本比基于API构建高出约模型维护和云计算的持续成本与上MLOps最佳实践以及数据和基础设施管理技能底的法律审查，以防止发生知识产权问题资料来源：麦肯锡分析1231231tt协助患者诊断过培训的基础协助患者诊断过培训的基础•500万到2亿美元，一次性，除非模型经过微调或重新训练─模型开发：~50万美元。成本包括4名数据科学家花费3到4个月的时间利用现有研究进行模型设计、开发和评估─数据和模型管道：~50万到100万美元。成本包括6到8名机器学习和数据工程师工作~12周来收集数据并执行数据─模型训练⁵：每次训练运行~400万美元到2亿美元。成本包括4到6名数据科学家工作3到6个月的计算和人工成本─插件层建筑：~100万到300万美元。费用包括一个6到8人的团队，工作6到12个月•~100万至500万美元，每年重复性费用─模型推断：~10万到100万美元每年每1,000个用户假设每位医生每天看20到25名患者，患者每次就诊6到25分钟─模型维护：~每年重复100万美元到400万美元。假设MLOps平台每年花费250,000美元4和3到5名机器学习工程师来监视模型性能─插件层维护：每年~30万美元，占开发成本10%图1:每种模式都有对应的成本，需要技术领导斟酌取用者(Taker)•面向软件开发•人员的现成编码助手•通用的客户服务聊天机器人，仅具有提示工•程和文本聊天~50万至200万美元，一次性费用─现成的编码助手：~50万美元用于集成。费用包括一个6人的团队工作3到4个月─通用的客服聊天机器人：~200万美元用于在第三方模型API之上构建插件层。费用包括一个8人团队工作9个月~50万美元每年，重复性费用─模型推断：现成的编码助手：每年~20万美元，每日1，000个用通用的客服聊天机器人：~每年20万美元，假设每天1,000个客户聊天和每次聊天10,000个代币─插件层维护：每年~20万美元，假设开发成本的10%(Shaper)•根据特定行业•知识和聊天记录进行微调的客服聊天机器人•~200万到1000万美元，一次性费用，除非模型需进一步微调─数据和模型管道构建：~50万美元。成本包括5到6名机器学习工程师和数据工程师，他们工作16到20周，收集和标记数据并执行数据ETL1─模型微调²：~每次训练运行10万到600万美元³─低成本情景：成本包括计算（例如算力），和2名数据科学家工作2个月的成本─高成本情景：基于公共闭源模型的计算和微调成本─插件层构建：~100万美元到300万美元，成本包括一个6到8人的团队工作6到12个月~50万美元每年，重复性费用─模型推理：每年重复性，~50万美元。假设每天有1,000次音频和文本聊天─插件层维护：~50万美元。假设MLOps平台每年花费100,000到250,000美元4，1名机器学习工程师花费50%到100%的时间监视模型性能─插件层维护：每年~30万美元，占开发成本10%创造者创造者(Maker)1Extract,transform,andload(ETL),即提取、转换和加载2模型在由~100,000页行业特定文档和来自~1，000个客户代表的5年聊天记录（~480亿个代币）组成的数据集上进行微调。较低的终端成本包括在开源模型（例如LLaMA）上重新训练的1%参数和闭源模型的上限参数。聊天机器人可以通过文本和音频访问3每次训练运行后，都会根据超参数、数据集和模型架构的使用对模型进行优化。模型可以在需要时定期刷新（例如，使用新数据）4GiladShaham,“BuildorbuyyourMLOpsplatform:Mainconsiderations,”LinkedIn,2021/11/35模型在650亿到1万亿个参数和1.2到2.4万亿个代币的数据集上进行训练。该工具可以通过文本和音频访问资料来源：麦肯锡分析客户查看方案客户要求人工坐席服务客户完成预订变更后下线聊天机器人传递信息和方案聊天机器人回应坐席输入新的解决方案，供模型审核/反馈人工坐席接手，提供新的解决方案聊天机器人呼叫客服选择方案模型解释问题，并给出替代方案模型指示预订系统完成任务模型检查发现客户无法更改客户查看方案客户要求人工坐席服务客户完成预订变更后下线聊天机器人传递信息和方案聊天机器人回应坐席输入新的解决方案，供模型审核/反馈人工坐席接手，提供新的解决方案聊天机器人呼叫客服选择方案模型解释问题，并给出替代方案模型指示预订系统完成任务模型检查发现客户无法更改模型指示客户支持系统指派坐席预订变更政策管理预订工作流管理人工坐席指派工作流管理图2:在关键触点集成生成式AI，实现客户旅程的量身旅行社客服机器人的客户旅程示例API调用客户AI模型后端app数据源基础设客户登录并要求客户登录并要求更改预订不接受激活聊天激活聊天机器人模型接收模型接收并在提示中提取用户信息登录验证、登录验证、模型/客户信息访问授权代理指派代理指派数据预订系统数据客户历史数据客户ID数据政策数据云云/本地基础设施和计算资料来源：麦肯锡分析包含基础模型的应用程序即服务以SaaS1形式Midjourney）通过浏览器界面访问包含基础模型的应用程序即服务以SaaS1形式Midjourney）通过浏览器界面访问面向最终用户的应用程序和基础模型生成式AI技术栈示例App模型数据工具化基础设施数据源体验层体验层分析数API网关API网关据、交易数据情境管理和缓存从企业数据源检索用户和任务语境，提示生成式AI模型，缓存常见请求模型仓库让用户能够共享模型和数据模型仓库让用户能够共享模型和数据Face）提示库政策管理基于角数据问权限控制和平台开放/封闭源代码基础基于内矢量数数据仓库、数据湖封闭源基础模型基于API的预训练模型（如，GPT-4）模型可访问的训练模型（如，BLOOM） MLOps平台容的政策，确保企业数据资产安全企业现有平台3,CRM4)质量保证和可观测性云或内部基础设施和计算硬件QA（质量保证）模型输出（例如，检查偏向性）1.软件即服务2.直接面向客户3.企业资源规划4.客户关系管理.资料来源：麦肯锡分析专门针对训练和运行模型而优化的加速器芯片未来3-5年新的市场进专门针对训练和运行模型而优化的加速器芯片未来3-5年新的市场进入者机会,评级1-5图1：GenAI价值链六大环节的差异化市场机会生成式生成式人工智能价值链服务围绕如何利用生成式人工智能的专业知识提供服务（例如服务围绕如何利用生成式人工智能的专业知识提供服务（例如培训、反馈和强化学习）提供访问算力基础设施的平台驱动生成式人工智能应用的核心模型微调或管理基础模型的工具（例如，介于应用程序和基础模型之间的界B2B或B2C产品主要使用基础模型或针对特定用例进行微调资料来源:麦肯锡分析美国美国英国加拿大美国美国美国/法国美国美国美国美国美国美国美国美国美国通用大模型通用大模型通用大模型通用大模型基于云的数据分析和机器学习平台及工具机器学习平台和数据标注工具机器学习平台和微调部署工具智能写作助理智能个人助理商务交流和会议解决方案智能营销和客户服务企业流程自动化解决方案智能写作助手图像视频编辑图像视频创作编辑客户服务自动化和智能分析药物领域蛋白质分子设计美国美国英国加拿大美国美国美国/法国美国美国美国美国美国美国美国美国美国通用大模型通用大模型通用大模型通用大模型基于云的数据分析和机器学习平台及工具机器学习平台和数据标注工具机器学习平台和微调部署工具智能写作助理智能个人助理商务交流和会议解决方案智能营销和客户服务企业流程自动化解决方案智能写作助手图像视频编辑图像视频创作编辑客户服务自动化和智能分析药物领域蛋白质分子设计模础255.1模心323.0MLOps价值链独角兽企业核心产品国家企业估值，亿美元 GPU 云端巨型加速器芯片云端加速器芯片云端加速器芯片云端加速器芯片边缘端加速器芯片边缘端加速器芯片云端训练和推理芯片云端和边缘端推理芯片云端训练和推理芯片云端训练和推理芯片美国美国美国英国加拿大36.7 50.027.7 21.021.021.021.0数据云平台专注于GPU算力的云平台专注于GPU算力的云平台美国美国美国20.0 45.637.561.636.5112.636.9 资料来源:Pitchbook（PE，VC及并购项目数据平台）,麦肯锡研究GenAI价值链市场机会剖析：00240024图3：全球数据中心GPU市场份额（%）数据中心用GPU市场份额，%202021222023Q1某全球领先的半导体行业和计算创新领域厂商某领先的微处理器与图形处理器公司某全球顶尖的人工智能计算公司图4：2023Q1全球云基础设施服务市场竞争格局AmazonWebServices某全球领先的科技公司的云平台某全球领先互联网公司的公有云某全球领先的电子商务某领先的跨国科技公司及咨询公司的云平台某全球领先的信息管理软件及服务供应商国内某头部云服务厂商23%23%4%2%2% 32%2023Q1云市场规模达到4,500亿人民币资料来源:Statista某全球领先的科技公司某全球领先的AI研究实验室MetaLibreFold英国某全球化AI研究型企业CodeWhispererDeepcomposerBedrock/SageMakerAmazon/AWSApple某全球顶尖的GPU厂某企业级AI平台独角兽美国某AI初创公司美国某AI非某全球领先的科技公司某全球领先的AI研究实验室MetaLibreFold英国某全球化AI研究型企业CodeWhispererDeepcomposerBedrock/SageMakerAmazon/AWSApple某全球顶尖的GPU厂某企业级AI平台独角兽美国某AI初创公司美国某AI非营利性研究机构图5：海外GenAI大模型（按模态区分）的大模型开源非开源,可调用APIs2非公开PaaS3PaaS/MLOps视频代码PaaS/MLOps视频代码音频/音乐文字3D/DNA序列AzureAI/AzureAI/AzureOpenAIOrca-13BPhi-1RODINDiffusionVALL-EGODIVAMoLeRGitHubGitHubCopilotDALL-E2JukeboxPoint-EGPT-4CodeCompCodeCompose/InCoderBuilderBotESMFoldMake-a-videoMake-a-sceneAudioGenLLaMA2某全球顶尖互联网科技公司PaLM2ImagenMusicLMImagenVideoDreamFusionAlphaFold2PubSub/VertexAI/CloudRunStableStableStableLMDiffusion2DanceDiffusionTitanTitanGAUDIGAUDIMegaMoIBMegaMoIBARTMT-NLGEdifyEdifyEdifyFamilyFamilyofLLMsClaude2Claude2Jurrassic-2Jurrassic-2注意：产品列表仅供参考，并不代表麦肯锡公司的背书1.由GitHub和OpenAI开发2.基于LLaMA2构建，供内部使用LLaMA2获取Python和其他语言的代码建议3.从技术上讲，此类别不是LLM，而是一种解决方案。平台即服务（PaaS）是指第三方提供商向用户提供硬件和软件工具的云计算模型。机器学习操作（MLOps）在生产环境中可靠、高效地部署和维护机器学习模型4.Bedrock通过API提供对来自亚马逊/AWS和知名AI初创公司的预训练基础模型的访问5.SageMaker是一项完全托管的服务，可帮助数据科学家和开发人员大规模构建、训练和部署机器学习模型资料来源:麦肯锡分析图6：模型中心和MLOps领域知名独立厂商优势技术技术和GitHub优势使用方便且训练并行效率高：相比Megatron-LM仅需一半的计算资源优势使用方便且训练并行效率高：相比Megatron-LM仅需一半的计算资源即可复现GPT3支持一站式的分布式训练最少仅需微调0.01%的参数就能实现模型性能的提高支持实时反馈模型微调的表现，从而支持快速迭代微调实验非常适合需要多模型组合的场景,可以在Python代码中构建由多个ML模型和业务逻辑组成的复杂推断服务集成了136种的外部数据源(Arxiv,Wiki)和工具库(Qdrant)对模型生命周期管理进行一站式管理 模型训分布式某大规模并在DeepSpeed的数据练和训练加行AI训练系并行、流水并行、一维30微调速框架统模型并行的基础上，自30研了序列并行等技术，将原有的训练并行维度 从3维提高到5-6维 某聊天机器在多GPU/TPU训练场人厂商开发景中自动进行硬件资源5的分布式训分配并优化混合精度策5练工具略（如FP16和32同时集成了多种分布式 训练技术的python库 训练微某聊天机器集成了各种微调技术调技术人厂商旗下（e.g.,LoRA,提示微7的参数高效调等）的python库，能7微调工具节省微调内存并提高微 调后模型性能 训练微某自动机器提供了可视化界面让使调平台学习的人工用者以零代码的方式进智能(AI)平2行大模型微调，集成了台多种最新的微调技术（如LoRA和低精度 微调） 模型部署某机器学习通过Batchinference技部署服务分布式框架术并行化对输入数据批26量推断从而加速模型26推理 模型应编排某基于语言将大模型连接到外部数用开发模型开发应据源，并通过Agent的用程序的框49方式让大模型与真实世架界进行交互 模型管框架某全球领先支持大模型训练的表现理平台的数据开发跟踪、版本控制、部署&分析平台15管理等资料来源:麦肯锡分析语言类应用，例如聊天机器人等语音/音乐类应用，例如文生音图片类应用，例如文生图AA代码类应用，例如代码生成视频视频类应用，例如视频换脸如3D对象生成、蛋白质结构生成等资料来源:麦肯锡分析换脸和脸部调整换脸和脸部调整图8:GenAI应用六大主要模态的典型用例模态应用用例示例文本题、职位描述题、职位描述内容创作件和帖子聊天机器人或助手提高网络娱乐的转化率搜索工具文件文件分析和综合见解代码速程序开发和提升质量应用原型和设计训练质量库存图片生成器库存图片生成器体图片音频)文本生成语音文本生成语音声音创作侵犯版权复录制三维对象生成3D三维对象生成3D产品设计与发现产品设计与发现视频的短视频素材视频创作视频的短视频素材视频创作视频编辑电子商务：为通用视频添加个性化元素娱乐：缩短社交媒体的长视频娱乐：后期制作去除背景图像和背景噪音翻译和语音视频配音：使用Al语音或语音克隆：复刻演员声音或调整原声语音转换新语言现场翻译：用于公司会议、视频会议改变效果年轻化、化妆、假发和修复“视觉”配音：快速编辑实现多语言发布资料来源:麦肯锡分析在文本生成模式上最成熟，代码生成在国外应用也较多非穷尽AsofQ12023x总计0家>10家Pre轮早期轮后期轮数量最多文字代码内容编辑聊天机器人及助手搜索分析与提炼代码生成应用程序原型和设计/数据集生成天使轮5533116644种子轮242466337755A轮8855334411B轮447700115566C轮227722003322D轮110000000000553312资料来源:Pitchbook（PE，VC及并购项目数据平台）,Antler（新息平台）,G（聚焦一级市场的数据平台）序在文本生成模式上最成熟，代码生成在国外应用也非穷尽AsofQ12023音频x总计>10视频后期轮后期轮3D及其他文本语音生成/音频编辑音频生成库存图像生成器；辑器语音翻译和调整/脸部交换和调整视频生成视频编辑3D对象生成&产品设计/发现天使轮22004422113333种子轮99448833A轮997788666655B轮33333311663311C轮00111100002200D轮000000000000113231资料来源:Pitchbook（PE，VC及并购项目数据平台）息平台）,G（聚焦一级市场的数据平台）年将达到1.3万亿美元，2022~2035年全球市场规模增量主2022年全球GenAI市场整体收入为400亿美元，预计202722图1:2020~2032年全球生成式人工智能应用规模2020-2032年全球生成式人工智能应用规模，十亿美元8006004002000234021730439954872889720202122232425262728293031203247428039921401224742803992140122 4图2:2022`2032年全球生成式人工智能细分行业市场十亿美元900800700600500400300200020222027E2032E硬件（训练侧）硬件（推理侧）软件基于GenAI的游戏开支基于GenAI的广告开支聚焦GenAI的IT开支基于GenAI的商业服务开支图3:2020~2025年中国生成式人工智2020-2025年中国生成式人工智能应用规模，亿元2,5002,0005000+84.1%p.a.+84.1%p.a.2,0706633432020212223242025资料来源：《中国AI数字商业产业展望2021-2025》，前瞻产业研究院、中关村大数据产业联盟联合发布企业轮次融资时间产品类型百万美金C轮某AI制药公司210C轮某AI制药公司210A轮某AI大模型公司209A轮某AI大模型公司209某GenAI与语音交某GenAI与语音交互为核心的AI公司某AI制药公司某AI制药公司C轮AI非结构化数据C轮AI非结构化数据处理和分析软件某AI非结构化数据处理和分析公司某大模型创业公司Pre-A轮2022.1AI大模型46AI非结构化数据处理和分析软件AI非结构化数据处理和分析软件2023.2 处理和分析公司某GenAI与语音交互为核心的AI公司C轮2023.3AI生成语音某AI制药公司B轮2022.11AI制药33 搜索技术的公司某AI和多模态通用A轮2021.1AI神经搜索技术26搜索技术的公司资料来源:Pitchbook数据库，数据截至2023年7月某云端AI计算平台公司由推理切入训练某云端AI计算平台公司由推理切入训练全球顶尖GPU厂商国内顶尖GPU厂商公司名称产品类型产品算力主频制程某全球领先的GPU厂商训练+推理+A1001248TOPS某全球领先的GPU厂商整机H1003958TOPS/4nm某量产商业AI