计算机行业深度报告:国产AI算力行业报告浪潮汹涌势不可挡_第1页
计算机行业深度报告:国产AI算力行业报告浪潮汹涌势不可挡_第2页
计算机行业深度报告:国产AI算力行业报告浪潮汹涌势不可挡_第3页
计算机行业深度报告:国产AI算力行业报告浪潮汹涌势不可挡_第4页
计算机行业深度报告:国产AI算力行业报告浪潮汹涌势不可挡_第5页
已阅读5页,还剩15页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

东吴证券研究所东吴证券研究所内容目录海外:模型、应用和算力相互推进 4国内模型逐步追赶,提升算力需求 5国内算力产业现状盘点 6算力有哪些核心指标? 6国产算力和海外的差距 7国产化和生态抉择 8国内算力厂商竞争要素 9国内AI算力市场空间 9国内供给端:腾一马当先,各家竞相发展 10昇腾计算产业链 10昇腾服务器 12昇腾一体机 13海光信息 14寒武纪 15景嘉微 15算力租赁 15算力液冷 16全国一体化算力网 17央企AI 20投资建议 21风险提示 212/22东吴证券研究所东吴证券研究所图表目录图1:Claude3benchmarks 4图2:GB200超级芯片 5图3:GPU算力浮点数图示 6图4:关键参数关系示意图 7图5:主流国内外AI芯片性能对比 7图6:中国AI服务器市场规模 9图7:华为昇腾人工智能生态 图8:华为大模型生态合作伙伴 12图9:华为昇腾整机合作伙伴主业情况(截至2024年3月24日) 12图10:已发布训推一体机主要产品 13图海光DCU深算一号和英伟达A100性能对比 14图12:寒武纪主要产品矩阵 15图13:算力调度涉及的关键环节 18图14:2019-2022年中国IaaS市场规模(公有云) 19图15:2022年中国公有云IaaS市场格局 19图16:中国算力基础设施高质量发展指标 20表1:冷板和浸没式液冷存量改造市场空间测算 17表2:冷板和浸没式液冷AI服务器增量改造市场空间测算 17表3:2025年中国算力调度潜在市场规模测算 203/22东吴证券研究所海外:模型、应用和算力相互推进东吴证券研究所月16发布了首个文生视频模型SoraSora60秒月4日,Anthropic发布了新一代AI大模型系列——Claude3。Claude3HaikuClaude3Sonnet和Claude3Opus。Opus和Gemini1.0Ultra,Claude(OpusMMMUGemini1.0Ultra持平。图1:Claude3benchmarks数据来源:Anthropic,3月18AIxAIGrok-1xAIGrok-1xAI202310JAXRust3140OpenAI的GPT模型。在CEO奥尔特曼的带领下,OpenAI或许有望在今年夏季推出GPT-5。3月23日,OpenAIOpenAIOpenAIAISora应用到电影制作中,从而拓展OpenAI4/22东吴证券研究所3月19日,英伟达GTC大会上,英伟达发布新的B200GPU,以及将两个B200东吴证券研究所与单个GraceCPU相结合的GB200。全新B200GPU拥有2080亿个晶体管,采用台积电4NP工艺节点,提供高达20petaflopsFP4的算力。与H100相比,B200的晶体管数量是其(800亿)2倍多。而单个H100最多提供4petaflops算力,直接实现了5倍性能提升。而GB200是将2个BlackwellGPU和1个GraceCPU结合在一起,能够为LLM推理工作负载提供30倍性能,同时还可以大大提高效率。图2:GB200超级芯片数据来源:英伟达,计算能力不断提升。过去,训练一个1.8万亿参数的模型,需要8000个HopperGPU15MW个BlackwellGPU4MW。的性能是H1007H1004倍。国内模型逐步追赶,提升算力需求Kimi逐渐走红。月之暗面Kimi智能助手2023年10月初次亮相时,凭借约20万汉字的无损上下文能力,帮助用户解锁了专业学术论文的翻译和理解、辅助分析法律问题、一次性几十张发票、快速理解API开发文档等,获得了良好的用户口碑和用户量的快速增长。2024年3月18日,Kimi智能助手在长上下文窗口技术上再次取得突破,无损上200过去要1000010就能接近任KimiKimi帮助2005/22东吴证券研究所访问量提升,kimi算力告急。321KimiAPP3209东吴证券研究所30Kimi2010SaaS429:engineisoverloaded2024年3月23日,阶跃星辰发布StepStep-1千亿参Step-1VStep-2MoEAPI相比于GPT-3.5是一个千亿参数模型,GPT-4是拥有万亿规模参数,国内大模型厂商如果想追赶,需要各个维度要求都上一个台阶。阶跃星辰发布了万亿参数大模型预览版,标志着国产AI大模型取得了巨大进步。国产AI大模型正在不断迭代,对算力需求会不断提升。国内算力产业现状盘点算力有哪些核心指标?算力芯片的主要参数指标为算力浮点数,显存,显存带宽,功耗和互连技术等。,英文Floating-pointOperationsPerINT8FP64仿真等;FP32计算多用于大模型训练等场景;FP16和INT8多用于模型推理等对精度要求较低的场景。图3:GPU算力浮点数图示数据来源:CSDN,GPU显存:显存用于存放模型,数据显存越大,所能运行的网络也就越大。6/22东吴证券研究所在预训练阶段,大模型通常选择较大规模的数据集获取泛化能力,因此需要较大的东吴证券研究所32进行训练。需要消耗大量的GPU16在推理阶段,通常只是将一个输入数据经过模型的前向计算得到结果即可,因此需要最少的显存即可运行。显存带宽:是运算单元和显存之间的通信速率,越大越好。互连技术:一般用于显存之间的通信,分布式训练,无论是模型并行还是数据并行,GPU之间都需要快速通信,不然就是性能的瓶颈。图4:关键参数关系示意图数据来源:绘制国产算力和海外的差距从单芯片能力看,训练产品与英伟达仍有1-2代硬件差距。根据科大讯飞,华为昇腾910B能力已经基本做到可对标英伟达A100。推理产品距离海外差距相对较小。图5:主流国内外AI芯片性能对比7/22东吴证券研究所东吴证券研究所数据来源:公司官网,从片间互联看,片间和系统间互联能力较弱。国产AI芯片以免费CCIX为主,生AI从研发能力看,(PHB)国产化和生态抉择海外制裁后,AI芯片国产化诉求加大。主要系供应链安全和政策强制要求。2024322(2024-2025年到2025年,上海50%,50%10家。但国产AI8/22东吴证券研究所于训练。如用于训练,则需花费较多人员进行技术服务,额外投入资源较大。东吴证券研究所华为与讯飞构建腾万卡集群。2023年10月24日,科大讯飞携手华为,宣布130日,腾AIROCE间的全闪和混闪并行文件系统,可支撑万亿参数大模型高速训练。国内算力厂商竞争要素供应链安全。受美国制裁影响,众多算力芯片厂商芯片供应链出现问题。如果能够解决供应链问题,持续为客户供应芯片,将是一大核心竞争力。AI政府关系。AIAI国内AI算力市场空间IDC报告预计,2023年中国人工智能服务器市场规模将达91亿美元,同比增长82.5%,2027年将达到134亿美元,2022-2027年年复合增长率达21.8%。图6:中国AI服务器市场规模9/22东吴证券研究所东吴证券研究所中国人工智能服务器市场规模(亿美元)13491134911401201008060402002023 2027数据来源:IDC,算力需求市场空间巨大。在英伟达GTC大会上,黄仁勋讲到,如果要训练一个1.8万亿参数量的GPT8000张Hopper15908H100GPUH100随着国产化率逐步提升,我们预计AI芯片逐步成为国内芯片的主要组成。国内供给端:昇腾一马当先,各家竞相发展北京商报对华为公司董事长梁华的主题演讲的分享中提到,昇腾已经在华为云和28个城市的智能算力中心大规模部署,根据财联社报道,2022年昇腾占据国内智算中心约79%的市场份额。昇腾计算产业链华为主打AI芯片产品有310和910B。310偏推理,当前主打产品为910B,拥有FP32和FP16两种精度算力,可以满足大模型训练需求。910B单卡和单台服务器性能对标A800/A100。腾计算产业是基于腾AI芯片和基础软件构建的全栈AIAIAICANN、AIAI;基于腾AI软件系统:10/22东吴证券研究所异构计算架构CANN以及对应的调试调优工具、开发工具链MindStudio和各种运维管理工具等。东吴证券研究所Al计算框架包括开源的MindSpore,以及各种业界流行的框架。昇思MindSporeAI计算架构位居AI框架第一梯队。下游应用:昇腾应用使能MindX,可以支持上层的ModelArts和HiAl等应用使能服务。行业应用是面向千行百业的场景应用软件和服务,如互联网推荐、自然语言处理、语音识别、机器人等各种场景。图7:华为昇腾人工智能生态数据来源:华为昇腾计算产业白皮书,3.0AICANNAI昇MindSpore,AIModelArts3807101000know-how11/22东吴证券研究所华为与行业伙伴一起推动华为大模型行业化。东吴证券研究所图8:华为大模型生态合作伙伴数据来源:华为官方公众号,腾服务器华为昇腾整机合作伙伴与鲲鹏整机合作伙伴几乎一致,产线共用,从华为直接获取AI服务器或者芯片板卡制造成服务器。图9:华为昇腾整机合作伙伴主业情况(截至2024年3月24日)12/22东吴证券研究所东吴证券研究所数据来源:公司年报,腾一体机AI训推一体机是指将大模型等软件和普通AI服务器整合在一起对外销售的整机。用户画像:主要为AI能力自建能力较弱,想要借助AI软硬件一体化解决方案构建AI能力的客户。销售方:主要为ISV,从华为整机厂拿到昇腾整机,然后装上AI模型和相关软件直接销售给终端使用客户。AIAI服务图10:已发布训推一体机主要产品数据来源:各公司公众号,官网,13/22东吴证券研究所海光信息东吴证券研究所DCUDCUGPGPU兼容通用的“类Q3100%。海光DCU7nmFinFETGPUNVIDIA公司GPUA100)AMDGPUMI100)进行对平。图11:海光DCU深算一号和英伟达A100性能对比数据来源:招股说明书,英伟达官网,生态兼容性好。DCUAMDROCmGPU于ROCm和CUDA较低代价快速迁移至Om平台,因此OCm也被称为“类CA海光DCUAI在商业应用方面公司的并推出14/22东吴证券研究所联合方案,打造全国产软硬件一体全栈AI基础设施。东吴证券研究所寒武纪寒武纪成立于2016IP图12:寒武纪主要产品矩阵数据来源:公司官网,Baichuan2-53B、Baichuan2-13BBaichuan2-7B达到国际主流产品的水平。2024年1月22(HiDream.ai)景嘉微2024年3月12日,公司面向AI训练、AI推理、科学计算等应用领域的景宏系列高性能智算模块及整机产品“景宏系列”研发成功,并将尽快面向市场推广。AIAIINT8FP16FP32FP64CPU流的计算生态、深度学习框架和算法模型库,大幅缩短用户适配验证周期。算力租赁算力租赁就是对算力资源进行出租。使用者可以按需调用算力资源而无需自建算力基础设施。15/22东吴证券研究所算力租赁是数字经济时代的新兴产物。算力使用者无需投入大量资金购买计算设备,东吴证券研究所AI当前布局AIIDC4)AI算力租赁目前的核心竞争力是谁能拿到满足客户需求的AI算力卡。+算力液冷上半90%。1)AIGPUGPUCPU319日,GTCGB200GB200NVL7236个CPU和72个BlackwellMGX252)PUE测算:液冷服务器市场空间主要来自于两方面,一方面是存量服务器改造,另一方面是新增服务器建设。存量改造:元4000元/kwAI4万元。2022年5201900假设2025年渗透率提升,单价和服务器机架数维持不变。16/22东吴证券研究所表1:冷板和浸没式液冷存量改造市场空间测算东吴证券研究所2024E2025及以后渗透率10%50%存量服务器机架(万架)520冷板单价(元)40000浸没单价(元)110000冷板市场空间(亿元)832浸没市场空间(亿元)2288数据来源:《基于价值工程的数据中心液冷与风冷比较分析》,CEC,电信运营商液冷技术白皮书,新增数量:2027年,中国AI652022-2027(CAGR)2027表2:冷板和浸没式液冷AI服务器增量改造市场空间测算2027E中国AI服务器出货量(万台)65冷板单价(元)40000浸没单价(元)110000冷板市场空间(亿元)260浸没市场空间(亿元)715数据来源:前瞻研究院,《基于价值工程的数据中心液冷与风冷比较分析》,全国一体化算力网20231229202560%资源使用率显著超过全国平均水平。1ms5ms17/22东吴证券研究所培育算网服务商:支持培育专业化算网运营商,加强算力与网络在运行、管理及维东吴证券研究所为数据要素市场建设打基础:1)据流动可以依托国家算力枢纽。图13:算力调度涉及的关键环节发电厂 算力中心发电厂算力中心变压等措施算力虚拟化、封装等供电网络算力互联网络用电用户变压等措施算力虚拟化、封装等供电网络算力互联网络用电用户算力用户数据来源:中国信通院,18/22调度。央国企有望在算力调度中大有作为。算力网络运营和调度犹如运营国家电网和石油运输网络,央国企有望承担起算力网络运营和调度的重任。行业机构主导。1AppStore”2022年中国IaaS市场规模为3413亿元。IaaSAIIaaS24422022IaaS9712022IaaS图14:2019-2022年中国IaaS市场规模(公有云) 图15:2022年中国公有云IaaS市场格局0

453

98%895

161

80%

阿里22%25%%10%244222%25%%10%7东吴证券研究所东吴证券研究所数据来源:中国信通院, 数据来源:中国信通院,2025300EFLOPS,20231.4IaaS202320222025年中IaaS4778202230%。我们按2025年35%利用率计算,2025年仅需要盘活的IaaS市场空间就有8873亿元。19/22东吴证券研究所图16:中国算力基础设施高质量发展指标东吴证券研究所数据

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论