穿越AI的基石算力基建的起始_第1页
穿越AI的基石算力基建的起始_第2页
穿越AI的基石算力基建的起始_第3页
穿越AI的基石算力基建的起始_第4页
穿越AI的基石算力基建的起始_第5页
已阅读5页,还剩195页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

姓名:王聪(分析师)姓名:王彦龙(分析师)姓名:舒迪(分析师)姓名:谭佩雯(分析师)邮箱:wangcong@姓名:文紫妍(分析师)姓名:文紫妍(分析师)姓名:黎明聪(研究助理)姓名:刘校(研究助理)算力是智能世界的基础,产业生态和投资图谱逐步清晰算力是智能世界的基础,产业生态和投资图谱逐步清晰基础设备:数据中心加速升级,芯片PCB等上游部件量价齐升Al服务器带动高端GPU用量及ASP提升,提升DRAM和NAND的需求,HBM未来的渗透率有望提升,对SERDES提出更高性能要网络连接:算力配套的核心,兼顾800G主线和扩散行情Al对网络架构变化较大,无损流量传输使得光模块需求暴增,同时新的技术路线开始出现,或对供应链格局产生影响。800G主终端:边缘算力建设加速,MR是最具潜力的Al终端推荐标的及风险提示Al算力报告0101020203030404050524/算力是智能世界的基础,基础设施从云向算泛在演进《穿越的基石,算力基建的起始》•智能世界三要素:数据、算力、算法是智能世界三要素,其中算力平台是核心基础。•算力两大类:通用算力、HPC(高性能计算,High-performancecomputing)算力。其中通用算力计算量小,用于常规应用。HPC算力是一个计算机集群系统,通过各种互联技术将多个计算机系统连接在一起,利用所有被连接系统的综合计算能力来处理大型计算问题。•算力基础设施从云向算泛在演进,其位置的分布从中心向边缘和端侧泛在延伸,将出现云、边、端三级算力架构。图:算力基础设施从云向算泛在演进图:构建数据、算力、智能之间的互联网络图:专用算力是算力中极为重要一环图:算力基础设施从云向算泛在演进科学计算类:物理化学、气象环保、科学计算类:物理化学、气象环保、生命科学、天文探测等通用算力算力类型数据来源:国泰君安证券研究工程计算类:计算机辅助工程/制造、电子设计自动化、电磁仿真等数据来源:国泰君安证券研究智能计算类:机器学习、深度学习、数据分析等51.1AI大模型带动算力需求超越摩尔定律增长Al算力报告•AI模型训练算力增长速度超越芯片摩尔定律。AI训练任务中的算力增长(所需算力每3.5个月翻一倍)已经超越摩尔定律(晶体管数量每18月翻一•ChatGPT仅推出两个月,月活跃用户数预计已达1亿。ChatGPT在2023年1月达到1亿月活跃用户,平均每天有1,300多万访客,用2个月时间达到1亿月活数,成为史上最快达到1亿月活跃用户的应用,TikTok、Instagram、Facebook、Twitter则分别用了9个月、2年半、4年半、5年的时间。图:chatgpt图:chatgpt仅用2个月月活用户突破1亿六年半四年半三年半回ikikChatGPTTikTokChatGPTTikTok6Al算力报告Al算力报告•预训练算力需求:训练一次13亿参数的GPT-3XL模型需要的全部算力约为27.5PFlop/s-day,而训练一次1,746亿参数的GPT-3模型需要的算力约为3,640PFlop/s-day,对应的单次训练成本高达460万美元。•日常运营算力需求:ChatGPT在日常与用户交互过程中需要大量的算力支持,结合访问量与内容量测算,单月运营算力约4,800PFlop/s-day;2023年1月ChatGPT官网总访问量已经达到6.16亿次,而ChatGPT每次交互产生的算力云服务成本约1~5美分,对应的单月运营成本高达千万美元。•调优迭代算力需求:ChatGPT模型需要不断进行Finetune模型调优,以确保模型处于最佳应用状态;预计每月模型调优带来的算力需求为82.5~137.5PFlop/s-day。图:模型的尺寸在过去5年增长了5000倍GPTGPT模型GPT-3Small2.60E+002.25E+20125300表:不同NLP模型参数量及训练算力对比模型总计算量总计算量参数量令牌数量(PFlop/s-dayFlops百万个十亿)T5模型6.60E+202.31E+219.00E+213.30E+22T5模型6.60E+202.31E+219.00E+213.30E+222.08E+007.64E+002.67E+011.04E+023.82E+02T5-BaseT5-LargeT5-3BT5-11BBERT-Large6.16E+00BERT模型BERT-Base1.89E+001.64E+20109250BERT-Large6.16E+00ROBERTa-Base1.74E+001.50E+211252000ROBERTa-Large4.93E+014.26E+21ROBERTa-Large4.93E+014.26E+21Medium6.41E+20GPT-37.42E+00Medium6.41E+20GPT-37.42E+002.75E+012.38E+21GPT-3XLGPT-3Large1.58E+011.37E+212.75E+012.38E+21GPT-3XLGPT-32.7B5.52E+014.77E+212650300GPT-3GPT-36.7B1.39E+021.20E+226660300GPT-313B2.68E+022.31E+2212850GPT-3175BGPT-3175B3.64E+033.14E+2317460030077MR、车载等数字经济新型应用场景带来新的算力需求穿越的基石,算力基建的起始》•MR的推出更带来对低延时网络传输和底层算力技术升级的需求。虚拟世界需要强大的图像实时渲染能力、计算和存储海量数据资源,头显交互设备的出现将进一步增加对云计算和边缘计算的应用需求。云计算能将终端渲染逐步迁移至云端,基于规模效应摊低运算成本,提升服务器使用效率,提升虚拟世界的可进入性。而边缘计算则更能满足实时数据分析需求、缓解中心云的计算负载。•汽车智能化需求持续升级带来数据流量的急剧飙升。随着自动驾驶等级提升,车载信息娱乐系统、长续航电池及5G网络的引入,车辆要面对的计算量越来越大,网络架构升级、本地实时处理能力、“大容量缓存和存储”规格将成为硬需求。图:算力升级是支撑虚拟世界内容创作与真实交互的保障图:2025年L4等级无人自动驾驶数据存储需求8数据来源:中国信通院、华为,国泰君安证券研究数据来源:中国信通院、华为,国泰君安证券研究Al算力报告Al算力报告•全球各国算力规模与经济发展水平呈现正相关。2021年算力规模前20的国家中有17个是全球排名前20的经济体,并且前五名排名一致。•算力对经济有倍增效应。数字经济作为GDP的组成部分,占比正在逐年增加,而算力是数字化技术持续发挥效益的根本性要素。根据IDC的报告,计算力指数平均每提高1个点,数字经济和GDP将分别增长3.3‰和1.8‰。当一个国家的计算力指数达到40分以上时,指数每提升1点,对于GDP增长的拉动将提高到1.5倍;当计算力指数达到60分以上时,对GDP的拉动将进一步提升至2.9倍。图:算力对经济有倍增效应图:算力排名与经济排名较为吻合图:算力对经济有倍增效应数据来源:IDC数据来源:中国信通院信通院2022年算力白皮书数据来源:IDC9Al算力报告Al算力报告•智能算力规模和增速亮眼。根据信通院算力白皮书,2021年全球算力增速超过40%,华为GIV预测2030年人类将迎来YB数据时代,全球算力平均年增速达到65%,其中基础算力平均年增速达27%;智能算力占大头,平均年增速超过80%;超算算力平均年增速超过34%。•中美算力在全球属于领先地位。美国、中国、欧洲、日本在全球算力规模中的份额分别为34%、33%、14%和5%,其中全球基础算力美国份额达37%,中国以26%份额排名第二;智能算力方面,中国、美国分别占比为45%和28%;美国、日本、中国在超级计算综合性能指标方面份额分别为48%、22%、18%。图:中国占比较大为基础算力,智能算力当前快速赶上图:全球算力规模增长速度在40%以上图:中美全球算力分布较为领先图:中国占比较大为基础算力,智能算力当前快速赶上数据来源:信通院算力白皮书1.2海外以互联网大厂为主导,资本开支向AI大幅倾斜Al算力报告•美国人工智能公司在过去的五年间获得的投资占到了全球的56%,数百亿美元,谷歌、微软、亚马逊、Meta四家美国科技巨头在经历了2022和2023年初史无前例的大裁员之后,这些公司一边降本增效,一边AllinAI。表:北美大厂积极自研和购买算力芯片自研芯片算力布局2023Q12023年展望投入领域AWStrainiumAWS宣布即将推出的EC2超级集群互连的H100。我们预计在数据中心建设和服务器的投入会在Q2以及后面持续的提升我们预计总体资本开支会略微高于2022年,同时资本开支会在技术基础设施显著提升,而在办公室设施下降GoogleTPUv4当前已经部署了数十台TPUv4超级计算机,每台拥有4096个TPU芯片;发布了专门用于推理或训练的机器学习定制化芯片2022年的590亿美金,去年主要因为完善物流网络的投资,未来这个数字会逐步减少。我们将持续投入基础设施来支持AWS客户需求,包括支持LLM和生成式AIAWS认为其是2023年H100GPU最大的买家,据专家交流可能采购了3万支撑现有业务;2)核心的AI投资,支持engine、排序广告等的建设;当我们评估ROI感觉可以的话,这些都会提高我们对AI的投入;3)支持生成式AI,现在虽然难评估,但我们未来会提高资本开支,同时平衡好AI能力的建设及将提升我们在生成式AI的容量投资(earningtranscript)数据中心MicrosoftAthenaAzure云拥有10000个GPU和285000个CPU内核;据专家交流北美各家可能采购了3万片H100以我们希望引领AI平台的浪潮并做相应投资来实现它我们预计资本开支会有显著的后续环比增长,主要驱动为AzureAI基础设施。注意可能有正常的季度支出波动AzureAI基础设施Al算力报告Al算力报告行业/细分领域海外公司2022年营收(亿美元)中国对标公司通用人工智能、自然语言处理、多模态模型OpenA(ChatGPT)——百度(文心一言)、昆仑万维自然语言处理、多模态模型、云计算谷歌(PaLM)阿里巴巴(通义千问)、科大讯飞、三六零办公软件、自然语言处理微软(Microsoft365Copilot)金山办公(WPSai)自然语言处理、多模态模型、计算机视觉Meta(LLaMa)腾讯(混元大模型)光模块/器件芯片光模块II-VI(Finisar)中际旭创、天孚通信、新易盛等NeoPhotonics2AOI2光芯片Lumentum源杰科技、光迅科技、长光华芯、仕佳光子、永鼎股份CredoTechnology[CRDO.O]1橙科、芯速联GPU、AI加速器英伟达(NVDA)寒武纪、海光信息AMD(AMD)英特尔(INTC)FPGA、AI加速器赛灵思(XLNX)安路科技模拟芯片、功率管理芯片英飞凌(IFX)杰华特臻鼎科技鹏鼎控股、东山精密、沪电股份、景旺电子欣兴集团华通电子健鼎科技企业网络、数据中心网络、云计算网络等Cisco华为、浪潮、中兴、联想、紫光、菲菱科思AristaNetworksHPEJuniperDellTechnologies企业网络、数据中心网络、云计算网络等ExtremeNetworks新华三、万国数据、润泽科技、中国移动、中国电信、中国联通、奥飞数据、云赛智联、光环新网、数据港IDC服务、互联网交换、云服务EquinixIDC服务、数据中心基础设施IDC服务、电信服务、云服务NTTglobaldatacenter温控、UPS、机柜等数据中心设备Vertiv1.2国内数字&算力政策频出,当前走向地方细化落地•中国政府基于数字经济发展大背景,在2023年各个省市加快了AI及智算超算的规划和投入。Al算力报告表:我国及地方出台多个政策和文件文件名时间发布单位北京市人民政府2023/5/301《北京市加快建设具有全球影响力的人工智能创新策源地实施方案(2023-2025年)》北京市人民政府2023/5/301《北京市促进通用人工智能创新发展的若干措施》深圳人民政府上海市经济信息化委成都市经信局中共中央、国务院十三届全国人大深圳人民政府上海市经济信息化委成都市经信局中共中央、国务院十三届全国人大常委会第三十七次会议2023/5/312023/4/192023/1/122023/2/272023/223《上海市推进算力资源统一调度指导意见》34《成都市围绕超算智算加快算力产业发展的政策措施》45《数字中国建设整体布局规划》56《关于数字经济发展情况的报告》6《关于构建数据基础制度更好发挥数据要素作用《全国一体化大数据中心协同创新体系算力枢纽《关于构建数据基础制度更好发挥数据要素作用《全国一体化大数据中心协同创新体系算力枢纽实施方案》2022/12/22022/1/122021/11/152021/5/2678989工信部工信部、国家能源局表:各地算力平台开始陆续实施算力平台地方参与单位时间1算力互联互通验证平台北京中国电信、中科院信息2023/3/32集群算力服务调度与采购平台北京中国通信工业协会数据中心委员会、北京数字科智技术有限公司2023/2/283上海市人工智能公共算力服务平台上海上海超算中心2023/2/203南京市城市算力网运营平台南京中科南京信息高铁研究院2023/2/244算力一体化统一管理服务平台合肥合肥市大数据资产运营有限公司2023/1/165郑州城市算力网郑州国家信息中心、中国科学院计算技术研究所、粤港澳大湾区大数据研究院等2023/2/276东数西算一体化算力服务平台中国电信宁夏2023/2/247贵州枢纽算力调度平台贵州云上贵州、中软国际云智能业务集团2022年5月26日博创科技德科立联特科技中际旭创新易盛光迅科技华工科技剑桥科技mentech铭普光磁源杰科技仕佳光子光库科技长光华芯沪电股份鹏鼎控股胜宏科技 菲菱科思博创科技德科立联特科技中际旭创新易盛光迅科技华工科技剑桥科技mentech铭普光磁源杰科技仕佳光子光库科技长光华芯沪电股份鹏鼎控股胜宏科技 菲菱科思PCBSoC翱捷科MEIGeioccoxh技微技鸿博股份亚康股份首都在线云赛智联中国移动中国电信中国联通Al算力报告紫光国微复旦微电安路科技沪电股份鹏鼎控股胜宏科技晶丰明源片杰华特帝奥微:"接器兆龙互联鼎通科技景嘉微寒武纪海光科技中国长城龙芯中科紫光国微复旦微电安路科技沪电股份鹏鼎控股胜宏科技晶丰明源片杰华特帝奥微:"接器兆龙互联鼎通科技景嘉微寒武纪海光科技中国长城龙芯中科nwsuinwsui德明利江波龙德明利江波龙兆易创新光环新网数据港润泽科技光环新网数据港ymk"AIGPUASPAl算力报告1-2个英特尔第三代Xeon处理器。景,AI算力需求的提升推动了GPU卡的运算速度和用量需求进一步增长。根据IDC数据,2022年GPU加速卡占据AI市场89%80%60%80%60%40%20%类型典型产品芯片价格数量AI服务器A100A100Tensor864coreAMD2普通服务器浪潮英信服务器Xeon处理器数据来源:英伟达官网,浪潮信息官网,图:服务器成本构成情况400200基础型高性能型推理型机器学习型CPUGPUmemorystorag图:中国智能算力规模及预测(单位:EFLOPS)••Al算力报告Al算力报告高速互连技术开创者,多卡互联优势显著。为实现超算模型的高速通信需求,英伟达开创式提出NVLink和NVSwitch技术:NVLink主要用于连接多个GPU,以加速高性能计算和深度学习等应用;NVSwitch用于连接多个GPU和CPU,形成高性能计算系统,适用于更复杂和大规模的场景,用户可根据具体应用需求和系统配置来决定使用NVLink或NVSwitch。GH200超级芯片所采表:NVLink和NVSwitch技术NVLink第二代第三代第四代最大链路数6架构支持NVSwitch第一代第二代第三代直连或节点中最多8个最多8个最多8个之间带宽聚合总带宽架构支持数据来源:英伟达官网图:英伟达CUDA-XAI••Al算力报告动国内AI服务器市场快速增长,以浪潮信息为主的国内厂家占据国内AI服务器主头部厂商持续加单,国内AI芯片需求强劲。全球头部互联网厂商相继入局大模型赛道,以英伟达GPU为代表的算力核心产品订单暴增,一批中国AI芯片企业立足于不同技术路图:2022年中国AI服务器市场规模(亿美元)250200020192020202120222023E图:2022年中国AI服务器市场份额浪潮华三宁畅安擎坤前华为宝德思腾合力其他4002000图:中国AI芯片市场规模(亿元)42742748642017201820192020202120222023E••AI穿越n的基石,算力基建的起始》在国家政策的指引下,国产公司遍地开花,各施所长不断缩短差距。中国主要的AI芯片公司,寒武纪已量产四代芯片,其在研思元590性能预计能达到A100的70%,有望部分场景实现替代;华为昇腾采用独家达芬奇架构,昇腾910性能优越,处理速度达到同类产品180%;阿里平头哥另辟蹊径,其含光800推理性能和能效均达到世界前列水平;沐曦科技的通用芯片曦云MXC500对标A100;壁仞的BR100、燧原的邃思2.5以及天数智芯的智铠100等一系列高性能芯片即将面世。图:2022年中国AI芯片市场规模占比ASIC天数智芯沐曦科技寒武纪平头哥壁仞燧原华为天数智芯沐曦科技寒武纪平头哥壁仞燧原华为Al算力报告Al算力报告•大力发展硬件的同时,软件也是及其重要的一环。英伟达不仅在硬件方面具有统治力,在软件平台也具有很强的竞争力,CUDA生•共建生态开发平台,加速AI芯片落地。寒武纪不仅实现了终端、云端、边缘端产品的完整布局,还为云边端全系列智能芯片与处理器产品提供统一的平台级基础系统软件CambriconNeuware,使开发的应用可以在云边端互相兼容,大幅减少云边端不同平台的开发和应用迁移成本。华为同样致力于“一平台双驱动”为核心的昇腾AI生态,已有200多家合作伙伴经过认证,围绕昇腾的开发者超30万,其中核心开发者超2000,图:华为昇腾产业生态图:寒武纪CambriconNeuWare图:华为昇腾产业生态数据来源:华为官网数据来源:华为官网Al算力报告 2.1Al算力报告•AI大模型的数据处理需求驱动服务器硬件升级与扩容。目前AI大模型处理数据的吞吐量呈指数级增长。AI服务器对内存、硬盘存储容量要求更高。主要的提升是支持更大容量的内存满足当下实时负载增加的需求,提供更多外置硬盘插槽,并广泛支持NVME/PCIE等SSD,满足数据洪流需求。根据半导体观察,AI服务器容量是普通服务器的8倍,N图:AI大模型处理数据的吞吐量增长趋势Al算力报告 Al算力报告存芯片,是将多个DDR芯片堆叠在一起后和GPU封装在一起,实现大容量和高位宽的DDR组合阵列。目前HBM占整个DRAM市场比重约1.5%,为新型高性能存储产品,处于缺货低库存阶段。SK海力士、三星、美光等存储巨头都在HBM领域展开了升级竞图:HBM的堆叠结构数据来源:半导体产业纵横,《电子与封装》图:HBM提供更快的数据处理速度数据来源:TSMCAl算力报告 Al算力报告•HBM:突破‘内存墙’的新一代3DDRAM解决方案。“内存墙”是指处理器的运算能力超过了存储芯这导致了整体的计算能力被存储器所限制。3D化的DRAM是解决“内存墙”问题的主要途径。其中,HBM是3DDRAM的一种形式,相比其他DRAM的集成方式,它的数据传输速度最快,损耗最小,因此被认为是目前最理想的3DDRAM形式。HBM突破了内存容量和带宽的瓶颈,打破了"内存墙"对提升算力的束缚,被看作是新一代DRAM的解决方案。图:存储带宽落后于算力成长速度形成“内存墙”数据来源:RISElab23 Al算力报告•HBM市场:SK海力士占据主导地位。据半导体行业观察,作为HBM的先驱,SK海力士是拥有最先进技术路线的领导者。SK海力士于2022年6月开始生目前唯一一家批量出货HBM3的供应商,拥有超过95%的市场份额,这是大多数H100SKU所使用的。HBM现在的最大产HBM3,是配置为8层16GBHBM3模块。SKHynix正在为AMDMI300X和NvidiaH100刷新生产数据速率为5.6GT/s的12层24GBHBM3。三星紧随Hynix之后,预计将在2023年下半年发货HBM3,并正在大力投资以追赶市场份额。美光科技由于直到2018年,才开始从HMC转向HBM路线图,仍然停留在HBM2E,在HBM方面排名落后。图:SK海力士在新一代技术方面保持最强数据来源:半导体行业观察图:三星预计2023下半年发布HBM3数据来源:半导体行业观察Al算力报告Al算力报告是目前主流的串行通信技术。通过数据在发送端并图:SerDes结构图:图:SerDes结构Al算力报告Al算力报告《穿越•AI服务器算力提升显著,带动SerDes通信带宽需求激增。AI服务器网络模块升级主要表现为带宽增加,主要涉及的芯片是SerDes。高性能计算机性能提升主要源于单个结点计算能力增强和系统中结点数增加。一般而言,结点对互连带宽的要求与其处理能力呈正比。随着结点计算能力迅速提高,系统对互连网了更高的要求。通过交替增加SerDes通道数量和每个通表:SerDes技术演进年份2010201220142016201820202020E2022ESerDes数量256256256调制方式25.625.6Al算力报告•国内SerDes发展现状:•上游:半导体IP龙头芯原股份于2021年2月获得加拿大高速接口领域全球领导者Alphawave公司在国内一系列多标准SerDesIP的独家经销权。•中游:芯片设计领域,专注于高速混合芯片设计公司龙讯股份基于单通道12.5GbpsSerDes技术研发的通用高速信号延长芯片可在5G通信领域实现国产化应用。国产以太网PHY芯片龙头裕太微研究形成多种上层协议。图:高速SerDes技术和各种接口的关系图:全球图:全球SerDes市场规模(单位:亿美元)5Al算力报告 Al算力报告•相比于普通服务器,AI服务器的PCB增量主要体现在GPU板组中。由于AI服务器比普通服务器的GPDGXH100相应GPU板组的PCB需求量增大且要求进一步提图:NVIDIADGXH100爆破图图:NVIDIADGXH100GPU板组爆破图数据来源:NVIDIA官网数据来源:NVIDIA官网数据来源:NVIDIA官网 2.2PCB及载板:规格加速升级,单机ASP持续Al算力报告•AI服务器的OAM卡需要用更高层数的PCB板,价值量更大。由于AI服务器电路更加复杂,需要更大带宽和更高传输速率,因此OAM需要更高•AI服务器的OAM由于芯片性能的提升,对布线密度提出了更高要求。其需要4阶及以上HDI加工工艺,根据靖邦电子,HDI板增加一阶,成本图:NVIDIADGXH100OAM实物图Al算力报告 2.2Al算力报告•NVSwitch是GPU之间的通信模块,在单节点内和节点间实现以NVLink能够达到的最高速度进行多对多GPU通信。NVIDIADGXH100的GPU板组包含4个NVSwitch。•NVSwitch对PCB板的高速传输有更高要求。根据立鼎产业研究院,NVIDIADGXH100在4个NVSwitch加持下总带宽达到PCle5.0的7倍,意味着其覆铜板材料至少需要使用UltraLowLoss级别。图:NVIDIADGXH100NVSwitch实物图图:NVIDIADGXH100NVSwitch概念图Al算力报告 2.2Al算力报告•由于其上集成部件较多,布线较为复杂,通常需要24~26层的超高层PCB板,ASP提升较大。•作为搭载整个GPU板组的板块,对于高频高速具有较高的要求,需要使用的覆铜板等级为UltraLowLoss。NVIDIADGXUBB设计更为紧凑,使用HDI技术会进一步提高ASP。•目前沪电股份在超高层和高密度PCB中优势领先,未来深度受益于AI服务器需求释放。图:NVIDIADGXH100UBB实物图 2.2PCB及载板:规格加速升级,单机ASP持续Al算力报告•从覆铜板(CCL)技术升级角度,将目前最新的IntelEagleStream平台与前代平台对比,可明显看出服务器平台用覆铜板升级处于一个阶梯跨越至另一个阶梯的关键转型期。最新的EagleStream平台要求CCL的介电损失因数Df达到0.002-0.004,介电常数Dk达到3.3-3.6。表:Intel不同平台CCL性能对比服务器平台升级要求传输速率提高,Dk与Dr值下降对标松下电工产品 2.2PCB及载板:规格加速升级,单机ASP持续Al算力报告•H100等GPU的芯片封装通常使用2.5D/3D封装技术,而ABF载板是2.5D/3D封装的核心材料之一。随着GPU需求持续走高,ABF载板需求也相应增加。并且由于AI大模型要求多张G•从产业链看,上游ABF薄膜基本由日本味之素垄断,中游制造有日本的Ibi路、兴森科技等产品逐步突破,未来有望深度受益于国产替代。图:H100TENSORCOREGPU实物图ABF载板力Al算力报告算力时代来临,高ASP的Al服务器需求加速爆发。传统服务器数据处理能力有限,Al服务器通过异构形式实现并行计算,可以更好满足算力要求。相较于普通服务器,Al服务器采用多芯片组合,算力硬件成本更高,品牌与白牌组装市场有望进一步扩容。Al服务器需求量加速增长,2026年将超过200w台。根据TrendForce数据,2022年全球Al服务器出货量为85万台,预计2023年Al服务器出货量将增长到118.3万台,同比增长38.4%,预计到2026年出货量将达到236.9万台。云服务厂商是Al服务器主要的采购主力。根据TrendForce,2022年北美四大云端厂商谷歌、亚马逊AWSMeta、微软合计占据全球Al服务器采购量的66.2%,国内互联网云计算厂商字节跳动、腾讯、百度、阿里巴巴分别占比6%、2%、2%、2%。图:2022-2026全球AI服务器出货量预估(单位:千台)数据来源:TrendForce图:2022全球AI服务器市场客户采购结构数据来源:TrendForceAlAl算力报告•总体服务器市场:根据counterpoint,2021年全球服务器市场中排名前三的品牌分别为戴尔、HPE及浪潮,份额分别为14.5%12.4%及10.1%ODM厂商销售规模302.3亿美元,占比达31.1%,其中工业富联销售规模最大,在ODM市场占比42%。•Al服务器市场:参照2022年上半年全球Al服务器市场中,浪潮、戴尔、惠普分别以20.2%、13.8%、9.8%位列前三。工业富联则在图:2022H1全球AI服务器市场份额占比统计图:2022H1全球AI服务器市场份额占比统计数据来源:Counterpoint数据来源:CounterpointAl算力报告•数据流量快速增长和人工智能快速发展推动数据中心网络架构转型,有望驱动交换机数量和端口速率上行,高速以太网交换机市场有望实现强劲增长。根据IDC预测,中国25G端口交换机市场规模到2022年将达到4.4亿美元,而100G交换机市场规模将达到13.•国内交换机市场集中度较高,锐捷和新华三市场份额提升。根据IDC测算,2022前三个季度新华三、华为、星网锐捷三家市占率已经超过80%,国产份额持续保持领先。图:我国高速数据中心交换机市场规模(单位:亿美元)图:2020-2022Q3中国交换机市场份额华为新华三中兴锐捷网络其他13.77%14.69%1.62%13.81%13.96%1.56%13.84%11.69%1.92%34.01%34.14%34.33%38.54%36.54%35.59%90%80%70%60%50%40%30%20%13.77%14.69%1.62%13.81%13.96%1.56%13.84%11.69%1.92%34.01%34.14%34.33%38.54%36.54%35.59%202020212022Q3数据来源:IDC、锐捷网络招股书,国泰君安证券研究Al算力报告Al算力报告•AI驱动交换机端口速率和端口数提升,带来交换机市场增量需求。GH200的Nvlink架构交换机为25.6Tb交换容量,32*800G端口,服务器交换机的比例从A100的1:1.2提升到1:5。•近期产业链发展显著提速,各家均推出可支持AI训练的800G产品。华为发布全球首款800G数据中心核心交换机,新华三全球首发51.2T800GCPO硅光数据中心交换机,均可支持AI训练业务需求。图:DGXGH200采用胖树和无阻塞的拓扑结构数据来源:英伟达,国泰君安证券研究图:一个NVLink交换机为25.6Tb交换容量,32*800G端口Al算力报告•软硬件解耦的白盒交换机有效降低组网成本,成为当下的主流选择。白盒交换机将网络中的物理硬件和操作系统进行解耦,让标准化的硬件配置与不同的软件协议进行匹配,下游客户可选择为交换机安装外部操作系统或在交换机厂商已提供开放式操作系统基础上开发上层应用软件,客户可组建更为开放灵活的网络方案,在大幅提高数据中心运维效率的同时,降低了建网成本。•白盒交换机厂商具备低成本、高开放性、易操作性的优势,有望在未来市场竞争中逐步提升份额。我们认为白盒交换机的成本低、操作难度小的优势未来将进一步凸显,锐捷网络等白盒交换机厂商在国内交换机市场中份额也逐步提高。图:白盒交换机降低了组网成本表:白盒交换机与其他类型交换机的对比种类裸金属交换机品牌裸金属交换机白盒交换机品牌交换机定义仅有硬件,ODM提供基础技术支持仅有硬件,OEM提供贴牌和技术支持/服务商品化硬件,预装网络操作系统品牌专门化硬件,预装操作系统硬件成本低低低高硬件种类商品化硬件(包括ASIC)商品化硬件(包括ASIC)商品化硬件(包括ASIC)品牌硬件(系统化ASIC)网络操作系统没有(顾客选择第三方操作系统)没有(顾客选择第三方操作系统)预装厂商自己的操作系统或第三方操作系统品牌商自有操作系统2.4液冷:AI时代算力密度急速增加,早期以冷板式为主Al算力报告•AI算力时代数据中心趋于集中化、大型化,且服务器功率密度逐年增加,风冷方案已经不能满足要求。自然风冷单机柜密度一般支持8-•我们预计早期仍以技术较为成熟的冷板式方案为主。IDC液冷技术方案主要包括冷板式、浸没式和喷淋式,冷板式方案目前较为成熟、成本较低、改造上对服务器芯片影响较小,浸没式和喷淋式散热效率更好但成本较高。目前,阿里巴巴以单相浸没式液冷为主要发展方向,其他用户以冷板式液冷试点应用居多。图:单机柜功率密度快速增加,风冷已经不能满足要求图:2019-2025年中国液冷IDC市场规模(亿元)40%80%30%60%20%40%10%20%0IDC液冷(保守)IDC液冷(乐观)---yoy元)40%80%30%60%20%40%10%20%02019202020212022202320242025图:2019-2025年中国液冷方案结构冷板式浸没式201920202021E2022E2023E2024E2025E2.4液冷:三大运营商全面拥抱液冷•中科曙光、华为行业领先,英维克液冷方案全面布局,近年来竞争力不断加强。其中中科曙光、华为、阿里和联想位于中国液冷数据中心市场领导者位置,浪潮位于挑战者位置,戴尔中国、维谛技术和英维克位于跟随者位置,IBM中国位于可期待者位置。•三大运营商全面拥抱液冷,预计2025年能累计带来百亿左右增量市场空占比7-8成3)浸没式方案单价约为冷板式的4-5倍4)平均新增机柜功率8-10kw5)暂时不考虑老旧改造只考虑新建。图:中国液冷数据中心能力竞争矩阵图Al算力报告表:国内厂商在液冷方面的布局企业名称储备液冷技术类型主要液冷产品推出时间英维克冷板式液冷、单相浸没液冷、相变浸没液冷等XGlacier服务器液冷解决方案Coolinside全链条液冷解决方案Coolinside全链条液冷6大集成交付方案年年年申菱环境冷板式液冷、单相浸没液冷、相变浸没液冷等天枢-液冷温控系统年高澜股份同飞股份佳力图冷板式液冷、浸没式液冷等冷板式液冷等冷板式液冷、浸没式液冷等冷板式液冷服务器热管理解决方案、浸没式液冷服务器热管理解决方案同飞数据中心板式液冷全链条整体解决方案技术储备和预研年年-依米康中兴通讯冷板式液冷、浸没式液冷等冷板式液冷、浸没式液冷技术储备和预研ICT液冷一体化解决方案-数据来源:《中国液冷数据中心发展白皮书》,国泰君安证券研究41/Al算力报告 Al算力报告运行效率问题:根据阿姆达尔定律,串行通信决定了并行系统整体运行效率,并行系统节点数越多,其通信占比越高,通信数据来源:星脉数据来源:星脉数据来源:星脉Al算力报告•我们认为800G升级需求侧主要来源于1)云数据中心自然升•Meta论文:提到1)服务器计算训练需求6个季度翻了3倍,2)个季度内分布式的训练工作流提升到原来7倍图:传统数据中心架构图(800G传统云需求在51.2T较为明显)层级amazonSpine/Leaf400GFR4/DR4400GFR4/DR42*400GFR4Tor400GSR8/100GDR1400GDR4800GPSM8Server100GAOC100GAOC200GAOCgoogleSpine/Leaf2*400GFR42*800GFR4Tor8*100GPSM88*200GPSM8Server100GDAC/ACC100GDAC/ACCmicrosoftSpine/Leaf400GDR4、400GZR-Tor400GAOC Server100GDAC MetaSpine/Leaf400G(2*200GFR4)-Tor200GFR4-Server 百度Spine/Leaf400GFR4/DR4400GFR4/DR42*400FR4Tor400GSR8/100GDR1400GDR4800GPSM8Server100GAOC;2*200GSR4/AOC100GAOC200GAOC腾讯Spine/Leaf200GFR4400GFR4;400GDR4+2*400GFR4;2*400GDR4+Tor200GSR4400GDR4/400GSR4800GPSM8Server100GAOC/ACC/AOC100GDAC/ACC/AOC200GDAC/ACC/AOCSpine/Leaf200GFR4400GFR4;400GDR4+2*400GFR4;2*400GDR4+Tor200GSR4400GDR4/400GSR4800GPSM8Server100GAOC/ACC/AOC100GDAC/ACC/AOC200GDAC/ACC/AOC图:训练、推理相关的需求增长远高于其他自然增长需求数据来源:DeepLearningTraininginFacebookDataCenters:DesignofScale-upandScale-outAI800G穿越n的基石,算力基建的起始》数据来源:图:Nvidia方案的Basepod采数据来源:Al算力报告•网络性能是决定AI集群算力效率的核心要素。根据阿姆达尔定律,并行系统节点数越多,而其通信占比越高,对整体系统运•芯片互联性能持续提升,对于节点外的芯片互联,需要经过数据中心图:NVLink本身单通道速率在升级,同时连接数也在升级图:DGXH100集群采用4*800G接入(Infiniband组网,1016卡)图:NVLink本身单通道速率在升级,同时连接数也在升级数据来源:数据来源:NvidiaH100referencearchitectureAl算力报告Al算力报告•AI和高性能计算迅猛发展,数据中心服脊交换机100G400G200G400G100G200G机顶交换机/服务器网卡速率25G100G脊交换机100G400G200G400G100G200G机顶交换机/服务器网卡速率25G100G800G800G800G800G400G800G800G200G200G400G400G数据来源:国泰君安证券研究A100/H100驱动接入侧网口快速升级!3.1800G主线:从芯片接入-服务器外-交换机层级Al算力报告•最通用的测算方法就是芯片的接入流量->服务器内流量->服务器外流量->不同层级交换机流量,最后换算成端口数,再考虑是否采用光模块还是铜缆等形态。•以GH200测算为例:端口数来自L1层和L2层,共(2*115200GB+115200GB)*8(B/b)/800Gbps=3456个端口,再考虑L1接收流量端口距离较近,可以舍去,则最终为2304个端口,对应256个GPU芯片。数据来源:GH200参考,国泰君安证券研究3.1800G主线:主要模型A100\H100\GH200测算Al算力报告•核心要点:1)在非Nvl表:H100和GH200Nvlink组网下光模块测算GH200H100Nvlink表:H100和GH200Nvlink组网下光模块测算GH200H100NvlinkGPU数量256256单个GPU互联流量450GB450GB板卡内:板块外收敛比L1层流量(南向)115200GB57600GBL1层流量(北向)115200GB57600GBL2层流量115200GB57600GB端口数345617281:13.51:6.751:4.516KGPU训练集群设计H100A100核心参数POD数量88单个POD节点数88单个节点所需AI服务器个数AI服务器个数20482048单个服务器GPU数88GPU个数16384163841个服务器对应网卡端口4*(800G端口)8*(200G端口)服务器服务器端口需求819216384接入层TOR下行端口数819216384TOR上行端口数819216384汇聚层Leaf下行端口数819216384Leaf上行端口数819216384核心层Spine下行端口数819216384三层架构汇总4915298304结果数据来源:国泰君安证券研究Al算力报告•Marvell则指引AI相关业务2280.080.060.040.020.00.0FY23Q1FY23Q2FY23Q3FY23Q4FY24Q1FY24Q2Nvidia营收(亿美金)9.08.07.06.05.04.03.02.01.00.020222023E2024EMarvellAI收入(亿美元)算力报告算力报告光模块技术的演进离不开以下两个核心指标:单位速率功耗:PJ/Bit,单位速率成本:$/Gbps该指标下降可以因为:图:器件层面主要通过改进材料可以下降单位速率的功耗图:器件层面主要通过改进材料可以下降单位速率的功耗数据来源:Co-package数据来源:Co-packageoptics数据来源:Innovium,国泰君安证券研究Al算力报告图:传统光模块方案(左)vs硅光光模块(中)及硅光芯片(右)表:我们预计硅光技术在800G模块中渗透将明显上升电口速率光口速率4通道8通道1.6TOSFP-XD硅光数据来源:ICCSZ,国泰君安证券研究Al算力报告GaAsSOI4.551.65GaAsSOI4.551.650.2功能晶圆价格33.9527.160.2150200450450数据来源:ICCSZ,博创科技,国泰君安证类别硅光传统lnP晶圆尺寸8-12’2-3’工艺精度65nm-250nm0.3-0.5um集成度耦合器、波导、调制器、和波器、探测器、分束器、Driver、LA、CDR单片集成难实现高密度集成工厂维护代工生产产业链成熟相对不成熟芯片良率>80%<40%成本量大可以很低受限于良率和固定开支数据来源:ICCSZ,博创科技,国泰君Al算力报告Al算力报告图:传统的光模块使用CDR/DSP(上半部分),LPO模块省略了CDR/DSP(下半部分)DSP功耗占8W的400GDR4/FR4接近60%激光器,数据来源:索尔思,国泰君安证券研究Al算力报告Al算力报告线性驱动减少光学部分的DSP功能线性驱动可插拔模块接近当前DEMO的CPO方案单位带宽功耗Al算力报告•薄膜铌酸锂是一种高带宽的材料,可以支),薄膜铌酸锂功耗可以比硅光更低图:铌酸锂调制性能好,薄膜化后尺寸与硅材料类型长度/mm芯片损耗/3dB带宽/GHz半波电压/V直流消光比SiPh硅光4504磷化铟5653传统LN353-5薄膜LN100/80/454.4/2.3/1.4薄膜LN2707.4/5.1数据来源:铌酸锂调制器发展进展Al算力报告Al算力报告图:薄膜铌酸锂可以用在800G模块的发端Al算力报告Al算力报告光芯片层面光芯片全球市场规模在80-90亿元,根据ICC预测,当前光芯片层面光学元件模块层面ChipOnCarrier光学元件光收发组件数据来源:联特科技招股书,优迅科技招股书Al算力报告Al算力报告图:Sumitomo100GEML图:200G/通道将成为下一个代际800G100GEMLAl算力报告806040200图:全球光通信DFB/EML光芯片市场快速提升单位:百万2022E2023E2024E数据中心市场光纤接入市场5G移动市场DWDM数据来源:国泰君安证券研究806040200图:100G速率光芯片快速成长单位:亿元2022202320242.5G10G25G50G100GDWDMA100H100Al算力报告事项事项备注-H100数量(1:8)一台AI服务器8张卡800G端口数=1:3)800G光模块数量交换机采用SR多模光模块案,不采用硅光方案;因100G光芯片市场规模(亿元)事项1Scen2备注AI服务器出货量(万台)-A100数量(1:8)一台AI服务器8张卡200G端口数=1:6)200G光模块数量50G光芯片数量(1:4)假设全部用单模,不采用VCSEL50G光芯片市场规模(亿数据来源:国泰君安证券研究数据来源:国泰君安证券研究Al算力报告3.1Al算力报告Al算力报告 Al算力报告 局,足DC间大带宽需求数据来源:三大运营商讲话,国泰君安证券研究3.1骨干设备:骨干网400G新代际,主要设备商受益Al算力报告图:2020-2023年OTN端口比例华为占比最高表:100G代际OTN新建+扩容有超过累计100万端口合计华为烽火诺基亚数据来源:中国移动采招网,国泰君安证券研究Al算力报告Al算力报告表:主流相干模块市场价格情况相干模块市场价格100GCFP/CFP228000200GCFP2DCO40000400GCFP2DCO60000800G6位数1.2T6位数数据来源:易飞扬通信图:相干模块图样Al算力报告 Al算力报告 •薄膜领域,当前海外富士通、国内光库科技等有相应产品,我们预计有望应用在400G骨干网端口中。•交付的形式大概率为调制器HB-CDM的格式,封装尺寸可以相对做的较小。图:富士通宣布商用的驱动器+铌酸锂调制器封装起来3cm表:核心的薄膜材料技术我国已经掌握,芯片技术已逐铌酸锂薄膜材料薄膜铌酸锂调制器芯片薄膜LN器件制作学院派产业山东大学:胡卉团队济南晶正(胡中山大学:余思远蔡鑫伦团队、武汉国家重点实验室等光库科技、铌奥光电、宁波元芯华中科技大学夏金松团队、山东大学晶体材料实验室光库科技、铌奥光电、宁波元芯等数据来源:国泰君安证券研究Al算力报告通信、汽车、消费电子、工业交通、航空航天、军事等领域。传输高速高频数据信号的同时须保证电路阻抗连续性好、串扰小、时延低、信号完整性高。•数据中心连接新趋势不断涌现,对连接器&线束性能要求持续提升。随着数据中心规模不断扩大、组网模式日益复杂,研发更快速度、更高密度和更小型化的连接器以及更高集成度的线束成为行业技术发展的趋势。表:连接器分类连接器类别主要功能应用领域电连接器用于器件、组件、设备、系统之间的电信号连接,借助电信号和机械力量的作用使电路接通、断开,传输信号或电磁能量,包括大功率电能、数据信号在内的电信号等广泛应用于通信、航空航天、计算机、汽车,工业等领域微波射频连接器用于微波传输电路的连接,隶属于高频电连接器,因电气性能要求特殊,行业内企业会将微波射频连接器与电连接器进行区分主要应用于通信、军事等领域光连接器用于连接两根光纤或光缆形成连续光通路的可以重复使用的无源器件,广泛应用于光纤传输线路、光纤配线架和光纤测试仪器,仪表,光纤对于组件的对准精度要求广泛应用于传输干线、区域光通讯网、长途电信、光检测、等各类光传输网络系统中图:数据中心场景下的连接器应用Al算力报告•连接器顺应光模块迭代趋势实现用量增长。根据集成光纤数量的不同,常见的光模块连接器可分为LC接口和MPO/MTP接口,100G以下光模块多使用LC接口,100G以上光模块则需要光纤集成度更高的MPO/MTP接口(常用2~48芯)。随着光模块速率从100G/200G向400G/800G跃升,单个光模块的通道数量增加,所需使用的单个连接器的通道密度&即需要更多的MPO/MTP连接器。表:光模块技术演进光模块封装类型通道数量单通道速率调制技术传输速率440G44200G8400G8800G图:常见400G光模块连接方案•Al算力报告值高速背板连接器新技术,高壁垒筑就高附加值。高速背板连接器因其功能主要集中在高速信号的板间传输,且能够在有限的空间 布置更多电路板,已成为应用于高端服务器的新技术方向。由于其在技术难度、信号传输速率和应用场景多方面优于I/O连接器,且下游客户产品定制化要求较高,价值量大幅提升。图:I/O连接器和背板连接器应用表:I/O连接器和高速背板连接器对比应用领域I/O连接器高速背板连接器技术难度层的两个绝缘层③差分对集中在同一个信号PIN上,间距相同易加工①信号PIN数量较多(一般为12个以上)和信号层之间的绝缘层;③差分对配置在不同信号PIN上,且交错分布,不易加工传输速率速率为28Gbps,共4个通道,总传输速市面主流方案6pair/4column:单个差分对的传输速率为28Gbps,共24个差分对,总传输速率为600Gbps应用场景安装在子板边缘,主要作用是和外部的其它设备互联,以便和外部系统进行数据/信号交换安装在背板上,主要作用是将背板和子板进行连接,实现背板和子板的数据/信号交换AlAl算力报告•线缆同步平台升级,内部线缆单服务器价值量大幅提升缆:高速裸线等内部线缆,用于服务器内板卡、存储等组件互联;DAC/AOC高速线缆属于外部线缆交换机、交换机-交换机互联。由于内部线缆需配合服务器/交换机平台不断升级(Intel平台从支持PCIe4.0向5.0升级,传输速率和调制技术均升级可实现单服务器价值量大幅提升。•随着交换机与AI服务器需求和性能持续提升,高速线缆、组件、连图:DAC/AOC应用场景图:主板上PCIE通道•国内厂商凭借在消费电子领域的技术积累+国产替代节奏加速,有望打破行业格局。海外连接器市场发展较早且成熟,欧美、日系厂商依靠技术沉淀和规模优势长期占据全球大部分市场份额。我国连接器行业起步相对较晚,以消费电子领域为代表,产品以中低端为主,市场份额有限。随着数据中心需求爆发式增长以及国产替代稳步推进,国内连接器厂商有望实现产品技术升图:2020年全球连接器厂商市场份额泰科安费诺莫仕立讯精密安波福富士康J.S.T广濑电机其他表:国外厂商与国内厂商对比应用领域主要国外制造商主要国内制造商通信瑞可达汽车泰科、安费诺、莫仕、矢崎、航空电子计算机等消费电子泰科、安费诺、莫仕、航空电子电连技术、立讯精密、得润电子、徕木股份工业和交通泰科、安费诺、莫仕、矢崎、航空电子、灏讯、罗森伯格中航光电、航天电器、永贵电器、四川华丰军事、航空航天泰科、安费诺、莫仕、航空电子中航光电、永贵电器、四川华丰AlAl算力报告Al算力报告缆)、光连接(AOC和光模块)、射频通信(基站天线、基站滤波器、塔顶放大器、双工器、合路器、RRU、AAU、小基站)等现有产品基础上,增加了热管理(热管、VC、轴流风扇、冷板、液冷散热)和工业连接等产品,实现数据中心场景下解决方案的垂直整合。扎实的产品基础+5G趋势有望推动公司复刻海外龙头图:立讯精密数据中心场景解决方案图:电连技术ECT产品应用AlAl算力报告•小型化模型将打破智能终端性能冗余窘境,终端接口的硬件求基本满足目前应用需求场景,导致终端消费者换机动力不足。而AI大语言模型的小型化发展,将带来智能终端的再升级。在手输、执行、感知等硬件需求也将同步升级。图:谷歌发布可植入终端设备的小型化模型GeckoAl算力报告•Soc作为核心部件有望深度受益。Soc作为智能终端中的底层系统、音频处理器、I/O子系统以及各类高速模拟接口等功能模块。应用于智能家居、互动零售、企业、商业、工业物联网等场景。图:Soc赋能的终端AI应用》图:通过调节VisionPro的旋钮,用户可以获得不同的沉浸度体验数据来源:WWDC23图:完全沉浸时,EyeSight技术让走近的同伴出现在用户视野中数据来源:WWDC23Al算力报告Al算力报告间运算新时代。•VisionPro与AI结合生成Persona虚拟现实形象。VisionPro采用机器学习技术,通过前置传感器和神经网络生成用户专属形图:基于机器学习运算后创造的现实形象Al算力报告Al算力报告•公司在电信领域耕耘已久,是国内少数批量交付电信100G高端模块的厂商。此外,公司•超预期的点:新客户开拓进展;硅光能力整合加强;22-23年行业需求超预期。图:主要产品为各速率光模块数据来源:公司公告,国泰君安证券研究Al算力报告Al算力报告•2018-2020年:收购AiDi、开拓有源BO•超预期的点:数通器件需求超预期,激光雷达项目进展超预期,23年光引擎需求超图:全球客户链条图:全球研发和产能布局图:全球客户链条数据来源:公司公告,国泰君安证券研究5.3中兴通讯:盈利质量持续改善,AI布局逐步放量Al算力报告l预计2023年公司电信网络侧业务将稳步增长。根据工业和信息化部的数据,2023年l服务器和存储业务高增长可期,产品组合不断丰富。由于电信运营商强劲的算力资本将强劲。公司最新发布的G5系列服务器产品,具备高密度算力、灵活扩展、异构算力、海量存储、稳定可靠等特性,采用最新的英特尔至强第四代可扩展处理器,双路最大支持120核,AI性能提升10倍,提供强大算力支持。公司目前已与百度合作,为“文心一言”量身定制算力底座,为AI产品应用提供更加强劲的算力支撑图:中兴通讯G5系列服务器新品表:中兴通讯智算基础设施产品矩阵产品分类产品简介服务器全系列服务器支持GPU和液冷,可以以极致低耗构建大模型计算资源池,使数据中心的PUE降到1.13以下。已推出R6500G5GPU服务器,最大支持20个GPU,还将推出更高性能的R6900G5GPU训练服务器。存储提供高带宽多元融合存储,以满足AI训练多态数据存储需求。提供分布式磁阵和高端全闪磁阵组合方案,兼顾了大容量和高性能需求,同时提供文件、对象和块等多元存储。此外,通过NEO智能云卡卸载高性能存储传输协议NVMe,实现了3MIOPS的存储性能。网络采用高速“无损”网络,实现了AI算力的“无损”。以DPU为中心,换机的高性能RDMA网络,构建了超大规模算力集群。引入NEO智能云卡,服务器可实现单节点800Gbps转发性能、微秒级时延,从而突破节点间网络瓶颈,可以将GPU集群算力发挥到极致。数据来源:中兴通讯微信公众号,国泰君安证券研究Al算力报告Al算力报告l盈利和派息均将持续稳健增长。预计移动客户和家庭宽带客户仍将实现净增长;预计移动ARPU将基本保持稳定,而家庭客户综慧家庭增值业务推动下将同比增长。由于资本开支放缓带来的折旧压力减小,以及运维费用的管控,预计盈利的增长l数据要素市场空间广阔,为公司带来巨大市场机会。公司拥有大量的优质数据,在数据资源方面有很大的优势,未来在数据要素市场将有很大的发展机会及占据较大市场份额。目前,已有一些商业案例落地,但数据相关业务仍处于发展初期;我们认为公司将从战略层面表:中国移动算网基础设施数据中心布局算力规模可用机架数35万架云专网覆盖城市数304个网络时延全国20ms省域地市省际骨干网带宽数据来源:产业通信网、国泰君安证券研究表:中国移动面向政务领域的行业大模型模型类型简介优势基于近年来积累的丰富数字政府建设经验所打造的面向政务领域的行业大模型。依托九天·海算政务大模型,复杂流程的多元交互能力。九天·客服大模型既可根据用户提供的自然语言描述,解析用户问题并提供答案,又可以与人工客服协作,分析历史沟通内容的语义和上下文 ,总结和归纳对话的重点和关键信息,根据对话内容为人工客服坐席提示回复建议 ,以减少应答时间,形成“大模型—人工坐席—用户”的三方沟通场。效率。数据来源:中国移动、国泰君安证券研究中国电信:云业务不断拓展,算力资源奠定发展基础《穿越n的基石,算力基建的起始l国资云龙头,业务规模不断拓展。天翼云公有云市场份额进入行业前三,在云业界民币1,000亿元。目前,市场需求依然旺盛,关键点在于公司自身的关键核心技术能力;预计公司将继续加强在云计计划2023年投资云资源人民币195亿l算力资源规模持续扩充,为产业数字化业务奠定坚实基础。中l催化剂:派息及派息率的上升;云业务的增长快表:中国电信“2+4+31+X+O”算力布局分类具体内容2在内蒙古和贵州两个全国性云基地打造融合资源池4在京津冀、长三角、粤港澳、陕川渝4个大区建成大规模公有云31在31个省省会级和重点城市建设属地化专属云X在X节点打造差异化边缘云O布局“一带一路”沿线国家,将算力体系延展至海外表:中国电信新一代智算引擎分类具体内容核心算法全面布局图像、语音、语义和AR/VR等领域基础算法和前沿探索,AI算法仓已突破5500+,发布星河通用视觉大模型2.0,从垂直领域智能迈向跨行业通用智能。高效算力依托天翼云进行人工智能4级算力的平台建设:在全国6个大区建设核心的、大型的算力集群;在31个省节点

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论