电子行业深度：AI推动HBM需求强劲增长

正文目录TOC\o"1-2"\h\z\uHBM为当前满足AI需求的最佳方案 4HBM有效解决了“内存墙”和“功耗墙”问题 4TSV和2.5D封装赋予HBM卓越性能 6HBM已迭代至第五代 8AI推动HBM需求强劲增长 10AI发展推动HBM放量 10HBM3市占率有望大幅增加 HBM颗粒寡头垄断，国内厂商发力上游 12龙头厂商竞相开发新品 12国内厂商主要从事上游材料领域 13投资建议 14风险提示 14图目录图1博通StrataDNX™Jericho2交换机解决方案 4图2NECSX-AuroraTSUBASA结构图 4图320年间不同处理器与存储性能变化统计图 5图4数据中心运营成本结构 6图5数据中心能耗成本结构 6图6HBM的结构 6图7TSV工艺 7图82.5D封装与3D封装示意图 8图9JEDECDRAM分类 9图10不同版本HBMI/O速度 10图搭载HBM的二三代TPU 图12各大厂商HBM开发进度 12图13不同HBM市占率变化预测 13图14主要供应商市占率变化预测 13图15HBM产业链 13表目录表1HBM与其它存储参数对照表 7HBM为当前满足AI需求的最佳方案HBM有效解决了“内存墙”和“功耗墙”问题BandwidthAMD和SKnix联合推出的基于3D堆叠技术的同步动态随机存取存储器（RAM，GPU（如路由器、交换器AIASICFPGA，以及一些超级计算机（如CAuroraTSBA和富士通4M芯片由SKHynix在2013年生产，2015年AMD首次研发了使用HBM的GPU芯片。图1博通StrataDNX™Jericho2交换机解决方案 图2NECSX-AuroraTSUBASA结构图资料来源：博通， 资料来源：github，HBM遵循冯中读取数据，并完成计算，再将数据返回内存保存，因此，CPU的速度就成了影响系统运行的重要因素。由于半导体产业的发展和需求的差1980近20年间，运算芯片的算力提高了90000DDRGDDR6x从PCIe1.0a30些特殊使用场景中（I计算领域制计算机发展的关键。图320年间不同处理器与存储性能变化统计图资料来源：《AIandMemoryWall》，算机体系结构中，CPUCPU“功耗墙”带来了成本问题，数据中心运营成本中电力成本占到56.70%电力成本中67.29%来自于IT负荷，HBM的低功耗优势有利于降低数据中心能源成本。由于传统显存GDDR5海力士与AMD联合开发了全球首款HBM产品。HBM通过立体堆叠技术制造完成，这些堆叠的芯片通过称为“中介层(Interposer)8.5HBM3的核心电压只有GDDR6存储芯片通过优化电路结构和供电电压，实现了更低的功耗。R9290X在DRAM上花费了其额定功耗的15-20%，即大约38-50W的功耗，算下来GDDR5每瓦功耗的带宽为10.66GB/秒，而HBM每瓦带宽超过35GB/秒，每瓦能效提高了3倍以上。图4数据中心运营成本结构 图5数据中心能耗成本结构人工费,3.70%3.40%房租,7.70%

他,3.10%

损耗消防12.20%辅助0.50%3.00%折旧,25.60%

电力成本,56.70%

制冷系统17.04%

IT负荷67.26%资料来源：立鼎产业研究网，Bloomberg， 资料来源：《数据中心能耗分析及节能策略研究》，TSV和2.5D封装赋予HBM卓越性能HBMHBMTSVGPU中文名为硅通孔技术，TSV提供了硅片内部垂直方向的电互连，作为唯一的垂直图6HBM的结构资料来源：AMD，图7TSV工艺

电互连技术，TSV是半导体先进封装最核心的技术之一。硅作为一种半导体资料来源：艾邦半导体网，HBM将多个DRAMdiedie之间通过TVS和microbumpDRAMdieHBMdie，最下层通过baedie(lconinterpose)CPU/GU等互联。其互联宽度远大于DDR/GDDR，下方互联的触点数量远远多于DDR内存连CPUDRAMdie2个128bit通道，4层DRAMdie高度的HBM内存总共就是1024bit位宽。作为对比，GDDR616bit32bit的带宽最高可以达到819GB/s，而最新的GDDR6的带宽最高只有96GB/s。表1HBM与其它存储参数对照表参数LPDDR4xLPDDR5DDR4DDR5GDDR6HBM2EHBM3带宽(Gbps)低-中(136)中(204)中(200)高(409)高(512)最高(3686)最高(6553)速率(Gbps)4.2666.43.26.4163.66.4颗粒/组合位宽(bits)323264/+8ECC64/+16ECC3210241024板级面积/系统设计难度大/适中中/适中大/简单大/适中中/适中小/复杂小/复杂能耗比(mW/Gbps)高(~4)高(~3)适中(~10)适中(~5)适中(~10)高(~2)最高(~1)使用总成本适中适中低适中适中高高可靠性/良率高高高高高中中资料来源：Rambus，芯耀辉，芯世相，HBM的应用了节省了器件面积。HBM将多个DRAMdie堆叠在一起，节省了占用面积，根据AMD的数据，1GBHBM相比于GDDR5可以节省94%HBM2.5DGPUGDDR则位于GPU外的PCB多GPU2.5D的中介(Silicon2.5D3DIC2.5D封装是通过TSV片，而3DIC2.5D介层上，以实现极高的芯片到芯片互连密度。在3D芯片堆叠集成，以实现最短的互连和最小的封装尺寸。图82.5D封装与3D封装示意图资料来源：SemiconductorEngineering，HBM已迭代至第五代国际半导体器件标准机构DRAMDRAMDDRLPDDRGDDRDDR主要应用于服务器和PC端，LPDDR主要应用于手机端和消费电子，GDDR图9JEDECDRAM分类

竞争，但是更多是互为借鉴成长。资料来源：SemiconductorEngineering，2013(HBM)DRAM芯片通过硅通孔(TSV)相互连接，改进了逻辑芯片和内存之间的数据传输效率，使得DRAM的带宽大幅增加。M1的带宽高于R4和GPUTPUHBM12016HBM2，SK海力HBM22018年发布，其中一项关键的改进是伪通道模式(PseudoChannelmode)，该模式将一个通道(channel)分为两个单独的64位(bit)I/O子2020HBM2HBM2的发布大约两年的时间。HBM2SKHBM2ESK海力士在2021年10月开发出全球首款HBM3HBM3HBM2E1.512DRAMAI、HPC8月21AI的超高性能DRAM新产品HBM3E，并开始向客户提供样品进行性能验证。据HBM3E1.15TB（太字节）的数据，其相当于在1秒内可处理230部全高清级电影。图10不同版本HBMI/O速度资料来源：Rambus/SKHynix，SemiconductorEngineering，AI推动HBM需求强劲增长AI发展推动HBM放量2016HBM存解决的问题，HBM因此获得重视。2017年，AlphaGo再战柯洁，芯片换GoogleTPUTPU，都采用了HBM。英伟达针对数据中心和深度学习的新款GPUP100，也搭载了第二代M（GPU芯片几乎HBM内存，存储巨头们围绕HBM的竞争也迅速展开。去年月，Chatgpt发布，随后生成式人工智能实现了爆发式发展，国内外大厂争相竞逐AI大模型，大模型训练的过程数据吞吐量很大，HBM通AIHBMAI训练芯片的标A100H100均应用了H100直接竞争的谷歌TPUv5和MDMI0MWS的Trainium和Inferentia也应用了HBM，并且，Google与正着手研AI加速芯片，将采用HBM3或HBM3e。图11搭载HBM的二三代TPU资料来源：TheNextPlatform，收到的HBM订单同比增长一倍以上。根据金融时报的报道，2023将出货5万片4年将出货-0万片Oma预测23年和2024年的HBM需求量将同比增长100%以上。2025年以后，在AI训练需求和AI海力士公2027年之前，HBM82%的复合增长率保持增长。HBM3市占率有望大幅增加2023年AI2024策略，HBM2023年的-2.4%0.6%。长期来看，每一代HBM产品的平均销售单价都会逐年下降，因为HBMDRAM2023HBM2eHBM2的价格均AIHBM360%以上，2024年HBM3价格预计将与2023年持平。集邦咨询表示，2023年主流需HBM2e50%39%2024年市场需60%HBM3平均销售单价远HBM2eHBM2024年整体HBM营收至89亿美元，同比增长127%。HBM颗粒寡头垄断，国内厂商发力上游龙头厂商竞相开发新品图12各大厂商HBM开发进度

目前，全球主要有三家存储厂商生产HBM产品，其中，SK海力士处于领先位置，SK海力士早在2022年6月就已量产HBM3，但是三星却要到今年下半年才能大规模量产HBM3，SK海力士是英伟达GPU的主要供应商，SK海力士的市占率差距会大幅缩小，2023~202495%C018M，2020年才推出2023~2024年美光的市占率会受到挤压而大幅下滑。资料来源：集邦咨询，

根据集邦咨询的数据，2023-2024年，三星与SK海力士均在46%-49%之间。美光的市占率将不断下滑，至2024年，将下降至3%-5%。图13不同HBM市占率变化预测 图14主要供应商市占率变化预测8%70%22%39%50%8%70%22%39%50%11%60%25%15%80%60%40%0%

2022

2023E

2024EHBM3 HBM2e Others资料来源：集邦咨询， 资料来源：集邦咨询，国内厂商主要从事上游材料领域图15HBM产业链

HBMIP片制造与封装厂商主要为拥有技术的台积电、I-Cube技术的三星、EMIB技术的英特尔等拥有2.5D/3D封装技术的Foundry/IDM厂商，测试领域则由传统封装测试厂商如日月光、Amkor等占据。在IP环节，除AMD与赛灵思等IC设计厂商外，包括新思科技、益华计算机、Rambus等IP厂商都提供HBMIP解决方案，全球最大IP厂商Arm尚未提供相关解SK海力士HBMGMCGMC材料需要的low-α球硅/球铝产品。资料来源：Digitimes，雅克科技1997(LNG)2016UPChemicalUPChemical为SK海力士HBM前驱体核心供应商。颗粒状环氧塑封料东佛智芯公司产品验证，目前进入送样阶段，成为突破GMC的A市公司。GMC是HB