2024年AI服务器和AI PC趋势解读-38正式版

2024年AI服务器和AIPC趋势解读电子发烧友网电子发烧友网编辑电子发烧友网副主编章鹰2024.07.011数据中心、AI服务器市场趋势AI服务器的发展挑战和质量检测目录AIPC市场规模和趋势AIPC终端厂商和上游产业链AIPC产业应用和生态总结2数据中心、AI服务器市场趋势数据中心•数据中心按照算力可以分为三类：云数据中心、智算中心和超算中心。云数据中心面向众多应用场景和应用层级扩张；智算中心

以AI专用芯片为计算算力底座，以促进AI产业化和智能化为目标，面向典型应用场景；超算中心主要支持科学计算和工程计算，主要由国家科技部布局建设。•国内数据中心建设较全球起步晚，目前处于云中心深化阶段，向智能算力中心转型，总体处于成长期。发烧友根据公开资料制图4生成式AI支出高速增长•国际调研机构IDC统计，2023年全球生成式AI支出的市场规模预计为387.9亿美元，2027年全球生成式AI支出将达1454.2亿美元，2023-2027年CAGR为55.3%。中国生成式AI支出将达到35.3亿美元，2027年预计中国生成式AI支持将达到129.3亿美元，2023-2027

年CAGR为54.1%。•海外企业应用生成式AI意愿强烈。OpenAI首席运营官BradLightcap预测2024年是应用元年，目前已有超过万人注册使用

ChatGPT企业版。月11nAI在官网宣布与苹果达成技合作，将ChatGPT深度集成苹果产品矩阵中，包括最新的S、iPadOS和macOS。苹果将语言模型集成到iPhone、Mac等设备中，算力从云端转移趋势出现。数据来自IDC，电子发烧友制图数据来自IDC，电子发烧友制图5全球需求快速增长，国内AI服务器处于增长期•Trendforce2023AI120.837.7%2024AI167.238.4%Q1法说会上表示，AI需求的增长将以50%的

2028AI服务器需求增长也有望以较高速度持续至2028•IDC2023年，中国人工智能服务器市场规模将达91亿美元，同比82.5%414.1EFLOPS59.3%，202239%。数据来自电子发烧友制图图片：台电Q1财报6AI服务器分类•AI服务器分为训练和推理两大类别。训练用服务器对存储空间、带宽和算力的要求较高，主要采用

8-GPU设计；推理用服务器对算力、存储和带宽的要求相对较低，取决于业务场景，可以采用GPUNPUCPUPCLeAI加速器实现推理任务。•-云服务器-边缘服务器-AI服务器四种模式，AI服务器采用GPU增强其并行计算能力

CPU+GPUAIAI电子发烧友拍摄图片来自慧投研7AI服务器-上游产业链构成（一）CPU+GPUHDD/SSDDRAM内存冷却方案电源CPUGPU英特尔AMD芯中科英伟达AMD英特尔寒武纪三星金士顿威刚三星、SK海力士美光AurasSunon;台达电子艾默生光宝科技中国长城欧陆通AI服务器产业链上游为基础设施供应商，包括芯片、GPU，存储（内存DRAM和内存接口及HBM，

存储SSD），被动元器、智能网卡、机箱、、散热、电源等。8AI服务器-上游产业链构成（二）固态硬盘PCB散热器被动元器件互联网接口质量检测三星金士顿威刚鹏鼎控股东山精密技台达电子富士康村田TDK太阳诱电英伟达TI蔡司是德科技爱德万测试福禄克9AI服务器中游和下游国外厂商：Wiwynn、中游：ODM厂商国内厂商：工业富联、广达、英业达、纬创、技嘉AI商国外厂商：戴尔、思科、富士通、甲骨文（Oracle）国内厂商：联想、浪潮、华为、新华三、德、思腾合力AI-企业类型：互联网企业、云计算企业、电信运营商、金融机构其他类型：政门、数据中心服务商医疗领域10六AI服务器厂商01戴尔EdgeXE968004中科曙光here02浪潮NF5468M6AI服务器厂商05华为Atlas800AI03联想SR670V2AI服务器06新华三H3CUniserverR5360AI服务器的品牌厂商，包括戴尔、浪潮、联想、中科曙光、新华三、华为、宝德、安擎和工业富联等。AI服务器的发展挑战和质量检测AI服务器发展的三大挑战AICPUGPU板组、电源模组、硬盘和配件（机壳、机架、连接器和电感）。今年，随

AIGB200服务器下半年出货，带动液冷、GPUPCB需求的增加。GPUHDI板，PCB的材料和产品质量如何保证；二、AI服务器对传输速

56G112G－224G”的方向发展，高速和高密度背板连接器如何满足AI算力释放需

效方案来护航。三、智中心走向高密度，单颗能AI芯片的热设计功耗破

1000W趋势。图：联想AI服务器，来自联想官网图片来自网络13数据中心与AI服务器的生产制造品质更高要求AI服务器具有高功率、高速运算和数据传输等特点，以及不间断运行的高价值设备，因此对于各方面的元器件的质量要求更高，要在生产制造各个环节的检测有更高的技术支持。支持更强算力的AI服务器会用到：1多层高阶PCB板更多层，更高的线路密度、高功率机架3、多相电源供电系统4、采用更好的被动元件，如叠层片式铁氧体磁珠5、高速的背板服务器6、固态硬盘、光模块7、液体冷却系统等。就目前的数据中心硬件方面，蔡司已识别出5个应用场景和7趋势点，如何做好质制，以及一系列的失效分析检查才是保证数据中心发挥最大效能的关键点。对于这类产品的失效性分析、质量检查的品质要求更高例如：通过检查层片式铁氧体磁珠，可以使用蔡司工业

显镜去直观的发现失效点，通常我们使用电镜

观察，使用Sigma电镜且无需额外的消磁处

理即可放大到1万倍去观测磁珠表面的情况14AI服务器5个新趋势，个重点应用多相电源叠层片式铁氧体磁珠AI服务器多层高阶HDI板IT算力设备高速背板连接器固态硬盘高功率机架核心交换机图片来源于网络交换机通信设备光模块路由器散热统液体冷却系统液冷板15散热制冷系统•冷板冷却是数据中心主流的液体冷却解决方案IT设备制冷设备电源系统照明系统其它数据中心能耗组成图片图片来源于网络是国内外数据中心普遍接受和采用的一种衡量数据中心基础设施能效的指标.到2025年，全国新建大型、超大型数据中心电能利率（）降到1.3以冷设备占非IT设备能耗大部分。冷板直接安装在热源的顶部，中间有一层热界面材料以增强传热。在冷板内部，液体流过微观结构并流出到某种形式的热交换器。16AI服务器的液冷板尺寸测量GOMScan1样

品平面度和孔间距测量。测试要求采用GOM蓝光技术摄像原

理，提供高精度三数据。小巧，可移动，超级易用。搭配ZeissInspect软件，轻松处理检测过程中的简单和复杂的任务。价值主张17行业常用的生产制造的检测方案行业检测解决方案包括CMM&VMM检测，光学系统检测，能够穿透元器件及产品内部的X射线检测，以及各种工业显微镜。图片来源：蔡司ZEISS官网18算力从云端向终端迁移•AI的飞速普及和计算需求的日益增长，云经济难以支持生成式AI规模化扩展，云端必须与终端侧协同运行AIAIAI边缘设备数据中心服务器低功耗低带宽机计算效率汽车19AIPC市场规模和趋势PC市场现状：全球PC疲软，中国市场企稳回暖•IDC预测，2024年全球PC市场与2023年持平，出货量达到2.602亿台。尽管带有NPU，有能力运行端侧生成式AI功能的PC集

中在下半年上市，暂时未能显著带动市场的出货量。•2024年，中国整体PC市场转好，2024年出货量同比去年增长3.8%。全球市场回暖，六大PC厂商联想、惠普、戴尔、苹

果、宏碁和华硕业绩出现分化。今年将成为中国PC快速发展的第一年，预计2024年整体PC市场AIPC占比将达到55%，而2027年将达到85%。•AIPC在中小企业市场展最快，2024年将超过60%；市场受游戏场景和学习创作景带动，2024年将达到55.4%大企

业受到安全因素影响，初期部署较慢，估计到2027年，PC在大客户市场的占比将达到76.8%。•PC市场目前以存量市场为主，用户换机周期长。PC的上市能够实现PC的新升级，有望拉动PC的换机需求。图来DC21AIPC的定义•AIPCPCCPUGPUNPUMicrosoftCopilot键，能够在

Copilot。•目标：与传统PCAIPCAI芯片，形成“CPU+GPU+NPU”的异构方案，可以支持本地化AI模

AI任务，并且无需将数据（尤其是敏感数据）发送到基于云的AI服务器进行处理。图：华硕灵耀14双屏，搭载，电子发烧友拍摄图片：络22AIPC市场规模展望•2024是PC发展元年。IDC预测，到2028年中国下一代AIPC年出货量将是2024年的倍。摩根士丹利认为，PC将从今

年下半年开始剧增，预计将从1000美元以上的笔记型电脑开始普及，最终将下降到500美元的价格区间。•调研机构Canalys数据显示，2024年下半年，PC的广泛推出将推动市场发展，为暂缓购买的用户提供创新性和吸引力的产

品。2024年全球PC出货量将达到4800万台，占个人电脑总出货量的18%。5月底，微软Copilot发模型，基于本地算力可以提供本地大模型的训练和计算。相比云端，端侧模型

较高安全性和及时性下一代PC必不可少部分。23微软Copilot+PC技术亮点、算力升级、回溯记忆（Recall）NPU达到RAM配置，新一代在加持下，这项功能允许截取设备使用情况CopilotPC运行速度比苹果MacBookAir快的屏幕截屏，并且存储在本地，加强隐私保护。、实时字幕

、渲染互实时交互能力，尤其在图像生成、视频剪辑、游戏渲染方面为物体和人物强化视觉效果。在强大算力和语言模型帮助下机器将40多种语言的实时字幕翻译成英语。24AIPC终端厂商和上游产业链部分国际厂商AI终端产品（一）公司名称产品型号处理器发布时间模型价格（元）功能ThinkPadX1CarbonIntel酷睿Ultra7Q4,2023支持200亿参数大模型—16999AI智能会议、智能降噪、AI个人助理IdeaPadPrIntel酷睿i52024支持200亿参数语言大模型299欧元生成式AI创作，图文转换YOGABook9iIntel酷睿Ultra7Q2,2024支持200亿参数语言大模型15999配备CreatorZone软件Dell新XPS14Intel酷睿Ultra7165HQ1,2024支持200亿参数大模型14999-19999AI能效提升、文本生成、语言翻译，运行AI软件灵耀1Intel酷睿Ultra9185HQ4,2023支持200亿参语言大模14999AI图像生成，大模型，适0款国内大模型Zenbook14Intel酷睿Ultra9185HQ1,2024支持200亿参数语言大模型1000美金AI图像处理、视频编辑、AI降噪宏碁SwiftGo14Intel酷睿Ultra9185HQ1,2024支持200亿参数语言大模型5499元起AI降噪、图形优化电子发烧友根据公开整理26部分国际厂商终端产品（二）公司名称产品型号处理器发布时间模型价格（元）功能幽灵Spectre16英寸Intel酷睿Ultra7155HQ1,2024支持200亿参数语言模型14999AI增强视觉、AI辅助，AI音频体验优化星BookPro14AIIntel酷睿Ultra5Q1,2024支持200亿数语言模型5399-7099生成式AI创、AI助手OMENIntel酷睿Ultra9185HQ2,2024支持200亿参数语言模型6499-13999AI辅助内容创作，AI降噪Surface版骁龙XElite2024支持端侧运行130亿参数的语言大模型8688-16088Recall功能，实时翻译、支持文生图音交互SurfaceLaptop7骁龙XEliteQ2,2024支持端侧运行130亿参数的语言大模型15388Recall功能，实时翻译、支持文生图、语音交互耀MagicBookPro16Intel酷睿Ultra52024支持200亿参数语言模型9299文本生成、语言翻译，AI软件电子发烧友根据公开资料整理27联想AIPC产品陆续上市•4月，联想YOGABook9iAI正式上市，搭载酷睿Ultra7155U处理器，集显性翻倍体验，保证了其在处理各种复杂任务时的流畅性和高效性。•6月26日，联想集团宣布推出基于高通骁龙XElite平台的Air14s骁龙AI元启，以及Air14cAI元启和拯救者

Y9000PAI元启三款AI。Air14s骁龙AI元启基于高通骁龙XElite平台，NPU算力高达每秒45万亿次，搭配联想小天

，文档总结速度提升22%，生速度提升45%，可轻松驾驭文档处理、浏览网页、作多任务并行状态，续航

长达24小时。图片来自联想28搭配骁龙X系列的20款AIPC图片来自高通29AIPC处理器芯片•AIPC芯片厂商：WindowsOnARM应用拐点到来，全新ArmSurface具备高性能和低功耗。目前，高通、苹果都已经推出ARM

架构的PC处理器芯片联发科携手英伟达推进ArmPC处理器开发。•X86芯片迭代更新，性能持续提升。英特尔MeteorLake首次集成NPULunarLake和ArrowLake加速提高处理器性能，SnapdragonXEliteIntelCoreUltra已经20多台型号搭载骁龙X系列的Copilot+PC开始接受预订。Intel宣布与主流OEM伙伴推出230余款机型，开启AIPC新纪元。6月，AMD推出AI300,算力。HP、Lenovo、Dell预计7月推出含该款芯片的PC新品。30国际厂商推出lot处理器片公司名称产品型号制程发布时间合作品牌SnapdragonXElite4nm宏碁、华硕、戴尔、惠普、联想、微软和三星napdragonXops4nm宏碁、华硕、戴尔、惠普联想、微软和三星Intel酷睿Ultra7155HIntel4联想、Dell、惠普、华硕、宏碁、荣耀、新华三LunarLakeIntel18A/ArrowLake//2025年/AMD80504nm/3004nm惠普、华硕、联想计划7月推出带有AMD的AIPC31AIPC产业链-上游硬件显示器CPUGPU主板内存电源X86架构Intel、D、ARM架构高通苹果英伟达AMD尔线华硕三星、SK海力士美光BOE三星新普德赛电池欣旺达珠海兆芯华为程江波龙HP龙芯中科联发科长鑫AIPC产业链上游为基础设施供应商，包括芯片、GPU芯片、芯片、存储芯片、操作系统、显示器等。

1I拉动存储需求上对大容量存储需求增驱动成为主流需。2、伴随AI对数输

速率及功耗提出更高要求，高频高速是未来发展必然趋势。32AIPC产业链-软件操作系统社交应用娱乐应用

数据库管理系统办公应用支付应用Oracle甲骨钉钉企业微信WPSMicrosoft微信哔哩哔哩微信支付信软件微博支付宝ONBASE苹果IOS、QQ快手招行AP麒麟软件华为支付AI术、闻泰科技、联技、英业达，下游是品商

DELLHONOR、华为等。33AIPC产业应用和生态AIPC的六大应用场景1AIChatbotAI,Chatbot2AIPCPCPC上的数据和个人文档。

3AIOfficeOffice4AIAIPC将个人或企业的文件转换成运行在设备上的知识库，帮助用户进行快速的文档处理。

AI图像视频处理，通户输入的提示词生成多内容，包括图像、视频频以及