思博伦影响力报告-当世界交汇之时 -数据中心、电信和企业网络中的高速以太网未来

新机遇、前所未有的需求以及迫切的创新，正塑造着以太网数十年我们很高兴推出我们的首份年度影响力报告，追踪数据中心网络和高速以太网（HSE）市场的最新趋势、凭借与全球相关企业超过二十年的以太网测试经验，我们的突破性工作涵盖了与超大规模公有云服务商、数据中心提供商、电信运营商、企业、政府和军方、网络设备提供商以及全球芯片组原始设备制造商的合我们的见解和预测基于在塑造高速以太网市场的交易、战略和创新中的宝贵视角。这包括思博伦在2023人工智能（AI）的进步意味着无处不在的更多以太网随着所有人的目光都聚焦在人工智能（AI）的力量和前景上，或许从未有过如此大的压力去更快行动、突破速度界限，并在这个市场中不遗余力地追求每一个可用的竞争优势。传统的数据中心北-南流量策略正在迅速让位于东-西策略，以服务于急剧扩大的市场基础。利益相关者正在开辟新路径，并涉足未经证实的领域，试图从现有技术中挤出更多容量以提高性能。如今，变化的速度正超越标准更新的能力。企业没有等待未来的发展就取得了进步，而电信运营商也摒弃了传统策略，以在在思博伦首份涵盖这一动态市场的报告中，我们自豪地呈现了对关键驱动因素、市场影响以及我们对未来22高速以太网市场动态数据中心与人工智能（AI）网络演进数据中心网络市场洞察企业有线网络44端口速度持续演进，各级速度的采用率依然强场已着眼于1.6T以太网，以期最早于明年就能抓住由人工智能驱动的机遇。（我们的配套报告《让1来源：Dell'OroGroup来源：以太网联盟EthernetAlliance55新兴市场新兴市场增长市场超以太网传输51.2T交换机芯片和SerDEs汽车以太网数据中心网络连接的以太网成熟市场有云服务商引领，以通过提供51.2Tbps的交换机来支持数据中心的人工智能。800G提供更高的带宽、更低的时延、更高的能效以及更多的连接，使数据中心互联在未来数年内具备前瞻采用趋势正在从超大规模公二级和三级云提供商以及大型电信运营商，用于IP核心升级。大型企业将400G视为具有前瞻性的技术，它提供了一条更简单且成本更低的路径，以实现向800G及对基于以太网的标准IP网络算）的需求日益增长，最初的重点是放在基于融合以太网的远程直接内存访问（RoCEv2）上，并预计将逐步向新的超以太网传输增长正在推动1.6T以太网的研究。尽管IEEE802.3dj标准将于2026年最终确定，但2024年的基线功能使得芯片、光组件和收发器的早66严酷的气候。数几百英尺深的海底。为了追求前所未有的性能和数据中心是先进高速以太网（HSE）解决方案的关键市场，这是由支持日益增长的人工智能（AI）流量和网络需求的必要性所驱动的。人工智能的影响不容小觑，它正在彻底改变数据中心和互超大规模公有云服务商面临着满足激增需求的巨大压力。短短几参数增长到如今的万亿级别（GTP-4的参数量预计达到1.76万亿）。集群规模每两年增长四倍。网络带宽已达到每个加速器超77的Llama3训练集群将容纳24,576个GPU。这相当于每的Llama3训练集群将容纳24,576个GPU。这相当于每个机架配有16个GPU，每个集群配有1,536个服务器机算机正在集成约26,000个NvidiaH100Amazon正在将每个UltraScale集群的规模扩大至Oracle的OCI超级集群在4,096个计算裸金属实例中扩展至多达32,768个Nvidia增长规模令人惊叹，分析师估计，2024年将有超过220万个图形处理单元（GPU）用于数据中心的人工智能处理，每个GPU的成为了实现可持续发展目标和保持盈利能力，对人工智能数据中心进行有效且高效的能源管理至关重要。麦肯锡公司预测，到2030年，数据中心的耗电量将达到35吉瓦，足够为2620万个家Microsoft微软目前已拥有超过60万个GPU，并计划到2024年底将规模扩大至Microsoft微软目前已拥有超过60万个GPU，并计划到2024年底将规模扩大至*注：EPRI，《为智能供电：分析人工智能与数据中心能源消耗88生成式人工智能（GenAI）正迅速成为数据生成式人工智能（GenAI）对数据中心和工作负载的影响如此之大，以至于超大规模公有云服务商必须采取两种策略之一：要么构建一种架构，能够既能处理当前云和企业工作负载，也能处理人工智能工作负载（谷歌的做法），要么彻底重新设计人工智能数据中心提供商必须发展其架构，以应对每两年增长十倍的人工智能流量，以及管理模型参数快速增长所需扩展到数万个加速器一种名为“后端网络”的新型网络应运而生，其唯一目的是处理GPU之间的数据传输。虽然传统的前端以太网网络必须扩展以容纳庞大的模型训练数据集，但后端网络才是承受由处理新数据集的人工智能推理工作负载不断升级的主要部分。这些后端数据中心训练工作负载需要大量的GPU或其他xPU硬件加速器来扩展人99在大型GPU集群中连接这些加速器节点需要一个后端数据中心网络结构，这与主要用于后端基础设施需要一个独立、可扩展、可路由的网络，以互联数Spine-Leaf网络架构正被采用以满足人工智能训练和推理中普遍存在的东-西流量后端网络需求。这一架构将传统的数据中心三层拓扑结构扁平化为两层结构，提供了更高的带宽利用率、更大的可扩展性、更低的时延、可预测的网络时延以及并行性。Spine层包括用于路由和转发的交换机，这是网络的骨干。Leaf层包括用于连接计算节点（GPU、CPU等）和存储系统（SSD、HDFS等）的交换机。人工智能后端网络作为一个高性能、可扩展且可靠的网络基础设施运行，经过优化以处理人工智能工作负载的苛刻要求，确保高效的数据处理、模型训练和推理。将每台将每台GPU训练结果产生的大象流（LargeElephantFlow）传输量发送到集群中极低且确定的时延以及无损数据包传输，这对于时延敏感的前端推理至关重要，同分布式训练工作负载需要并行技术来跨节点同步东西向数据“亿美元，并在2028年之前以27.1%的年均复合增长率增长。”⸺GARTNER®数据中心仅仅通过增加更多机架来满足这些需求是不切实际的。2023年期间，领先的数据中心提供商将资本支出增加了6%至13%，以建设人工智能基础设施（xPU集群）和xPU互联架构，鉴于人工智能训练对时延和丢包的零容忍，以及大量数据在大象流中交换，数据中心架构正在不断发展，以实现后端网络xPU集迄今为止，用于人工智能训练的高速网络一直是基于专有、无损的InfiniBand的远程直接内存访问（RDMA但现在人们越来越关注将以太网（一种被广泛采用的开放标准）用于此用途。与InfiniBand相比，以太网降低了成本和复杂性，并且没有可扩展支持基于融合以太网的RDMA（RoCEv2它能够在以太网设无损以太网的发展，带来了先进的流量控制、改进的拥塞处理以超级以太网联盟（UEC）的成立以及业界对UEC的支持不断增加，重点关注为高性能AI和高性能计算（HPC）网络优化以太网的架构。UEC正在合作制定超级以太网传输（UET）规范，以提升基于以太网的远程直接内存访问（RDMA）操作，对AI和HPCNVIDIA的新Spectrum-X以太网网络平台，该平台包括其Spectrum-X为数据中心提供了NVIDIAInfiniBand技术的以太网方案，旨在简化使用以太网网络的企业AI基础设施。该解决方案由思科的6000系列交换机组成，用于Spine和Leaf节点，提供传统的AI数据中心互联架构性能测试需要在实验室操作真实服务器和GPU，并配置测试鉴于GPU的购置成本高昂、交货周期长，以及相关的能耗和所需场地空间，这种方法极其昂贵。例如，一个基本的测试实验室可能包含基于数百次高速以太网部署参与和洞察，思博伦正在追踪以下G数据中心G•超大规模公有云服务商正迈向100G至400G更新周期的后期阶段，并开•400G因其更长的使用寿命、更简单的升级至800G的路径、更高的传输未来演进数据中心通过IEEE802.3dj标准，未来1.6T以太网标准的相关工作仍在继续，预计未来演进数据中心通过IEEE802.3dj标准，未来1.6T以太网标准的相关工作仍在继续，预计预计802.3dj工作组将在今年完成一组基本功能的•受人工智能对数据中心互连架构的影响驱动，800G的早期发展势头将随着GPU托管服务器从支持8个到16个乃至更多GPU的演进而加速。•测试时间表显示，在51.2Tbps交换机可用后，超大规模公有云服务商将在2024年底开始刷新周期。其余市场将在2025年及以后跟进。•早期的测试参与情况表明，超大规模公有云服务商的800G部署正在从•随着IEEE802.3df标准的批准，早期800G以太网技术联盟（ETC）标准和标准化互操作性问题已得到解决。400400Gbps800Gbps 端口出货量超过5000万线性驱动可插拔光学器件（LPO）越来越受到关注，以降低数据中心不断上升的功耗、成本和时延。采用线性驱动光学器件，交换机可直接驱动模块光学器件，从而省去了数字信号处理器（DSP），并将模块的功耗降低了一半。然而，对于可能需要虽然LPO提供了降低功耗的诱人可能性，但其技术成熟度仍处于早期阶段，因此预测其能否在市场上广泛采用还为时过早。和OIF发布能够实现供应商之间兼容性的规范之前，市场采用仍将虽然LPO提供了降低功耗的诱人可能性，但要预测大规模的市场思博伦支持H3C完成了业界首次大规模高密度800G以太网测试，测试规模高达64个系列是新一代800G数据中心交换机，旨在处理由人工智能生成内容（AIGC）大规模工作负载。这些800G交换机采用共封装光学（CPO）技术，将硅和光子学集思博伦测试结果显示，总交换容量高达51.2T，所有64个端口在不同流量下均实现了思博伦对H3C800G以太网交换机的开创性验证彰显了其无与伦比的可靠性和性能，为高密度、AI驱动的数据中心网络树立了新标准。业界首个用于数据中心网络的以太网AI流量模拟平台在2024年Interop东京展上，思博伦荣获三项“最佳展示”奖项，其中包括一项“大奖”，该奖项表彰了其突破性的AI流量模拟解决方案，该方案能够通过以太网AI模型对带宽的需求前所未有，推动数据中心从400G向800G，乃至最终的1.6T速度过渡。这一快速演进对于满足庞大的数据需求至关重要。然而，与传统的数据中心相比，AI数据中心需要采用不同的方法。认识到这一点，思博伦开发了新的测试为了成功部署AI数据中心，思博伦倡导“信任但验证”的方法，对网络结构进行全面的压力测试，以识别和缓解潜在的瓶颈。这种主动测试确保了对于AI操作而言至关重要且成本高昂的GPU不会因网络问题而闲置。传统测试器无法模拟AI流量模式。而思博伦的解决方案能够模拟AI对高带宽、低时延的需求，从而在部署前提供思博伦测试解决方案有助于确保800G部署和AI工作负载的合规性、性能、互操作性、灵活性和可扩展性。自动化测试降低了网络测试的复杂性，并简化和加速了迈向1.6T的路径。通过模拟逼真的AI工作负载，思博伦帮助客户对其网络基础设施建立信心，从而最大化效率并最小化昂贵中断的风险。思博伦积极参与并贡献于OFC2024盛会，展示了其全新的B3800G设备⃞一款高密思博伦携手十多家生态系统合作伙伴，展示了其屡获殊荣的800G测试平台，该平台可验证采用各种互连技术的最新高速网络解决方案和设备的可靠性、性能和互操作性。例子:例子:迄今为止，电信运营商最初通过引入5G非独立（重点放在了无线接入网（RAN）和边缘传输网络上。现在，随着它们向5G独立（SA）过渡，重点已转向IP核心网部署。5G流量的增长正推动一波IP核心网络升级到400G以降低成本。400G还提供更高的每端口速度和更低的能耗，减少了所需端口和机架空对于正在向400G演进的运营商而言，QSFP-DD外形尺寸目前正不断增长的5G流量和越来越多的5G无线接入网部署正在触发对蜂窝和汇聚站点更高容量和更高速度的需求。这正在推动传输网络从1G升级到10G甚至25G（用于蜂窝站点互联），以及在边缘线电链路，以及需要100G或更高连接来连接中央单元（CU）的需求。如今，大多数虚拟分布式单元（DU）也配备了100G网络运营商仍然专注于向400G的过渡，但意识到随着AI和5G向5GAdvanced及6G的演进带来的更高带宽需求，未来几年内他们需这导致许多运营商要求供应商确保400G升级周期将具备800G就绪能力，以便在三到四年内实现无缝更新。落后的跟随者甚至可随着运营商商努力采用AI/ML（包括第三方应用程序托管业务的），AI/ML处理将在电信网络中高度分布，推理主要发生在各种边缘位置，包括蜂窝站点或集线器站点的远端边缘、汇聚站点的中端由于用例对实时低时延的需求，以及大多数边缘位置只需要托管较小的预训练模型（与需要更多存储和计算开销的集中式数据中心位置相比）这一事实，推理在边缘位置更加相关，而训练和学随着边缘推理用例的增长，大量AI流量将遍历边缘位置，这促使早期预测表明，边缘位置可能需要大幅增加容量，其中远端边缘利用未来几年即将投入使用的新技术，电信网络正在物理层进行运营商正专注于网络切片的传输基础设施，尤其是针对批发和企业私有网络产品。目前正在测试和提供两种切片方式：一种是用于关键任务服务的专用、隔离的硬切片，另一种是用于共享服务（如VPN）的灵活、按需的软切片。能力的混合组合被视为提供硬切片正在进行测试，采用的技术主要是通过ODUflex提供的光通道灵活性和新兴的FlexE（使用以太网来灵活利用光传输带目前，软切片正在使用多协议标签交换（MPLS）结合段路由流量工程（SR-TE）技术以及虚拟局域网（VLAN）。随着SR-TE演变为具有灵活算法（Flex-Algo）的IPv6段路由（SRv6），运营IPv6及IPv6上的段路由（SRv6）的引入市场趋势，当前在新建网络（greenfieldbuilds）中备受青睐。IPv6通过减少路由跳数和提高网络可靠性，简化了有线网络的管理。它还使流量能够快速重新路由到替代路径，这对于运营商至尽管在多网融合（brownfield）站点中，MPLS仍然受到青睐，但运营商正在制定发展计划，其中包括对MPLS和IPv6的混合支传输层物理层SRvSRv6/FlexECentralCentral纤维纤维微波微波为了为推动IPv6、云、5G和智能网络能力的演进，中国移动在骨干网、城域网、云网络和SD-WAN网络中开发并部署了IPv6上的SRv6网络通常由数十台核心路由器、数百台汇聚路由器和大量接入交换机组成。在实验室中复制这些复杂网络的成本和时间是巨已经增加到无法接受的程度。例如，在测试准备阶段，需要进行数千次状态检查，以确认环境是否符合测试要求。之后，还要运中国移动需要一种自动化且简化的测试解决方案，以真实地模拟和测试多种SRv6网络场景，包括代表性流量的生成、网络事件场景和网络状态的再现。该解决方案还需要支持网络可扩展性要求，随着流量的增加，确保在网络收敛、连接更改和路由更新过思博伦与中国移动及第三方网络设备供应商合作，开发了一个基于Web的IP网络数字孪生平台。思博伦的IP网络数字孪生平台提供了1:1的模拟/仿真能力，能够再现数百种网络属性、协议、事件和服务，并支持在单一拓扑网络测试环境中对数百台网络设备和数千个网络连接进行支持。该数字孪生平台包含了思博伦创新的TestCenter网络流量生成器和协议仿真器，支套的网络仿真硬件，以模拟真实世界的网络条件，包括故障和对中国移动保持了网络的稳定性，并更有效地管理了不具体来说，中国移动受益于可操作的实时分析，该分析提供了多维度网络信息，以及“所见即所得”的交互式仿真，通过逐步向导界面加快测试周期和收入实现时间。通过网络测试仪、网络故中国移动保持了网络的稳定性，并更有效地管理了不思博伦的高速以太网业务在高速以太网方思博伦的高速以太网业务在高速以太网方面的合作显示，企业正在越来越多地利用以太网网络来构建企业数据中心和校园交VPNVPNSaaSInternetSaaSInternet企业以太网网络心越来越有兴趣逐渐过渡到200G和400G以太网交换机骨干和结构。由于供应可用性、每比特成本价值、需求等因素，我们预计校园网通常使用10G作为校园核心层和汇聚层，但25G和100G在在接入层，1G仍然占主导地位，但随着网络从802.11ac升级到我们也看到了对新的细分市场⃞校园网即服务（CNaaS）的兴趣，新的参与者专注于提供具有成本效益的网络、增值服务和创企业网络安全市场是巨大的，下一代防火墙和网关的广泛测试目我们看到远程工作和云应用的持续增长正在推动安全服务边缘下一代防火墙接口是企业数据中心的主要关注点。随着连接的远主要银行确保供应商中立的业绩和合规性世界上最大的银行之一选择了思博伦，以确保网络的超高可靠性。思博伦利用高速以太网测试设备和专业知识，为新基础设施开发了一美国一家大型银行与思博伦合作，为新的高速以太网基础设施开发了一个供应商中立的验证程序。该程序显示，当多个端口被使用时，一些供应商的交换机无法提供完整的100G线路速率。综合测试确定了在仍然实现全线速率的情况下可以启用的最大端口数，从而启用银随着网络设备数量的增加，这家国际银行难以在所有设备和供应商组合中执行法规遵从性测试。思博伦自动化了测试环境，部署了第1层交换结构，允许测试平台和相关设备远程供电、自动配置并用于执行测试。现在，该银行以更少的资源将测试平台的速度提高了300倍，能耗降低了40%，并且可以24/7运行自动化测试，以确美国最大的银行之一需要部署新的人工智能服务，并委托了一个AI数据中心。思博伦TestCenter使银行能够测试400G交换机的性能特征，并有机会增加800G，以及一家总部位于美国的金融交易所正在进行由公共和私有服务混合组成的多年云迁移线速率测试，包括数据包丢失和往返时延测量，以确保与多个交易实体在连接延迟思博伦凭借最新的100G和400G以太网测试解决方案，帮助银行确保实现超高网络性能和合规目一家领先的基于云的游戏服务提供商在通过顶级云提供商的平台交付游戏时遇到了高时延问题，并努力确定根本原因。游戏服务使用思博伦专家和高速以太网测试解决方案来增强其内部测试能力，识别高时延的潜在来源，并帮助开发最佳实践来最大限度地减少这些来源。因此，游戏提供商显著改善了其产品在生产云平世界上最大的游戏提供商之一需要确保其服务的最终用户获得最佳体验。他们希望确保在提供直播服务之前，对其网络的任何更改都经过彻底的测试和审查。游戏供应商与思博伦公司合作开发了一个基于实验室的测试环境，该环境忠实地再现了现实世界的协议、设备和流量负载。通过对高速以太网设备和流量的全面仿真，游戏提供商可以全面验证新的以太网基础设施确保高质量的思博伦通过全面的网络测试和仿真，帮助将游戏时延降至最低。高速以太网市场的创新步伐正在以前所未有的速度加快，创新周•首个标准预计于2024年末出台，首批思博伦在以太网测试领域拥有几十年的专业经验，在支持高速以太网创新方面享有全球声誉。最近，思博伦更是加速了