基于OTN传输网的任务式数据搬移技术白皮书-2023.10

基于

OTN

传输网的任务式数据搬移技术白皮书ODCC-2023-03006[编号

ODCC-2023-03006]基于

OTN

传输网的任务式数据搬移技术白皮书开放数据中心委员会2023-09

发布1基于

OTN

传输网的任务式数据搬移技术白皮书ODCC-2023-03006版权声明ODCC（开放数据中心委员会）发布的各项成果，受《著作权法》保护，编制单位共同享有著作权。转载、摘编或利用其它方式使用

ODCC

成果中的文字或者观点的，应注明来源：“开放数据中心委员会

ODCC”。对于未经著作权人书面同意而实施的剽窃、复制、修改、销售、改编、汇编和翻译出版等侵权行为，ODCC

及有关单位将追究其法律责任，感谢各单位的配合与支持。1基于

OTN

传输网的任务式数据搬移技术白皮书ODCC-2023-03006编写组项目经理：房梽斅工作组长：王超中国移动通信集团公司阿里云计算有限公司贡献专家：程宇中国移动通信集团公司中国移动通信集团公司中国移动通信集团公司中国移动通信集团公司中国移动通信集团公司中国移动通信集团公司中国移动通信集团公司中国移动通信集团公司中国移动通信集团公司中国移动通信集团公司中国移动通信集团公司华为技术有限公司肖爱元储琴琴许豪豪黄鑫董少杰王祎晨韩涛刘丹鲁博张久仙李从奇任志清袁国涛王少鹏孙聪华为技术有限公司华为技术有限公司中国信息通信研究院中国信息通信研究院2基于

OTN

传输网的任务式数据搬移技术白皮书ODCC-2023-03006前

言随着新技术革命和产业变革，行业数字化升级进入深水区，数据量和跨域快速搬运需求呈爆炸式增长。现有网络采取的静态预部署方式难以满足周期性突发海量数据绿色高效传输需求。这不仅制约了海量数据在行业中的深度应用，也难以支持数据中台能力孵化、科研与数据密集型业务的需求。为皮胚数据高速增长，我国政府、企业等各组织单位陆续开展各级网络建设。其中最典型的

2022

年全面启动的“东数西算”工程。这是我国首次从战略层面对算力网络提出的顶层规划蓝图，是我国数字经济高质量发展的必然要求。东数西算战略要求数据能够按其所归属的业务特点能够灵活流动。相应的承载网络也应该具备灵活调度能力，打破传统静态组网方式，提升网络资源利用率，全面支撑国家战略落地。中国移动积极响应国家号召，并针对中国移动

IT

云数据中心节点间

TB/PB

级海量数据快速搬运导致的网络峰值带宽诉求高、闲时带宽利用率低现状，通过构建大数据调度平台、算网编排中心（含OTN

网络调度）、传输网网管、云管平台、NCE-T

等编排调度子系统协同架构，提供“业务编排、削峰填谷，降低链路峰值带宽需求”、“无同步任务时，物理链路动态拆除”和“按需动态调整链路带宽”功能，具备对数据中心间互联的物理网络资源实施任务式带宽调整与连接动态拆建能力，实现一份物理资源多局向错峰使用、降低峰值时段带宽资源诉求、提高物理网络资源利用效率的目标。3基于

OTN

传输网的任务式数据搬移技术白皮书ODCC-2023-03006本技术创新可以为科研、传媒等行业存在的任务式跨域海量数据快递需求提供优质可靠的解决方案，预期效果显著，而且支持高扩展性、高集成性以及标准化的技术和管理体系，支持

IT

服务与政企行业商业推广。4基于

OTN

传输网的任务式数据搬移技术白皮书ODCC-2023-03006目

录版权声明

...........................................................

1编写组

.............................................................

2前

言

.............................................................

3一、

背景

..........................................................

6（一）

中国移动

IT

云网络现状及局限性

............................6（二）

中国移动

IT

云面临的挑战

..................................7（三）

中国移动

IT

云算力网络目标愿景

............................8二、

中国移动

IT

云应用式错峰调度技术

..............................

10（一）

云池间

OTN

互联链路分时复用

..............................11（二）

云池间

OTN

互联链路带宽动态调整

..........................12（三）

按云池业务需求敏捷配置汇聚型业务

........................13（四）

品质链路随流检测

........................................14三、

中国移动

IT

云任务式数据搬移技术实践方案

......................

15（一）

中国移动

IT

云任务式数据搬移技术组网方案

.................15（二）

中国移动

IT

云任务式数据搬移技术成效

.....................161．

错峰编排海量数据搬移任务降低峰值时段资源诉求

...........

162．

动态拆建与无损调节能力提升物理资源利用率

...............

173．

从传统的“资源型售卖”向“任务式服务”演进

.............

20四、

方案应用及技术展望

...........................................

21（一）

方案应用

................................................21（二）

技术展望

................................................225基于

OTN

传输网的任务式数据搬移技术白皮书ODCC-2023-03006一、

背景（一）中国移动

IT

云网络现状及局限性现有资源池间互联网络采用长周期静态连接专线方式，其烟囱式资源配置与管理机制缺乏灵活性，因

IT

云应用周期性、间歇性特征和云池间流量的峰谷效应，导致编排器的资源分配方式越来越复杂、资源分配效率持续降低。如图

1

所示为现网资源池间互联链路流量统计数据，各资源池入口链路峰均比都比较高，如图

2

所示为H1

池流量峰值比达到

7.2，这意味着空闲时段网络轻载严重，物理链路资源严重浪费。图

1

现网资源池间互联链路流量统计数据图

2

现网资源池间互联链路流量峰值比6基于

OTN

传输网的任务式数据搬移技术白皮书ODCC-2023-03006但

IT

云网络规模的不断增大，资源池间每天、每周、每月都会产生巨量运营数据，这些海量数据需要周期性、间歇性的集中迁移到集团级

IT

云资源池进行集中数据处理，导致峰值时段对网络资源诉求较高，而低估时段配置的网络资源存在较大比例的闲置，形成云池之间的网络资源存在“高”峰均比现象，导致网络资源平均利用效率较低，迫切需要一个创新方案来解决忙时峰值带宽高、闲时资源利用率低的困局。（二）中国移动

IT

云面临的挑战IT

云资源池间数据搬移存在海量数据周期性和跨域限时传输的特点，传统静态组网方式存在峰值带宽资源紧张、资源利用率低、跨算力运力调度困难等问题，如图

3

所示。为落实解决

IT

云池间数据敏捷传输、高效吞吐，迫切需要任务式编排、弹性伸缩、物理隔离的灵活传输方案，破解当前困局。图

3

跨云资源池数据突发业务面临的挑战如下：7基于

OTN

传输网的任务式数据搬移技术白皮书ODCC-2023-030061、海量数据搬移导致网络带宽资源紧张，传输速率难以满足海量数据迁移需求；2、网络资源静态部署，配置不均衡，域间和分时资源利用率差异大；3、算力运力异构，统一调度困难，协调成本高。基于以上挑战，首次提出算力网络任务式大数据搬移构想，通过从应用层进行任务式编排和算网协同能力，对资源池间应用算力和运力资源进行双向编排，实现运力网络按需调整、动态拆建，自上而下调度算力、网络资源，并根据需要自动拆建网络资源，提升全网资源利用率，实现网络资源的高效利用，降低传输资源诉求，提高搬移任务编排效率，且率先为中国移动东数西算、东数西训、东数西存、东数西渲等典型场景探索、打造任务式的算网资源供给服务，对任务式服务的商业模式和技术方案具有重要的探索意义。（三）中国移动

IT

云算力网络目标愿景中国移动

IT

云结合集团“东西平衡、全局协同”的算力布局总体目标，落实“业务分级、算力分布、一体供给、全局服务”的业务布局蓝图。为实现集团级

IT

云集群的高效、敏捷集中运营优势，结合算力布局目标的落实，中国移动提出构筑数据、算力、存力、运力资源的“任务式”协同架构，打造以应用为主线的资源任务式分配、以资源为约束的应用任务式编排、以算运为手段的任务式联合调度、以光网为基础的任务式动态拆建、以智能为引擎的任务式8基于

OTN

传输网的任务式数据搬移技术白皮书ODCC-2023-03006自动适配五大“任务式”能力，全力支持

CHBN

全向发力、业务高质量发展。1、以应用为主线的资源任务式分配建立统一的大数据调度平台，支持统一的

IT

云应用资源分配，从顶层应用上对资源进行整体安排，减少多应用之间的资源冲突和干扰，规避无序资源浪涌，从而实现高效利用。2、以资源为约束的应用任务式编排建立算力、运力、存力、数据等资源的日历地图，实现可用资源可视化，并在资源约束条件下对应用进行任务式编排，实现应用对资源的有序访问，保障应用的资源充足供应。3、以算运为手段的任务式联合调度根据应用诉求，打通算力、运力、存力、数据壁垒，实现异构多资源的联合编排，实现算力、运力、存力等资源的同开同停，同拆同建，通过资源一致性分配，避免资源无序浪费。4、以光网为基础的任务式动态拆建感知应用的数据调度诉求，依托

OTN

光网的“大带宽、高吞吐、低时延、低能耗”强大能力，打破传统

OTN

光网的静态资源分配模式，构建任务式动态拆建能力，实现数据中心之间资源的按需配置和高效利用。5、以智能为引擎的任务式自动适配9基于

OTN

传输网的任务式数据搬移技术白皮书ODCC-2023-03006引入智能管控技术，统计资源访问规律，预测资源诉求，为应用和资源的编排、调配提供自动适配机制，既满足应用的敏捷诉求，同时保障资源的高效访问。二、

中国移动

IT

云应用式错峰调度技术针对

IT

云资源池间大量数据搬移导致的网络峰值突发需求高，链路整体利用率低的情况，利用

OTN

网络独有的超大容量吞吐和稳定的低时延能力，开展海量大数据搬移创新。通过横向打通资源池内网络与

OTN

广域网络，纵向打通数据调度平台、算网编排中心和传输工作台，基于此重点技术创新和业务创新实现四个目标：1、海量数据搬移任务错峰算网编排，降低忙时峰值时段网络资源诉求；2、通过链路灵活拆建技术释放闲时资源，即低谷时段动态拆建，提高资源利用率；3、运用网络智能可视化技术，实现运力资源智能控制和资源动态优化分配；4、推动“资源型售卖”向“任务式服务”演进。基于全光运力的超大带宽、超低时延、安全可靠等优势，通过数据调度平台、算网编排中心、云管平台等编排调度子系统协同，构建一体化的运力体系，打造任务式编排、弹性灵活伸缩的数据传输通道，实现算网协同，按需灵活为海量数据提供大颗粒、低时延、10基于

OTN

传输网的任务式数据搬移技术白皮书ODCC-2023-03006高可靠、可承诺的传输服务，支撑云间海量数据周期性高品质跨域搬移需求，如图

4

所示。图

4

任务式数据搬移关键技术整体架构图（一）云池间

OTN

互联链路分时复用通过算网编排技术，使云池间

OTN

互联链路分时复用，达到算网链路按需时段动态拆建，全生命周期如图

5

所示。图

5

云池间

OTN

互联链路分时复用全生命周期1、发起创建

T1

时段云池间链路：编排系统通知

NCE-T，需创建从中心云池

A

与中心云池

B

的数据同步链路，链路带宽为

1Gbps。11基于

OTN

传输网的任务式数据搬移技术白皮书ODCC-2023-03006算网编排系统启动生命周期定时器，定时时长为用户设置的链路生存期。2、创建

T1

时段云池链路：NCE-T

驱动创建中心云池到郑州云池间的

P2P

专线，链路带宽为

1Gbps；3、T1

时段云池链路到期通告：生命周期结束，编排系统通知NCE-T，发起资源池

A

至资源池

B

链路删除；4、删除指定链路：NCE-T

收到删除通告，发起中心云池至郑州云池的专线删除操作，删除链路；（二）云池间

OTN

互联链路带宽动态调整业务驱动系统承载需求发生变化时，通过编排系统能够驱动网络链路带宽同步调整，调整结果满足业务系统变化后的需求。动态调整全生命周期如图

6

所示。图

6

云池间

OTN

互联链路带宽动态调整全生命周期12基于

OTN

传输网的任务式数据搬移技术白皮书ODCC-2023-030061、IT

云管平台发起带宽扩容：因临时要同步

10GB

日志至中心云池，但传输时段不变，IT

云管平台将此突发需求通告给算网编排系统；2、计算新增链路带宽：算网编排系统根据新增传输数据量10GB，计算剩余生存周期，计算出此专线应扩充的链路容量；3、专线带宽扩容通告：编排系统通知

NCE-T，发起中心云池

A至中心云池

B

现有专线链路带宽扩容；4、扩容指定专线：NCE-T

收到扩容通告，发起中心云池

A

至中心云池

B

的

P2P

OSU

专线扩容操作。（三）按云池业务需求敏捷配置汇聚型业务通过算网编排技术，解决传统专线需手工逐一配置业务的低效问题，以及受限于业务层

vlan

ID

规划限制的问题，按云池业务需求敏捷配置汇聚型业务全生命周期如图

7

所示。图

7

按云池业务需求敏捷配置汇聚型业务全生命周期13基于

OTN

传输网的任务式数据搬移技术白皮书ODCC-2023-030061、获取云池

DC-GW

端口配置：IT

云管平台查询全网云池

DC-GW的端口

vlan

ID、IP

地址等端口信息；云管平台将端口信息上报给算网编排系统。2、云池信息同步到网络控制器：算网编排系统将云池

DC-GW

端口配置信息同步至网络控制器；3、云池互联链路发起创建：编排系统向

NCE-T

发起创建中心云池至郑州云池以及中心云池至宁波云池的长期类型互联链路，含链路带宽信息。4、创建指定云池间链路：NCE-T

驱动创建中心云池至郑州云池间和中心云池至宁波云池的

P2P

OSU

专线，共

2

条；5、构建基于云池

DC-GW

端口信息的映射表：基于各云池

DC-GW端口信息和

OSU

隧道链路信息，OSP-R

绑定

OSU

链路与各云池

DC-GW端口的映射表。（四）品质链路随流检测品质链路随流检测是指针对极重要业务，验证业务级随流检测功能的实时性、准确度和精确度，品质链路随流检测全生命周期如图

8

所示。14基于

OTN

传输网的任务式数据搬移技术白皮书ODCC-2023-03006图

8

品质链路随流检测全生命周期1、使能目标链路随流检测：NCE-T

在

OA

和

OE

设备上使能针对目标业务的随流检测功能；2、设备周期性主动上报检测数据：OA

和

OE

节点周期性上报目标业务的报文计数、时延测试结果等信息给

NCE-T；3、目标业务检测结果实时展示：基于设备周期性上报的业务随流检测数据，NCE-T

可视化方式实时展示目标业务的“流量”、“丢包数”、“丢包率”、“时延”等链路质量信息。三、

中国移动

IT

云任务式数据搬移技术实践方案（一）中国移动

IT

云任务式数据搬移技术组网方案为验证

OTN

传输网的任务式调度方案，基于

IT

云现有网络架构，搭建基于

OTN

大网的静态资源，并在云池内部署虚拟机，安装iperf

测试软件，在连接建立后使用

iperf

发起流量模拟真实业务15基于

OTN

传输网的任务式数据搬移技术白皮书ODCC-2023-03006测试网络连通性及传输效率，连通后采用真实业务测试方案功能，如图

9

所示为本次测试方案的组网架构示意图。图

9

IT

云测试方案组网架构示意图算网编排系统可从

IT

云管平台感知各

IT

云资源池容量负载与性能、驱动云配置的能力，也可从

NCE-T

平台感知

OTN

网络的性能、告警数据、驱动网络配置的能力，且

underlay

传统网络按需组网要求完成静态链路创建和预留好带宽。（二）中国移动

IT

云任务式数据搬移技术成效1．错峰编排海量数据搬移任务降低峰值时段资源诉求打破传统的以业务维度的网络带宽的静态分配模式，创新引入任务式动态调度模式，统筹批量任务，实现错峰编排。构建算网编排中心，感知业务传输需求及网络承载能力；大数据调度平台与算网编排中心协同，错峰编排

IT

海量数据传输任务；以任务式调度模式，驱动云管平台及传输工作台，实现业务分流，将大流量业务分流至

OTN

平面。主要包含

4

个功能：(1)

业务传输需求感知16基于

OTN

传输网的任务式数据搬移技术白皮书ODCC-2023-03006算网编排中心北向承接数据中心应用和大数据平台的云间传输需求，获取业务信息、业务数据量、预计调度时间段等关键传输需求信息，形成业务传输任务池。(2)

云网融合感知算网编排中心自动感知多平面网络资源、云资源，以及云网对接关系，形成云网统一资源拓扑，构建云网统一资源视图。(3)

业务错峰编排基于总量预算，对任务池中的多传输任务，按优先级、数据量、截止时间等多因素进行统筹编排传输顺序和时长，实现网络资源的多局向错峰使用。(4)

自动分流调度基于任务分析，驱动云管平台，自动调度

SDN

控制器下发基于目的地址的路由策略，进行高优先级路由配置，实现传输流量在OTN

传输网和

DCI

专网之间的灵活切换。2．动态拆建与无损调节能力提升物理资源利用率传统光网络的资源都是“静态部署和静态分配”的，规划即部署，资源无法根据业务需要动态调度。本方案通过内置集成的传感器感知网络实时状况，通过运力地图建模向上开放光网络资源情况，17基于

OTN

传输网的任务式数据搬移技术白皮书ODCC-2023-03006针对规划、发放和维护三个阶段分别实现

OTN

光网络链路资源可视、链路动态拆建和灵活带宽调整，首创波分链路“任务式按需动态资源分配”，从而支撑了算网编排中心对光网络资源的任务式调度，如图

10

所示。图

10

算网编排中心对光网络资源的任务式调度示意图主要包含三项技术能力：(1)

链路动态拆建能力OTN

网络控制器自动发现并管理波分

OTN

网络的拓扑和链路资源状态，具备多因子、多约束自动算路、自动配置端到端连接功能。控制器开放北向服务接口给算网编排中心，使其可任务式驱动波分网络动态拆建资源池间高速互连链路，基于运力地图驱动传输链路按需调度。(2)

网络自感知能力18基于

OTN

传输网的任务式数据搬移技术白皮书ODCC-2023-03006OTN

网络控制器通过系列化创新探针功能自动发现网络节点与拓扑、感知链路资源状态与故障状态、自动测量链路连接时延。并对

OTN

整网资源情况做统一管理，网络资源全局可视，通过带宽日历等功能对网络资源做全局编排，保障数据传输任务资源分配的合理性，提升资源全局利用率。(3)

网络带宽弹性能力OTN

网络支持网络带宽弹性能力，在数据搬移需求高峰期，可能需要对某条链路带宽进行弹性扩展。大粒度带宽调整需求（1G

以上）可以采用

ODUFlex

方式进行实现，小颗粒带宽无损调整需求未来可通过

fgOTN（fine

grain

OTN）技术来满足。以上述三大技术能力为基础，OTN

控制器可北向开放相关服务化接口能力。当有

IT

应用需要在资源池间同步海量数据时，由大数据调度平台发起，经由算网编排中心下发给

OTN

控制器，驱动

OTN网络临时创建源目资源池间高品质链路，包括可在数据同步过程中临时扩容实现链路提速。数据同步完后，由大数据调度平台驱动算网编排中心删除同步链路，释放本次数据同步占用的波道资源，实现物理链路资源即取即用、用完即释放，真正彻底提升物理链路资源利用率。19基于

OTN

传输网的任务式数据搬移技术白皮书ODCC-2023-030063．从传统的“资源型售卖”向“任务式服务”演进传统的网络资源出售模式，网络运营商主要按带宽、接入点等物理指标向客户销售网络资源和服务。这需要客户具有一定的网络技术知识，能够准确评估和表达自身的网络需求。且网络资源一旦出售，就被客户绑定，运营商很难进一步优化资源利用率。任务式服务模式下，网络运营商可以面向客户的真实业务需求进行编排，提供端到端的解决方案。不需要客户深入了解物理网络的技术细节，可以直接表达业务需求，由运营商根据需求动态调配网络资源，并在服务期内进行优化。这可以最大限度地提高网络资源的利用效率。相比物理资源出售，任务式服务可以为客户创造更大价值。因为网络运营商可以根据业务需求，选择最优的技术方案和资源配置，并在服务过程中持续优化，最终提供的不仅是物理网络，还包括更加符合业务需求的解决方案和服务。基于网络的原子化任务式服务能力，未来可以叠加算、存、应用的更多服务，为客户提供更多的任务式服务产品这也使客户可以更加专注于自身的核心业务。所以该项目方案的提出，对推动网络资源的运营模式从资源型售卖向任务式服务演进，如图

11

所示，实现资源高效利用和新的业务增长点，都具有重要意义。20基于

OTN

传输网的任务式数据搬移技术白皮书ODCC-20