XX移动信令共享云计算平台解决方案（完整版）

目录目录目录目录XX移动信令共享云计算平台解决方案目录TOC\o"1-5"\h\z\o"CurrentDocument"系统总体设计 1\o"CurrentDocument"云计算系统设计方案概述 1\o"CurrentDocument"系统基本功能 1\o"CurrentDocument"主要设计思想和设计目标、设计原则 1\o"CurrentDocument"信令共享平台的云计算解决方案 2系统的主要技术特点 3\o"CurrentDocument"系统总体构架 4\o"CurrentDocument"系统基本组成与构架 4\o"CurrentDocument"系统功能构架 5\o"CurrentDocument"系统总体构架与功能模块 9\o"CurrentDocument"系统基本功能与处理方案 11\o"CurrentDocument"信令CDR合成功能与处理方案 11\o"CurrentDocument"数据存储功能与处理方案 13\o"CurrentDocument"査询分析功能与处理方案 15\o"CurrentDocument"CDR订阅管理功能与处理方案 16\o"CurrentDocument"系统处理流程 17\o"CurrentDocument"系统互联与管理 19组网方案 19系统接口 20网络管理 21系统安全 23\o"CurrentDocument"系统可靠性与扩展性 24系统可靠性 24系统扩展性 25\o"CurrentDocument"系统设计性能 26信令流量处理能力 26\o"CurrentDocument"数据存储能力 26\o"CurrentDocument"查询分析计算性能 27\o"CurrentDocument"项目实施计划 28项目内容 28\o"CurrentDocument"成员分工及职能 31\o"CurrentDocument"项目管理制度 33工作流程 35工程进度计划 38\o"CurrentDocument"定制开发方案 40\o"CurrentDocument"系统设计实施与关键技术方法 44\o"CurrentDocument"系统软硬件平台 44\o"CurrentDocument"数据处理流程 44\o"CurrentDocument"信令合成处理子系统 45\o"CurrentDocument"信令处理集群系统框架与功能结构 45\o"CurrentDocument"信令处理集群负载均衡 47CDR合成处理 48\o"CurrentDocument"原始信令、CDR数据的存储管理 49\o"CurrentDocument"数据存储子系统 50\o"CurrentDocument"海量数据分布式数据存储构架 50\o"CurrentDocument"适应应用需求的混合存储策略 53HDFS数据存储 53Database数据存储 56\o"CurrentDocument"数据存储的可靠性 58数据压缩 59数据査询与统计分析子系统 61数据查询与统计分析系统基本构架 61\o"CurrentDocument"CDR査询功能与用户界面 62\o"CurrentDocument"KPI数据统计分析功能与用户界而 63\o"CurrentDocument"CDR专题分析与查询功能与用户界面 67\o"CurrentDocument"基于云方案的CDR数据查询索引与查询优化技术 68\o"CurrentDocument"基于分布式数据库的CDR查询索引处理方案 68\o"CurrentDocument"基于HDFS的CDR査询索引与査询优化技术 69\o"CurrentDocument"信令处理集群的可靠性与负载均衡设计 71\o"CurrentDocument"负载均衡处理机的单点失效容错处理 71\o"CurrentDocument"CDR合成处理机的单点失效容错处理 74\o"CurrentDocument"计算与存储集群的可靠性与负载均衡设计 75\o"CurrentDocument"计算与存储集群Master单点失效容错处理 75\o"CurrentDocument"计算与存储集群的负载均衡处理 81HDFS的可靠性设计 84MapReduce计算可靠性设计 86\o"CurrentDocument"查询统计计算可靠性与负载均衡设计 88\o"CurrentDocument"基于Zookeeper的单点失效和负载均衡设计 88\o"CurrentDocument"索引创建、查询分析并行计算任务的分发和调度 90\o"CurrentDocument"系统安全性设计 93\o"CurrentDocument"安全保障体系框架 93\o"CurrentDocument"云计算平台的多级信任保护 95\o"CurrentDocument"基于多级信任保护的访问控制 99\o"CurrentDocument"云平台安全审计 101\o"CurrentDocument"云计算综合安全网关 105\o"CurrentDocument"综合业务应用功能 109\o"CurrentDocument"拓扑管理 109\o"CurrentDocument"记录査询 109\o"CurrentDocument"信令承载分析 110\o"CurrentDocument"核心网分析 110\o"CurrentDocument"网络优化分析 110终端专题部分 111\o"CurrentDocument"专题分析 111\o"CurrentDocument"客户感知专题分析 112\o"CurrentDocument"系统自管理功能 112\o"CurrentDocument"信令数据处理功能 113\o"CurrentDocument"数据处理模块基本功能 113\o"CurrentDocument"多接口多协议关联分析 113\o"CurrentDocument"数据共享功能 114\o"CurrentDocument"信令数据订阅管理功能 114基于CDR/TDR信令数据的订阅 115\o"CurrentDocument"基于业务信令数据的订阅 116\o"CurrentDocument"基于指标数据的订阅 117\o"CurrentDocument"信令采集网关接入管理功能 117\o"CurrentDocument"数据存储功能 118\o"CurrentDocument"配置数据管理 118\o"CurrentDocument"基本功能要求 118\o"CurrentDocument"链路数据信息管理功能要求 118\o"CurrentDocument"接口质量监测功能 119\o"CurrentDocument"详细设备配宜清单 121\o"CurrentDocument"全网汇总设备淸单 121\o"CurrentDocument"共享层设备配置原则 122\o"CurrentDocument"存储设备配置说明 126\o"CurrentDocument"服务器配程说明 130\o"CurrentDocument"网络带宽需求计算 132\o"CurrentDocument"技术发展路标、产品规划及近期开发计划 134\o"CurrentDocument"云方案实施难度分析 136图表1信令共享平台云计算解决方案 3图表2信令共享平台的基本组成与构架 4图表3信令共享平台总体构架与功能模块图 10图表4信令合成处理系统架构 12图表5数据存储处理架构 14图表6CDR数据接入 16图表7CDR订阅系统架构 17图表8业务信令事件、指标、KPI 18图表9组网方案 19图表10系统间接口 20图表11分布式文件存储系统吞吐量指标 27图表12项目管理流程 29\o"CurrentDocument"图表13施工组织结构 31图表14项目实施计划及人员安排 38图表15工程进度安排 39图表16工程进度安排图 40图表17系统软硬件结构 44图表18订阅CDRKPI业务信令事件处理流程 44图表19存储CDR、KPI、网络指标数据处理流程 45图表20综合业务分析数据处理流程 45图表21信令集群物理分布 46图表22信令合成软件架构 46图表23信令处理集群负载均衡 47图表24CDR合成处理 48图表25原始信令存储数据流程 49图表26CDR存储流程 50图表27分布式计算流程 51图表28 Hadoop结构 52图表29 Hdfs结构 55图表30 HDFSNamenode> DataNode和客户端们之间的交互 56图表31 HDFS数据压缩与组织 60图表32数据査询子系统构架 61图表33统计分析子系统 61图表34用户界面图 62图表35CDR査询-详细解码 63图表36TD网优分析-短信分析 63图表37CDR数据（M0短信业务总次数） 64图表38详细解码 64图表39TD网优分析-切换分析 65图表40TD网优分析-切换分析 65图表42TD网优分析•寻呼分析 66图表42TD网优分析•主叫试呼次数CDR下钻 67图表43VIP分析 67图表44CDR査询索引方案 70图表45查询次数趋势图 70图表46负载均衡机分布如图 71图表47负载均衡机宕机预案 72图表48Master节点宕机预案 73图表49CDR合成处理单点失效容错处理 74图表50Master单点失效容错处理 75图表 51AvatarNodeO以Pimary启动过程 77图表 52AvatarNodel以Standby启动过程 78图表 53DataNode启动过程 78图表54AvatarNodeO宕机后的状态 79图表 55AvatarNodel切换为Primary过程 79图表 56AvatarNodeO重启过程 80图表57AvatarNode启动切换流程图 81图表 58Avatar体系架构图 84图表60作业提交 87图表 61JobTrackerO宕机 87图表62作业注销 88图表 63Zookeeper基本工作结构图 88图表64基于Zookeeper的查询分析计算单点失效和 90图表65CDR索引创建和合并并行任务调度处理框 91图表66KPI汇总统计计算并行任务调度处理框架 91图表67CDR专题数据计算并行任务调度处理框架 92图表68并发数据查询计算任务调度处理框架 93图表69基于深度防护战略的IATF模型 93图表70云部署模型的实现 94图表71多级信任保护 95图表72基于可信第三方的平台认证 96图表73主要因素平台证书 96图表74云存储安全子系统接口关系图 99图表75基于多级信任保护的多级访问控制流程 100图表76数据安全交换平台 100图表77云存储安全审计体系结构 102图表78安全日志审计系统结构图 104图表79Cloud-USG三种部署模式 106图表80全网设备汇总表 122图表81云方案设备表 125图表821000Mbps流量下的CDR话务计算模型 127图表831000Mbps流量下的存储需求模型 130图表84流疑模型下的存储需求 130图表85服务器实验室测试性能 131图表86流虽模型下的服务器配垃 132图表87应用层发展 135系统总体设计系统总体设计第］页第］页系统总体设计系统总体设计第］页第］页1系统总体设计1.1云计算系统设计方案概述系统基本功能本期工程的建设思路是，既满足中国移动总部规范，乂要紧密结合实际网络情况，提供一套适合移动集团当前管理模式，乂能适应今后发展的信令数据共享平台。系统的基本功能和性能如下：海量原始信令实时解析、合成CDR能够对流量超过48Gbps的全量原始信令流进行实时处理。海量CDR存储、计算能够存储PB级别的CDR数据，并完成各种复杂业务应用计算。PB级数据秒级査询能力：高效索引算法，智能化调度任务系统，满足秒级查询速度。秒级实时业务响应高效实时数据通道，对于像实时跟踪、告警等实时业务，提供秒级响应时间。主要设计思想和设计目标、设计原则设计思想：将海量数据分解到山大量X86架构计算机构成的低成本讣算平台上进行实时处理，依靠分布式云计算软件进行容错，从而提升移动网络海量信令数据分析的实时性和性价比。设计目标:利用中国移动计算资源池中的X86架构计算机，建立云计算平台,能够对流量超过48Gbps的信令监测流进行实时处理，提供CDR实时查询、专题分析和KPI分析等多种业务支持。系统具有可动态可伸缩性、高度容错性和响应实时性，达到较之传统方案有一个数据量级的性能价格比提升。设计原则：前瞻性技术与实际应用环境相结合本项LI是既是先进技术应用示范项LI,乂是工程实施型项LI。把握技术正确系统总体设计系统总体设计第第#页6云方案实施难度分析针对云方案中资源池的特点，经过认真分析评估，以下对云方案实施的难点问题进行了讨论，并提出了我们相应的解决方案。使用资源池计算类资源类服务构建云计算处理平台资源池讣算类资源服务包括物理机服务和虚拟机服务。应用系统管理人员可以在服务门户中申请、取消物理机。通过资源池提供IP-KVM功能实现物理机远程控制，包括上电、下电等。针对操作系统已经启动的物理机，应用系统管理人员可以直接通过SSH、RDP等远程访问协议访问物理机。并可以在服务门户中查看物理机监控信息。本方案是基于Hadoop实现，从性能角度上考虑，在资源池尚未充分完善前,应该构建在物理机上，而不宜釆用虚拟机。LI前提供物理机服务相当于让应用系统管理人员直接面对集群计算机，非常有助于云讣算平台的构建和长期稳定运行。并且，独立的物理机资源也可以通过子网划分和防火墙等手段，保证其安全性。使用通用存储资源类服务的分布式文件存储服务资源池提供的分布式文件存储服务支持存储空间的申请、取消，提供\FS、CIFS等符合POSIX标准的文件系统访问接口，可以基于操作系统mount命令直接使用，并支持在服务门户中查看分布式文件存储的监控信息。应该说在使用方式和接口上都可以支撑云计算数据信令处理和分析平台的需求。不过，该服务单系统支持PB级存储容量，从单节点上读1GB文件的性能为60MBps,写1GB文件的性能为30MBps,性能指标偏低。假设输入信令流为48000Mbps,用200个节点进行CDR合成，则每个节点需要记录(48000/8)/200=30MBps的原始流量，且还会产生其它CDR记录流量等。如果调用资源池提供的分布式文件存储服务，则相当于200