数据业务性能管理平台可研报告)

1、上海熊猫机械集团公司数据业务性能管理(MDSPM)可研报告成都德企通信发展有限责任公司2008.11目录o 1 开发背景o 2 数据业务质量管理参考标准ARMo 3 中国移动数据业务性能管理标准CMAPMo 4 数据业务质量管理体系o 5 目前工作进度o 6 开发计划参考1开发背景o 提升数据业务服务质量、保障移动数据业务健康、稳定增长；o 加强移动数据业务质量保障的实时性、有效性；o 建立科学、公开、公正的数据业务质量度量、评估体系o 提升数据业务管理效率和管理水平1.1 MISC数据业务管理平台o 统一服务接入o 统一业务管理o 整合运营1.2 网管系统1234设备管理设备管理：CPU负荷

2、内存状态存储空间链路管理：链路管理：网络地址端口管理网络流量带宽其他资源管理：其他资源管理：机架电源负荷安全管理：安全管理：漏洞扫描入侵防范防毒杀毒内容过滤统一网络管理标准集统一网络管理标准集SNMPu实现信息服务基础资源管理u非业务视角的管理1.3 拨测系统o 网络性能o 对不同终端的适应性o 是端到端测试不可缺少的环节，但如用于规模化的移动数据业务质量测试，存在诸多不足：n 实体终端拨测服务器不易扩展、升级n 不能实现故障定位1.4 数据业务管理中遇到的问题o 数据业务构筑于计算机系统、网络和软件之上：n 业务种类增多，系统已越来越复杂；n 涉及的供应商、合作商越来越多；n 移动业务的增长

3、使数据业务的重要性日益增强，用户对数据业务服务质量的敏感度增加校讯通“服务提供”流程图n用户提交的服务请求是否成功执行？n用户实际感受到的该服务的响应时间如何？n整个事务流程的瓶颈在那里?n如果失败，产生问题的原因在哪？n事务与子事务如何进行的关联调用（整个事务流程的拓扑是怎么样的）？n哪些数据业务，每天有多少被用户使用？n如何调整应用系统和基础环境，使之运行更加快速、稳定？管理部门对业务系统的了解始终停留在系统建成的一刻，随着时间的增长，系统提供商会更改应用的部署，业务流程，业务管理部门很多时候不能及时掌握这些变化1.5 两种解决方案（一）o 方案一：要求各系统提供商/系统开发商满足以上需求

4、。n 由系统开发商提供的针对自己产品的测试工具和手段是否绝对真实可信？n 移动数据业务涉及多家系统提供商的情形越来越普遍，厂家各自拿出千奇百怪的测试报告，是否真正有助于问题的解决？1.5 两种解决方案（二）o 方案二: 运营商标准主导，第三方提供系统构建、运行服务支持的数据业务质量保障体系n确定问题何时、发生于整个移动数据业务运营网络的何处？n排除来自于不同厂商的、杂乱的测试工具产生的所谓“噪声”干扰；基于业务流程全过程的监测，将有利于各个处于不同环节的管理团队消除偏见，并帮助大家更有效的合作，找出问题的根本原因；n可对竞争性业务类型或业务提供商进行服务级性能(service-level pe

5、rformance)对比，改以往粗放型管理手段为指标化、精细化管理手段，进而提高各SP的服务质量;2 数据业务质量管理的参考标准ARMo ARM ( Application Response Measurement) API 4.0 规范是ISO Open Group制定的应用性能监控标准，包括IBM、HP、CA在内的众多管理软件供应商支持该标准。Siebel、IBM等众多软件开发商提供的商业软件基于ARM标准开发，大大提高了应用的可管理性。oARM（Application Response Measurement）标准描述了将集成化的企业应用作为可管理实体的普遍方法。ARM标准允许用户将企业

6、管理工具直接延伸到企业应用当中，从而实现复杂的、端到端的管理能力，包括度量：n应用的可用性；n应用的性能；n应用的使用情况；n端到端的传输响应时间；n2.1 最终用户的响应时间o 该指标是衡量系统性能，用户满意度的关键指标，对移动数据业务尤其如此o 测量方法主要有以下两种：n一种是使用黑盒的方式，比如编写软件工具模拟用户访问，得到应用最终响应时长。n另一种是采用白盒的方式，让应用不断向外报告每笔事务的执行时长，事务每个阶段的执行时长，得到用户响应时间，进而确定某一应用在最终用户方的性能表现如何。此外，还可以报告谁正在使用某一应用、该应用的使用频率以及用户所进行的事务处理过程是否成功完成。2.2

7、 ARM的特性o ARM被应用于限定的事务性能测量o ARM的关联性2.3 ARM的局限性oARM要求对应用源代码的修改，以提供对ARM的支持，对于已部署、投入运行的应用系统则没有提供可行的解决方案;o尚缺完善，不能支持用户规模化、规范化管理应用系统的要求3 CMAPM - 1.0China Mobile Application Performance Managemento 中国移动数据业务应用性能管理标准n以ARM为参考标准o ARM已被国际上大多数主流软件提供商接受，并在产品中提供支持，但以用户为核心，由行业用户主导推动的应用性能管理模式还未见于业界。n针对移动互联网应用环境进行改造、优

8、化o 网络环境多样n有线网络/Internetn无线网络/移动互联网o 应用平台多样nPC客户端n服务器n手机/移动智能终端3.1 CMAPM解决方案oCMAPM提供了一个途径，使得系统能够自动收集关键数据，回答数据业务管理部门所关心的问题。n采用业务运作的视角提供关于端到端（手机到服务端再到手机）事务运行情况的关键信息，而不是像传统监控那样监控单独的部件如数据库，中间件，WebServer等n系统将事务在各个部件上的运行情况像项链一样串了起来，记录每个部件，步骤的运行情况，花费时间等。 应用监控软件通过这些信息将能够度量并报告服务等级；n在事务处理失败，响应时间超时情况下立刻通知管理员或采用

9、一些自动措施；帮助确定事务步骤中哪里变慢等等。n能够关联跨越多台服务器的父事务和子事务。管理人员可以获得事务的拓扑，并能够快速定位问题。因此，实现事务拓扑的可视化是事务追踪的重要一环。CMAPM不仅仅是获取事务性能的方法，也是追踪事务执行路径的方法 3.2 校讯通“业务提供”流程事务类型数量响应时间(s)平均每事务响应时间(s)业务处理50025005.00缓冲池300900030.00短信网关2001200060.00合计10002350023.50全时通全时通“业务定制/取消”流程全时通“被叫未开机”流程全时通“被叫已开机”流程3.3 问题一：o 如何在已投入运行的系统中实现APM?是否足

10、够简单方便？n一般来讲，需要在代码层次嵌入对APM API的调用；n数据业务应用系统绝大多数是基于web的多层架构，web前端多采用的解释型语言，如HTML，jsp,asp,php等script或类scipt的语言实现o 结论：通过在web服务器和应用服器部署预先开发的APM可加载模块，可使得现有运行系统非常方便的实现数据业务实时性能管理。同时，随着应用系统更多的采用开放技术、松散耦合技术，使得在移动数据业务应用系统中实现APM会更加便利。3.4 问题二：o APM部署后，会增大应用系统的性能开销吗？开销有多大？TestCPU Per Page(msec)Pages/secApacheOVPA

11、Baseline5.9940.029155mod_log_firstbyte6.034(+0.7%)0.030(+3%)154(-0.6%)mod_apm_on7.319(+22%)0.552(+18.03)123(-21%)mod_apm_off6.438(+7.4%)0.030(+3%)144(-7%)phpapm7.513(+25%)0.329(+13.04%)122(-21%)4 数据业务质量管理体系o 质量数据采集标准nCMAPM 1.0o 质量管理支撑平台nAPI/Agent 数据采集nDatabus/Datahub 数据汇接o 实时数据库nAnlyEngine 数据分析nPort

12、al 数据展现o 质量评价指标体系n监测反应恢复评价改进4.1 支撑平台nAPI/Agent 数据采集nDatabus/Datahub 数据汇接o 实时数据库nAnlyEngine 数据分析nPortal 数据展现4.2 数据业务质量管理过程模型o 管理活动一般包括数据收集、分析和筛选过程，n结构化、可持续的管理过程模型；每一个子过程域中的活动是并发的，而完整的过程将是持续的，通过迭代，不断建立、评价和完善测量集，修正实施方案；n意义在于通过质量管理，为数据业务质量保障的实现提供依据；数数据据收收集集识别各利益相关者的关注点建立基准测量集识别当前使用的度量方法分分析析建立优先级表述发现并分析差

13、距补充测量集评价测量集筛筛选选实施方案有效性评价4.3 数据业务质量管理的角色定义o数据业务管理部门（数据部）开展数据业务质量管理过程依赖3类角色。对于每一类角色，都需要一套在特定需求环境下的移动数据业务质量测量集，以提供对数据业务绩效评价量化的、多维的观察角度。 n组织的高层决策人关注数据业务的成本，以及数据业务对其他业务的影响程度（干扰或是促进）；n中层经理需要对客户负责，需要把握某项数据业务的进度和质量，并实现任务目标；n系统管理员关注以技术指标呈现的当前系统的运行保障能力、状态和变化趋势。4.4 数据业务质量管理的基本原则o1）以实现企业绩效为目标n和其他企业活动一样，数据业务质量保障

14、要取得成功，必须以提高数据业务质量保障活动的效率为目标，为企业绩效的改善做出贡献。o2）全生命周期过程控制n管理不是仅限于数据业务上线前的评估，或者运行期的监控，而应该是贯穿于整个数据业务生命周期所有阶段的活动，贯穿于业务开发、实施、运行、维护的整个过程。n对移动运营商而言，数据业务系统和其他系统一样，是效益驱动的投资，因此，系统是否适度、质量是否能得到保证，系统建成后运行效果是否达到预期目标，这些都需要依靠在不同阶段实施的、持续动态的跟踪、度量、评估活动解决。o3）定量与定性相结合n完善的评价结果应该包含两个互补的部分：定性描述和定量数据。定量数据包括对实际测量结果的报告，例如事务响应处理时

15、间、异常事件发生率等，这些数值用来显示变化趋势、评定性能等级等。定性描述则提供关于环境属性或特征的信息（如客户满意度），定量数据与定性描述的结合使用，能够加深对数据业务绩效的理解。4.5 指标体系o1）生产力指标n单位时间事务处理量，业务系统的设计目标应该明确以可计量的事务处理能力表示；o2）质量指标n完备性，测量运行功能与交付功能需求规模的比值；n变更率，测量数据业务实施过程中业务功能发生变更的数量；n异常事件发生率，测量异常事件发生的数量；o3）经济性指标n每事务成本；n总体价值，跟踪数据业务系统的总体价值，通过总体价值，能使决策层更好地理解替换遗留系统所需的可能花费。o4）维护性指标n可

16、维护性，测量维护目标系统所需要付出的工作量；n可靠性，测量相对于规模的系统失效次数。5 目前工作进度o 1、方案验证o 2、标准预研o 3、目标系统架构设计o 4、界面、指标及报表设计5.1 方案验证o S1:需求调研o S2:筛选测试样例o S3:确定测试方案与建模o S4:开发测试系统napm api/apm agentnmod_apm/phpapm动态可加载模块(apache)o S5:测试并分析结果5.2 体系及标准预研o 标准n apm api/agent及使用文档核心部分已大部完成，总完成度接近505.3 支撑平台架构设计MDSPM逻辑架构6 结论o 经过双方前期预研及方案验证，我们已取得以下共识：n基本技术难点已攻克n系统设计已明确o 建议双方签订合作开发协议，正式启动“移动数据业务性能管理研究”课题：nP1:四川移动与成都德企公司共同开展对“移动数据业务性能管理体系和管理标准”的研究，并申报知识产权；nP2:成都德企公司遵循“移动数据业务性能管理体系和管理标准”开发“四川移动数据业务性能管理系统”；7 工作建议o Step1：需求调研及方案验证；n8月11号前完成需求调研n9月中旬完成前期方案验证（针对测试样例）o Ste