大数据性能测试方案-V1.0(DOC)

1、编号:密级:XXX大数据平台性能测试方案V1-1.0拟制人：审核人：批准人：2016 年 01 月 08 日文件变更记录*A -增加 M -修订 D -删除版本号日期变更类型(A*M*D )修改人摘要审核人备注V1.02016-01-08A新建性能测试方案2.2软件环境1引言1.1 编写目的本测试方案将对XXX大数据平台的测试方案、测试范围，测试的软件硬件环境、测试进度、测试 人员的分工和职责以及测试流程进行详细的定义和整体的描述。1.2 测试目标本次性能测试的目标是检测 XXX大数据平台在服务器上运行时，了解该服务器的各项性能情 况。1.3 读者对象本方案的预期读者是：项目负责人、测试人员、

2、运维人员和其他相关人员。1.4 术语定义术语定义性能测试通过自动化的测试工具模拟多种正常、峰值以及异常负载条件来对系统的各项性能指标进行测试场了用于根据性能要求定义在每一个测试会话进行期间发生的事件事务表不要度量的最终指定的某个特定业务2环境搭建2.1测试硬件环境服务器名数量期望到位阶段备注服务器1开发提测前资源名称配置3测试范围3.1测试功能点编P测试点对应算法备注1Hadoop读取2Hadoop 写入3Hadoop 导入4Hadoop导出5Spark读取6Spark写入7Spark导入8Spark导出3.2测试类型定义备注基准测试单事物单用户测试，目的是对选择的单用户在无压力情况下（无额外

3、进程运行并占用系统资源）情况下，获取系统处理单请求 的情况负载测试通过逐步增加系统负载，测试系统性能的变化稳定性测试通过给系统加载一定业务压力，运行7*24小时，以此检测系统是否稳定运行。3.3性能需求名称指标备注CPU使用率不局于80%内存使用率不局于80%I/O使用率不局于80%响应时间Network使用率不局于80%3.4准备工作1 .测试功能点全部通过功能测试，确保功能上没有问题；2 .测试环境服务器已搭建，被测项目已部署；3 .准备测试客户机；4 .准备好测试数据；5 .创建测试场景，并配置好每个场景的设置；6 .测试过程中保存好测试数据和分析结果，并规范对执行结果进行命名3.5测试

4、流程.归院口林希定4 J一郎用宝寓"我分所M个溯成甘说L T.担北.泼7.j V 'L飞，阡心?标.海f武戈鲁雁：1'I,：ii 优 陵 民4.测试策略4.1基准测试4.1.1 Hadoop/ Spark读取算法的基准测试场景1:数据容量100G时，进行读取算法的基准测试用例名称数据量100G,读取功能的基准测试算法读取验证功能Hadoop/ Spark的读取测试测试目的对比Hadoop/ Spark的读取算法，进行数据容量100G读取操作时，redpower服务器运行情况前置条件操作步骤1 .准备数据容量100G2 .对redpower服务器进行资源监控3 .客户端

5、执行Hadoop/ Spark的读取代码运行结果|类别CPU使用率内存使用率I/ONETWORK响应时间备注HadoopSparkSpark场景2:数据容量500G时，进行读取算法的基准测试用例名称数据量500G,读取功能的基准测试算法读取验证功能Hadoop/ Spark的读取测试测试目的对比Hadoop/ Spark的读取算法，进行数据容量 500G读取操作时，redpower服务器运行情况前置条件操作步骤1 .准备数据容量500G2 .对redpower服务器进行资源监控3 .客户端执行Hadoop/ Spark的读取代码运行结果类别CPU使用率内存使用率I/ONETWORK响应时间备注

6、HadoopSparkSpark场景3:数据容量1T时，进行读取算法的基准测试用例名称数据量1T,读取功能的基准测试算法读取验证功能Hadoop/ Spark的读取测试测试目的对比Hadoop/ Spark的读取算法，进行数据容量1T读取操作时，redpower服务器运行情况前置条件操作步骤1 .准备数据容量1T2 .对redpower服务器进行资源监控3 .客户端执行Hadoop/ Spark的读取代码运行结果|类别CPU使用率内存使用率I/ONETWORK响应时间备注HadoopSparkSpark4.1.2 Hadoop/ Spark写入算法的基准测试场景1:数据容量100G时，进行写入

7、算法的基准测试用例名称数据量100G,写入功能的基准测试算法写入验证功能Hadoop/ Spark的写入测试测试目的对比Hadoop/ Spark的写入算法，进行数据容量100G写入操作时，redpower服务器运行情况前置条件操作步骤1 .准备数据容量100G2 .对redpower服务器进行资源监控3 .客户端执行 Hadoop/ Spark的写入代码运行结果类别CPU使用率内存使用率I/ONETWORK响应时间备注HadoopSparkSpark场景2:数据容量500G时，进行写入算法的基准测试用例名称数据量500G,写入功能的基准测试算法写入验证功能Hadoop/ Spark的写入测试

8、测试目的对比Hadoop/ Spark的写入算法，进行数据容量 500G写入操作时，redpower服务器运行情况前置条件操作步骤1 .准备数据容量500G2 .对redpower服务器进行资源监控3 .客户端执行 Hadoop/ Spark的写入代码运行结果类别CPU使用率内存使用率I/ONETWORK响应时间备注HadoopSparkSpark场景3:数据容量仃时，进行写入算法的基准测试用例名称数据量1T,写入功能的基准测试算法写入验证功能Hadoop/ Spark的写入测试测试目的对比Hadoop/ Spark的写入算法，进行数据容量1T写入操作时，redpower服务器运行情况前置条件

9、操作步骤1 .准备数据容量1T2 .对redpower服务器进行资源监控3 .客户端执行 Hadoop/ Spark的写入代码运行结果类别CPU使用率内存使用率I/ONETWORK响应时间备注HadoopSparkSpark4.1.3 Hadoop/ Spark导入算法的基准测试场景1:数据容量100G时，进行导入算法，查看服务器的相关性能指标用例名称数据量100G,导入功能的基准测试算法导人验证功能Hadoop/ Spark的导入测试测试目的对比Hadoop/ Spark的导入算法，进行数据容量100G导入操作时，redpower服务器运行情况前置条件操作步骤1 .准备数据容量100G2 .

10、对redpower服务器进行资源监控3 .客户端执行 Hadoop/ Spark的导入代码运行结果|类别CPU使用率内存使用率I/ONETWORK响应时间备注HadoopSparkSpark场景2:数据容量500G时，进行导入算法，查看服务器的相关性能指标用例名称数据量500G,导入功能的基准测试算法导入验证功能Hadoop/ Spark的导入测试测试目的对比Hadoop/ Spark的导入算法，进行数据容量 500G导入操作时，redpower服务器运行情况前置条件操作步骤1 .准备数据容量500G2 .对redpower服务器进行资源监控3 .客户端执行 Hadoop/ Spark的导入代

11、码运行结果类别CPU使用率内存使用率I/ONETWORK响应时间备注HadoopSparkSpark场景3:数据容量1T时，进行导入算法，查看服务器的相关性能指标用例名称数据量1T,导入功能的基准测试算法导入验证功能Hadoop/ Spark的导入测试测试目的对比Hadoop/ Spark的导入算法，进行数据容量1T导入操作时，redpower服务器运行情况前置条件操作步骤1 .准备数据容量1T2 .对redpower服务器进行资源监控3 .客户端执行 Hadoop/ Spark的导入代码运行结果类别CPU使用率内存使用率I/ONETWORK响应时间备注HadoopSparkSpark场景1:

12、数据容量100G时，进行导出算法，查看服务器的相关性能指标用例名称数据量100G,导出功能的基准测试算法导出验证功能Hadoop/ Spark的导出测试测试目的对比Hadoop/ Spark的导出算法，进行数据容量100G导出操作时，redpower服务器运行情况前置条件操作步骤1 .准备数据容量100G2 .对redpower服务器进行资源监控3 .客户端执行 Hadoop/ Spark的导出代码运行结果|类别CPU使用率内存使用率I/ONETWORK响应时间备注HadoopSparkSpark场景2:数据容量500G时，进行导出算法，查看服务器的相关性能指标用例名称数据量500G,导出功能

13、的基准测试算法导出算法验证功能Hadoop/ Spark的导出测试测试目的对比Hadoop/ Spark的导出算法，进行数据容量 500G导出操作时，redpower服务器运行情况前置条件操作步骤1 .准备数据容量500G2 .对redpower服务器进行资源监控3 .客户端执行 Hadoop/ Spark的导出代码运行结果类别CPU使用率内存使用率I/ONETWORK响应时间备注HadoopSparkSpark场景3:数据容量1T时，进行导出算法，查看服务器的相关性能指标用例名称数据量1T,导出功能的基准测试算法导出验证功能Hadoop/ Spark的导出测试测试目的对比Hadoop/ Sp

14、ark的导出算法，进行数据容量1T导出操作时，redpower服务器运行情况前置条件操作步骤1 .准备数据容量1T2 .对redpower服务器进行资源监控3 .客户端执行 Hadoop/ Spark的导出代码运行结果类别CPU使用率内存使用率I/ONETWORK响应时间备注HadoopSparkSpark4.2负载测试4.2.1 Hadoop/ Spark并行读取/写入算法的负载测试场景1:数据容量100G时，并行读取/写入算法的混合测试场景用例名称数据量100G,并行读取/写入的负载测试算法读取/写入验证功能Hadoop/ Spark并行读取/写入测试测试目的对比Hadoop/ Spark

15、的并行读取/写入，进行数据容量 100G操作时，redpower服务器运行情况前置条件操作步骤1 .准备数据容量100G2 .对redpower服务器进行资源监控3 .客户端并行执行 Hadoop/ Spark的读取/写入算法运行结果|类别CPU使用率内存使用率I/ONETWORK响应时间备注HadoopSparkSpark场景2:数据容量500G时，并行读取/写入算法的混合测试场景用例名称数据量500G,并行读取/写入的负载测试算法读取/写入验证功能Hadoop/ Spark并行读取/写入测试测试目的对比Hadoop/ Spark的并行读取/写入，进行数据容量 500G操作时，redpowe

16、r服务器运行情况前置条件操作步骤1 .准备数据容量500G2 .对redpower服务器进行资源监控3 .客户端并行执行 Hadoop/ Spark的读取/写入算法运行结果类别CPU使用率内存使用率I/ONETWORK响应时间备注HadoopSparkSpark场景3:数据容量1T时，并行读取/写入算法的混合测试场景用例名称数据量1T,并行读取/写入的负载测试算法读取/写入验证功能Hadoop/ Spark并行读取/写入测试测试目的对比Hadoop/ Spark的并行读取/写入，进行数据容量1T操作时，redpower服务器运行情况前置条件操作步骤1 .准备数据容量1T2 .对redpower

17、服务器进行资源监控3 .客户端并行执行 Hadoop/ Spark的读取/写入算法运行结果类别CPU使用率内存使用率I/ONETWORK响应时间备注HadoopSparkSpark4.2.2 Hadoop/ Spark并行导入/导出算法的负载测试场景1:数据容量100G时，并行导入/导出算法的混合场景测试用例名称数据量100G,并仃导入/导出的负载测试算法导人/导出验证功能Hadoop/ Spark并行导入/导出测试测试目的对比Hadoop/ Spark的并行导入/导出，进行数据容量 100G操作时，redpower服务器运行情况前置条件操作步骤1 .准备数据容量100G2 .对redpowe

18、r服务器进行资源监控3 .客户端并行执行 Hadoop/ Spark的导入/导出算法运行结果|类别CPU使用率内存使用率I/ONETWORK响应时间备注HadoopSparkSpark场景2:数据容量500G时，并行读取/写入算法的混合场景测试用例名称数据量500G,并行导入/导出的负载测试算法导入/导出验证功能Hadoop/ Spark并行导入/导出测试测试目的对比Hadoop/ Spark的并行导入/导出，进行数据容量 500G操作时，redpower服务器运行情况前置条件操作步骤1 .准备数据容量500G2 .对redpower服务器进行资源监控3 .客户端并行执行 Hadoop/ Spark的导入/导出算法运行结果类别CPU使用率内存使用率I/ONETWORK响应时间备注HadoopSparkSpark场景3:数据容量1T时，并行读取/写入算法的混合场景测试用例名称数据量1T,并行导入/导出的负载测