全程软件测试之软件测试自动化

全程软件测试

-Ch.5软件测试自动化第5章软件测试自动化5.1测试自动化的内涵5.2测试工具的分类和选择5.3测试工具的主流产品介绍5.4IBM-Rational产品的整体解决方案5.5MercuryInteractive产品的整体解决方案5.6Compuware产品的整体解决方案5.1测试自动化的内涵5.1.1为什么要软件测试自动化5.1.2自动化测试的引入和应用5.1.3测试自动化的基本结构5.1.4测试自动化的原理和方法5.1.5测试自动化普遍存在的问题手工测试的局限性通过手工测试无法做到覆盖所有代码路径;许多与时序、死锁、资源冲突、多线程等有关的错误通过手工测试很难捕捉到在系统负载、性能测试时，需要模拟大量数据、或大量并发用户等各种应用场合时，也很难通过手工测试来进行在进行系统可靠性时，需要模拟系统运行十年、几十年，以验证系统能否稳定运行，也是手工测试无法模拟的。如果有大量（几千）的测试用例，需要在短时间内完成，手工测试又怎么办呢？测试可以发现错误，并不能表明程序的正确性。

自动测试定义软件系统功能规格书(Spec)只是从书面上的一套软件产品是由一套完整的可运行的测试来定义的测试所有可能情况将遭遇“组合爆炸”问题Win98,WinME,WinNT,Win2k,WinXP,WinXPTablePCEd,WinXPMediaCenterEd,Longhorn,etcEnglish,German,Japanese,Chinese,Arabic,Thai…Office97,Office2000,OfficeXP,Office2003…X8632-bit,Intel64-bit,AMD64-bit,Alpha,MIPS…SQLServer6.5,SQLServer7.0,SQLServer2000…VisualStudio6,VS.NET,VS.NET2003,Whidbey…手工测试的局限性

（2）代码全部CodePath测试覆盖也几乎不可能每一个if…else…或switch语句就会把情况增加一倍许多异常处理代码在正常使用中不会碰到许多与时序，死锁，资源冲突，多线程有关的错误很难捕捉到每一个产品都会有不同的版本外加各自的SP与QFE(QuickFixEngineering,又称Hotfix)NT4,VS6SP1~SP5,Windows2000SP1-SP4VS.NET,SQLServerSP1–SP3可重复使用的自动测试对产品未来版本与ServicePack的测试将有事半功倍的效果手工测试的局限性（2）自动化测试带来的好处1.缩短周期Testingcycle-RegressionTesting2.AttributesofTA,Speed速度Efficiency效率AccuracyandPrecise准确、精确

Relentlessness无情3.容易实施、结果可靠4.做手工不能做测试自动化项目的本质定义：利用GUI自动化测试工具来开发和执行测试脚本，从而验证是否满足需求本质：测试自动化项目本质上是软件开发项目一个测试自动化项目必须具有：清晰定义并严格实施的过程来自组织各级的支持周密的计划具体的设计和架构测试自动化成本/收益分析结构成本收益净收益NoAutomation000RecordingandPlayback8.3112.7Data-drivenstructureusingdatapools8.4189.6Frameworkstructure9.8155.2Framework/data-driven(hybrid)structurefocusingonviewsoftheapplicationandusingdatapools11.6197.4各自特点软件测试自动化(TA)虽然具有很多优点，但只是对手工测试的一种补充，TA绝不能代替手工测试，有各自的特点：

在系统功能逻辑测试、验收测试、适用性测试、涉及物理交互性测试时，多采用黑盒测试的手工测试方法；单元测试、集成测试、系统负载或性能、稳定性、可靠性测试等比较适合采用TA；对那种不稳定软件的测试、开发周期很短的软件、一次性的软件等不适合测试自动化工具本身并没有想象力和灵活性，根据经验报道，自动测试只能发现15%的缺陷，而手工测试可以发现85%的缺陷；TA工具在进行功能测试时，其准确的含义是回归测试工具，因为工具不能发现更多的新问题，但可以保证对已经测试过部分进行测试的准确性和客观性

正确认识测试自动化不现实的期望注定测试自动化的失败测试自动化能：显著降低重复手工测试的时间建立可靠、重复的测试，减少认为错误增强测试质量和覆盖率测试自动化不能：完全替代手工测试和手工测试工程师保证100%的测试覆盖率弥补测试实践的不足自动化测试的引入和应用找准测试自动化的切入点把测试开发纳入整个软件开发体系测试自动化依赖测试流程和测试用例软件测试自动化的投入较大进行资源的合理调度测试自动化的基本结构机房办公室文件服务器SQLServerWeb服务器控制程序拷贝测试文件拷贝测试结果分派工作分派工作查询结果Build系统编译寻找工作项目更新显示DevBuild,TestBuild测试自动化的原理和方法代码分析:类似于高级编译系统，在工具中定义类/对象/函数/变量等定义规则、语法规则等，在分析时对代码进行语法扫描，找出不符合编码规范的地方。

捕获和回放:代码分析是一种白盒测试的自动化方法，捕获和回放则是一种黑盒测试的自动化方法。脚本技术

线性脚本，是录制手工执行的测试用例得到的脚本，这种脚本包含所有的击键、移动、输入数据等，所有录制的测试用例都可以得到完整的回放。

结构化脚本，类似于结构化程序设计，具有各种逻辑结构、函数调用功能。

共享脚本，是指某个脚本可以被多个测试用例使用。

数据驱动脚本，将测试输入存储在独立的（数据）文件中，而不是存储在脚本中。

关键字驱动脚本，是数据驱动脚本的逻辑扩张

自动比较

静态比较和动态比较，简单比较和复杂比较，敏感性测试比较和健壮性测试比较，。比较过滤器

测试自动化普遍存在的问题

不正确的观念或不现实的期望缺乏具有良好素质、经验的测试人才

测试工具本身的问题影响测试的质量

没有进行有效的、充分的培训

没有考虑到公司的实际情况，盲目引入测试工具没有形成一个良好的使用测试工具的环境

其它技术问题和组织问题5.2测试工具的分类和选择5.2.1测试工具的分类5.2.2测试工具的选择测试工具是测试自动化的表现测试工具的研究 软件测试的过程是一项很复杂而费时的工作，它不仅执行每一个测试用例，还要设置运行环境、记录输出、运行后清理并记录失败信息。仅仅依靠测试人员手工完成是很困难的。所以必须研究测试工具以帮助测试人员自动或半自动的完成测试。 在资金和人力、时间的供给一定的条件下面，拥有好的测试工具能够提高测试效率从而降低测试成本，则能够选择更高的测试充分性标准进行测试，从而提高软件质量。测试工具的例子测试工具的分类CodeanalysisTools -Staticanalysis -DynamicanalysisTestExecutionTool -CaptureandReplay(Record&Playback) -MonitorTool -StubsandDrivers -AutomatedTestingEnvironmentTestcasegenerators测试工具的选择5.3测试工具的主流产品介绍

5.3.1面向开发的单元测试工具5.3.2负载和性能测试工具5.3.3GUI功能测试工具5.3.4基于Web应用的测试工具5.3.5软件测试管理和其他工具面向开发的单元测试工具根据不同的语言进行分类:C/C++单元级测试工具PanoramaC++，C++Test，NumegaJUnit是一个开发源代码的Java测试框架根据工具的功能特点进行分类：内存资源泄漏检查工具：Numega中的BounceChecker,Rational的Purify等代码覆盖率检查工具：Numega的TrueCoverage,Rational的PureCoverage，TeleLogic公司的Logiscope代码性能检查工具：Logiscope和Macabe等。软件纠错工具RationalPurl等。负载和性能测试工具属性LoadRunner/MIQALoad/CompuwareWebLoad/Radview价格昂贵较贵一般安装配置简单简单一般操作性较复杂简单简单支持测试对象各种中间件/数据库/应用服务器的性能监控/企业架构(j2ee和.net)的测试客户/服务器系统、企业资源配置(ERP)和电子商务应用WebApplication支持平台windows,unix或linuxHP-UX,IBMAIX,SunSolaris,Linux,NT/2kUnixWindows支持数据库DB2,SQLserver,Orcale,SybaseADO,DB2,Oracle,Sybase,SQLserver,OdbcADO,DB2,Oracle,Sybase,SQLserver,Odbc支持协议web,http(s),soap,streaming,wap,winsock,xmlhttp,ssl,oap,xml,streaming,mediaxml,java,ejb,activex,wap,http,snmp,real/m$streaming脚本语言类似C++C/C++和VC++Javascript自动数据生成YYY脚本调试YYY报表定制功能YYYGUI功能测试工具将操作应用程序的各种动作和输入记录下来，包括键盘操作、鼠标点击等捕捉(Record)下来，生成一个脚本文件，这个脚本以后可以被“回放（playback）”。在实际测试过程中，要根据测试需求对录制的脚本进行一些必要的修改或加入一些参数，如选择不同的测试数据、脚本中插入检查点（CheckPoint）进行跟踪调试等。基于GUI功能测试工具主要适合回归测试阶段。当一个应用开发基本完成后，程序界面基本定型，虽然业务的需求会很频繁变化，但测试脚本结构基本不需要改动，只需要做些小调整，就可以自动运行，则可大大提高了测试的效率和测试的准确性。目前主要产品有MI公司的WinRunner，Compuware的QARun，Rational的SQARobot，MSVisualTestSuite等GUI自动化测试设计测试用例，并手工进行测试。如果测试未通过，则先改正缺陷，再次执行测试。如果测试通过，利用测试工具运行该测试过程，捕获运行过程需要检测的屏幕对象，并保存。在进行回归测试测试，自动利用测试工具运行测试，并比较运行过程的屏幕对象与保存的屏幕对象比较，从而判断测试用例是否通过。基于Web应用的测试工具基于Web应用的测试工具主要进行链接检查、HTML检查、Web功能和Web站点安全性等各个方面的测试。主要Web测试工具有MI公司的Astra

系列（如Astra

QuickTest

）、RSW公司的E-TestSuite等；Web系统测试工具:WorkBench、WebApplicationStressTool（WAS）、页面链接测试LinkSleuth等。

Website性能测试测什么？各种操作的响应速度最大并发用户数最大数据容量ACT(ApplicationCenterTest)ACT测试中的常见术语RPS(RequestPerSecond)并发连接数(SimultaneousBrowserConnections)思考时间(ThinkingTime)RPS+SBC+ThinkingTime=Concurrentusers?ACT测试的步骤创建测试脚本手工编写VBScript录音并修改运行测试脚本设定并发用户数设定用户身份运行、观察、获取主观体验理解结果报告图表各项性能统计数字日志文件解读ACT测试结果TTFB,TTLBHTTP错误的含义401403404500常见的ACT结果图线其他Web负载发生工具Microsoft'sWebApplicationStressToolCyrano'sOpenSTAQuestSoftware'sBenchmarkFactoryEmpirix'sE-TestSuite6.0RadView'sWebLoad5.0RationalSoftware'sRationalRobotMercuryInterctive'sAstraLoadRunner7.5Compuware'sQALoad4.7SegueSoftware'sSilePerformer5.011.4Rational产品的整体解决方案11.4.1Rational测试产品结构11.4.2Rational全套测试解决方案的特点

TestManager：集中、可伸缩的测试管理平台Robot：传统应用自动化测试工具RobotJ：Web/Java自动测试工具ClearQuest：缺陷跟踪工具Rational系统测试方案CoverageQuantifyPurifyPlanTestTestManagerDesignTestTestManagerImplementTestRobotRobotJTestManagerExecuteTestRobotRobotJTestManagerEvaluateTestClearQuestTestManagerChangeRequestandConfigurationManagement-ClearQuestandClearCaseLTRationalUnifiedProcessTestManager:控制中心ViewResultsPassFailCoverage

reports

Generate

change

requestsTestDesignOS/VerMemDiskTestIterationsTestConfigurationsTestPlanTestCasesTestInputsAdaptersInputRobotGUI

and

VUScriptsVBor

Java

scriptsExternal

Scripts

onother

OS’sExecutionAdaptersRationalTestManagerTestManager和ClearQuest集成TestManager:跨越整个测试周期

ü自动实现缺陷与需求之间的关联测试度量:覆盖,趋势等Robot

GUI的自动功能测试2.执行测试脚本OKFind执行脚本检验结果报告错误迭代1.创建测试脚本选择测试需求录制操作过程（面向对象录制®）插入验证点编辑生成的脚本（可选）

和白盒工具集成RobotJ：测试Java和Web应用ScriptAssureDynamicData

Validation技术保证了即使对象名称发生改变，测试脚本也能正常回放验证动态内容利用Eclipse这一标准的IDE环境，同时提供与版本控制工具的集成Professional

Language

andIDENEW

Technologyfor

JavaandWebBased

ApplicationsScriptAssure:

降低了测试脚本的维护成本Version1.0Version

2.0DeterminesMatch

??Tester

seesTool

sees动态数据验证：可伸缩的测试脚本OrderIDchangeswitheachorderplacedTestFailswhencomparingstaticbaselinetodynamicdataTestPasseswhencomparingpatternbaselinetodynamicdata动态内容匹配利用模式匹配技术来验证数据如不是验证“OrderID230”,而是“OrderID###”当验证应用的行为时，考虑了各种不同的合法响应业界标准的IDE和测试脚本语言Eclipse集成环境调试器、代码编辑器使用标准的Java语言作为测试脚本语言11.5.1MI产品结构11.5.2MI三个重量级产品的介绍11.5MI产品的整体解决方案MI产品结构

LoadRunnerWinRunnerTestDirectorAstraQuickTestAstraLoadTest

TopazPrism

ActiveTest

ActiveWatch测试监控软件MSP被测系统LoadRunner的解决方案Web服务器数据库服务器压力产生虚拟用户压力测试机解决测试资源的限制利用图表工具分析测试结果利用录制的脚本进行回归测试AnalysisController运行大量的“VirtualUsers”在不同的机器上利用“VirtualUsers”代替实际测试人员通过“Controller”管理“Vusers”49LoadRunner的解决方案支持多种协议和API50LoadRunner的解决方案能够对多种Server和资源进行监控Web服务器Web应用服务器数据库服务器系统资源51LoadRunner的解决方案VirtualUserGenerator产生压力和搜集测试结果生成用于“Controller”部署的“Vusers”通过图表分析工具来编译和显示测试结果LoadRunnerControllerLoadRunnerAnalysis52系统性能调优LoadRunner工作流程分析测试结果阶段5LoadRunnerVUGENLoadRunnerCONTROLLER&

ANALYSIS执行场景阶段4设计测试场景阶段3创建WebVirtualUsers阶段2阶段1制定压力测试方案NOTE:

这是LR的一个典型工作流程。为便于理解这个流程，在本教程中有些步骤将按照不同的顺序来介绍。11.6Compuware产品的整体解决方案11.6.1Compuware产品结构11.6.2Compuware分阶段解决方案Compuware产品结构1．黑盒测试工具QACenter

2．白盒测试工具—Numega系列产品

3．Vantage应用级网络性能监控管理软件编码实现阶段运行期错误检测和诊断工具ErrorDetection、代码覆盖率分析工具CoverageAnalysis、性能分析和优化工具PerformanceAnalysis、设备驱动开发套件NuMegaDriverStudio、JAVA可视线程和事件分析工具JC