多层网络应用程序的分析模型及其应用

多层网络应用程序的分析模型及其应用于华洋2011-04-19简介题目：

AnAnalyticalModelforMulti-tierInternetServicesandItsApplications作者：报告内容概述背景知识多层应用程序的建模模型的强化一点想法概述当前很多网络应用程序（internetapplication）随处可见，如在线新闻，零售系统和金融网站。这些应用程序通常都采用分层（Multi-tier）的设计架构，应用程序的每一层为前一层提供一定的功能，并且使用后续层的功能完成请求的部分处理服务本文展现了一种基于排队网络的分析模型来分析多层应用程序的性能，该模型的重要性和作用体现在以下几个方面： 容量分配（capacityprovisioning）：如何给应用程序分配容量使之更好的服务高峰期的工作负载 性能预测（performanceprediction）：在给定工作负载和软硬件配置的前提下，如何确定应用程序的响应时间。 应用程序配置（applicationconfiguration）：为了满足一定的性能目标，如何配置应用程序的各类参数。 瓶颈确认和调整（bottleneckidentificationandtuning）：找出系统瓶颈并加以调整。 请求调度策略（requestpolicing）：系统出现短暂超载的时候，如何转移（turnaway）过剩的请求。背景网络应用程序架构（InternetApplicationArchitecture）分层应用程序中的请求处理过程（RequestProcessinginMulti-tierApplications）网络应用程序架构上图是一个典型的3层Internet应用，其中

Sentry是应用程序的入口，该模块按照一定的准入控制策略（admissioncontrol）来处理到来的会话。前两层采用了复制技术（replication）,同一层上的应用程序被复制成多个副本，这些副本同时运行，共同承担这一层上的负载。文章假定网络应用程序的工作负载是基于会话的，一个会话包含一系列由同一个用户发来的相继到达的请求，这些请求之间的发送间隔被称为用户的反应时间（thinktime）。通常情况下会话是有状态的，即相继到来的请求需要由同一个层上的同一个服务器来处理，这一需求要由分发器来完成。分层应用程序中的请求处理过程考虑一个M层的应用程序。简单点说，每个请求被Ti处理一次后，会继续向前接受Ti+1层的处理。一旦最后一层TM处理完该请求，请求就会依次向后传回T1层，由T1传给客户端。更复杂的情况下，前后两层的调用次数可能是多次的，而且前层对后层的调用关系可能是串行的，也可能是并行的。分层应用程序的建模基本队列模型模型中请求响应时间的导出模型参数的估算基本队列模型前提：工作负载是基于会话的，且各层有且只有一个副本ModelingMultipleTiers

模型中用Q1，…,QM来表示应用程序的M层，每一个队列代表一个应用程序层和运行该层应用程序的服务器。为了建模前层对后层的多次访问，为每个队列引入一个指向前面队列的转换，请求接受了Qi的处理后，可能以概率Pi返回Qi-1，也可能也概率（1-Pi）到达Qi+1。ModelingSessions

为了建模系统中的会话，引入一个无限服务器排队系统Q0（infiniteserverqueuingsystem）。每个会话在Q0中占用一个服务器，会话发送的请求会直接进入队列Q1，然后接受后续队列的处理。Q0中服务器花费的时间即为用户的反应时间。模型中请求响应时间的导出闭环排队网络的MVA算法可以用来求解我们的基本队列模型MVA算法的主要内容：

Inproduct-formclosedqueuingnetworks,whenarequestmovesfromqueueQitoanotherqueueQj,itsees,atthetimeofitsarrivalatQj,asystemwiththesamestatisticsasasystemwithonelesscustomer.N个顾客时，顾客到达队列Qm时看到的平均队长MVA算法利用上式，从系统中的顾客数为0开始，将顾客逐个引入系统中，直到顾客数为N为止，便可求出各个队列中的平均响应时间这里的顾客对应于文章中的会话

模型参数的估算估算访问率Vi

访问率是指在请求的生命周期内，某一层应用程序被调用的平均次数，λreq是整个应用程序的请求次数，λi是某一层的请求次数

估算服务时间Si

驻留时间Xi：第i层处理请求的花费时间+该层后续各层的花费时间。 请求的驻留时间一般都会被服务器记录到日志中，所以是比较容易获取的,可以认为是已知的。

估算用户反应时间Z

用户相继发送的两个请求之间的时间间隔的平均值模型的强化建模层上的复制技术和负载不平衡性（ReplicationandLoadImbalanceatTiers）建模层上的并发限制（HandingConcurrencyLimitsatTiers）建模多类会话（HandingMultipleSessionClasses）建模层上的复制技术和负载不平衡性Replication ri表示Ti层的副本个数，Qi表示为Qi1,..,Qiri,

不考虑请求的状态，Ti层的请求可以发往下一层的ri+1个副本中的任一个，也可以返回到前一层ri-1个副本中的任一个负载不均衡性建模层上的并发限制有的层上的应用程序会限制请求并发的并发度，为了能让模型也能适应这种情形，可以为每一层加入drop队列建模多类会话应用程序的会话，有时是有类别差异的。一个金融网站（brokeragewebsite）,可能会将金融事务定义为Gold，余额查询定义为Silver，一般的浏览定义为Bronze。不同类型的会话，其用户反应时间，访问率和服务时间等参数各不相同为了对L类会话建模，我们可以引入一个L元组，每个元组包含某一类会话的所有参数Sentry负责识别到来的会话，并将其与相应的元组进行关联一点想法云中自适应的资源分配机制云中的资源分配问题涉及到应用程序性能和资源利用率之间的平衡问题 首先，租户对应用程序的性能需求必须得到满足，而且该性能需求不应该过多地受到负载波动的影响。 其次，