版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
1、云平台资源优化调度报告1 .项目的立项依据1.1. 研究背景及意义云计算的出现改变了企业的发展模式,通过创新以及扩展IT能力,从而为企业带来了更多的商机。云计算是由大量不同的计算机资源,包括计算服务器、存储服务器、宽带资源等通过分布式系统和虚拟化技术,将所有资源看做是一个资源池,进行统一的管理和调度,然后通过需求分配计算、存储和其他服务给相应客户1。云中的资源都是通过虚拟化后再交付给用户使用,但是虚拟化只是实现云计算的一项关键技术而已,它实现了应用软件与物理硬件的松耦合。但只有虚拟化技术是远远不够的,如何对池化的资源进行合理高效的调度,才是实现云计算的关键。在云环境下,其资源的规模较大,因此对
2、云资源的调度是一个复杂的过程。云平台上的资源调度相对而言还处于初始发展阶段,在这个领域里比较成熟的系统并不多。因此云平台上的资源调度仍有待进一步的研究。在传统的平台管理模式下,每个平台和系统都需要部署相应的硬件资源,从而导致所需的硬件设备众多,能耗大且资源利用率低下,同时,基础设施的建设以及设备的维护等成本支出较大。云计算的出现很好的解决了传统平台所出现的问题。在云环境下,通过虚拟化技术,将所有资源看做是一个统一的资源池,实现了基础设施的统一管理,有效地降低了设备管理成本,并以资源共享的模式,根据企业业务需求自动调整资源分配。目前,云计算技术还在起步阶段,并且具有十分广阔的应用前景。在云计算的
3、相关技术中,其核心技术就是资源管理。它主要的功能就是接受来自云计算用户的资源请求,然后将特定的虚拟资源分配给资源请求者。近几年,出现了很多关于合理分配池资源(计算、存储、网络和服务等)的相关研究,其研究重点主要包括池资源分配的自适应性、安全性、公平性以及高效性等方面的优化设计。在现有的研究工作中,有许多可借鉴之处,但要满足复杂的云计算应用提供的SLA,仍不够完善,存在着进一步优化的可能性。1.2. 国内外现状研究近几年,云计算已成为IT行业以及学术领域的研究热点。这部分就云资源调度方面所做的研究进行了总结,同时对资源负载均衡相关算法进行了比较分析和总结。云资源调度技术是云计算中的关键技术,通过
4、对资源的动态可伸缩调度来满足负载峰谷对资源的需求进行动态分配,从而提高整体资源的利用率,这对云数据中心具有十分重要的意义。在弹性云服务的领域中,亚马逊EC2采用了以虚拟机为单位的粗粒度的方法,根据用户需求来增减运行的虚拟机数量,从而达到及时响应负载变化的目的。通过此方法能够满足负载自适应的虚拟资源伸缩能力,但是,以虚拟机为最小伸缩单位的调度方式,存在着一定程度上的资源耗费。针对上述调度方式所存在的缺点,涌现出了一些关注于细粒度的动态虚拟资源伸缩模式的学术研究。ZHAOWeiming等人通过预估每台虚拟机的内存使用量,然后据此来自动调整没存分配大小,从而提高内存资源的使用率,但其中仅考虑了单一资
5、源的分配方式。考虑CUP、内存和网络带宽三种资源的综合优化分配,ZHOUWenyu网等人提出了一种应用无关的负载均衡机制,通过实时监控物理机和虚拟机的各项资源使用情况,从而及时调整资源分配。云计算统一并提供了在不同地域站点资源共享的能力。云资源调度重点就是要找到资源-负载最佳匹配,这是一个繁琐的任务。在已有文献中,很少有关于云负载能源、成本和时间约束的高效资源调度策略报告。SinghS4等人提出一个高效的云负载管理框架,通过K-means,基于所分配的权重和它们的QoS需求对云负载确定、分析和集群。基于不同的调度策略和它们相应的算法完成进一步的调度。通过CloudSim工具包中现有的调度策略对
6、该算法的性能进行评估。实验结果表明相比于现有的算法,所提出的框架在能量消耗、执行成本和执行时间在不同的云负载中都能得到较好的结果。在云环境下,由于资源利用不足而产生的能源消耗,占实际能源消耗相当大的部分。从本质上来说,在一个资源分配策略中,提高资源的利用率也就能够更好的提高能源效率。针对这一点,在云环境下,通过虚拟化技术可以很容易的将任务进行合并,通过任务合并来有效提高资源利用率,从而降低能耗。LeeYC等人提出了两种能源意识的任务整合探讨方案,其目的是最大限度地提高资源的利用率,并明确的考虑到活跃和闲置两个状态下的能耗。在该方案中,在不影响任务执行性能的前提下,将每个任务分配给能耗最小的资源
7、上。其实验结果表明,文献中所给出的方案在节能方面存在优越性。在节能方面的研究中,加州伯克利大学RAD6实验室提出了一种关于Mapreduce优化的研究方案,方案提出了基于统计学原理的负载生成框架,通过生成的负载来评估设计的决策,这些决策包括:资源的扩展、调度、重组等6。他们的研究结果表明,当Mapreduce的任务到达时,并不立即进行处理,而是将任务进行排队,用批处理的方式来完成这些任务。在一队的任务到来的间歇期间内整个cluster可以关掉,从而达到节能的目的。但是,这样的调度机制必须要求批处理间隙时间要比关闭和开启cluster的时间要足够长,同时需要合理的控制批处理间歇时间的长短,时间太
8、短会导致队任务无法到达,而时间太长则会影响Mapreduce的结果。云数据中心部署了大量的虚拟机,由于不同的虚拟化平台采用了不同的虚拟化技术而导致了虚拟资源的异构性,同时用户需求规格不一致以及云数据中心物理机规格不一致,而使得云数据中心的众多物理机的负载均衡成为一个难点。在常见的静态负载均衡算法应用中,在Eucalyptus平台采用轮询(RR)调度算法,将虚拟机按照顺序分配到不同的物理机上,实现负载均衡7。该算法的最大优点就是简单易实现,但由于物理机和虚拟机配置具有差异性,负载均衡的效果并不理想。而加权轮询(WRR)算法用相应的权值表示服务器的处理能力,权值较大的会被分配给较多的请求,该算法被
9、用于Vmware资源负载均衡中8。由于云计算中的资源是付费使用的,而其费用的开销主要体现在使用时间上,因此对资源调度的研究在满足QoS或者SLA的前提下,尽可能的缩短任务完成时间,提高资源利用率。在已提出的Min-Min9,Max-Min10等算法的基础上,周舟11等人提出了一种新的调度算法Min-Max,通过将大任务和小任务进行绑定,缩短了任务执行时间,同时改善了负载均衡问题,从而提高了整体资源利用率。但是所提出的算法中并未考虑资源价格的问题。2 .研究目标、研究内容及已解决的关键问题2.1. 研究目标(D提高虚拟化资源的分配、调配和服务能力,根据所检测到的云应用服务对云资源的需求情况,及时
10、回收或者重新调度、分配云系统资源,保证SLA需求。(2)提高虚拟化管理的资源规模伸缩能力。云系统能够根据应用服务的资源需求、不同时段的资源使用量以及资源成本等,合理的分配云资源。(3)提高虚拟化资源管理的可控性与可迁移性。管理员可将云系统资源灵活分配给相应用户与硬件设备,并采用最优化算法提高云资源迁移与分配的效率,防止时间延迟与服务效率下降。(4)通过资源虚拟化管理与调度,提高云平台运营效率并降低云系统电能消耗,实现经济、低碳的运营目标。2.2. 研究内容(1)云资源调度优化策略研究。云计算环境下的资源调度是一个NP完全问题。它以提高系统的整体性能,以及减少总的执行时间、资源消耗等为调度目标,
11、按照制定的资源分配策略,将任务发送到对应的资源节点上有序执行,以期得到更好的分配方案。在进行云资源分配的过程中,对云资源中的虚拟资源动态伸缩模型进行研究。达到虚拟资源弹性分配的目标,使其能够根据用户需求动态的分配资源,既能够满足用户负载高峰期的资源需求,又能降低用户负载低谷期的资源耗费。对虚拟机的动态迁移算法进行研究。由于物理资源具有异构性强,规模大的特点,而导致云数据中心内物理机之间的负载不均衡,资源利用率较低,通过采用虚拟机动态迁移机制,将较高负载的物理机和较低负载的物理机上的虚拟机迁移到最佳负载的物理机上,达到负载均衡,提高系统资源利用率,同时在保证系统性能的前提下关闭部分物理机,能够降
12、低系统能耗。对任务优化调度算法进行研究。云资源分配实际上就是将各个云用户应用服务中的任务分配到异构的资源上,其最终目标就是以最优的资源分配策略实现最优的任务处理过程。任务分配就是指将各个并行执行的任务分配到具体的资源上。在降低任务执行时间的前提下,考虑云资源成本因素,对云资源下的任务调度算法进行研究,达到缩短任务执行时间,降低资源耗费的目标。(2)云资源管理调度系统研究在云计算环境中,通过虚拟化技术,可将云资源划分为物理资源层、虚拟化资源层以及应用服务资源层,通过资源管理调度平台来对云资源进行管理和调度,从而满足用户服务需求。云平台上的资源管理与调度的内容主要涉及云基础设施系统资源、云应用服务
13、资源以及云网络系统等方面的内容,其具体可分为对云基础设施物理设备、云计算资源、云存储资源以及云数据中心内部网络等部分系统资源的管理与调度。通过从安全性、高效性、可控性以及经济性等方面,来对云资源管理与调度的优化进行研究。2.3. 已解决的关键问题(1)指定云资源管理调度系统性能指标在一个云计算系统中,各用户对云计算服务有其各自的需求。云资源管理调度系统在保证系统整体性能的前提下,根据用户任务具体的需求,为用户提供匹配的调度决策。在调度系统中,一个优化的调度算法需要考虑成本、资源利用率以及负载均衡等性能因素。(2)提高弹性化管理、调度性能云环境下,用户服务资源需求与分配始终处于动态环境中,对云资
14、源(计算资源、存储资源及网络资源)的管理与分配的准确、合理、适用、经济性,是保证云用户服务质量与云资源安全、可靠、经济的前提。云资源调度系统采用动态资源分配算法能够根据资源负载的动态变化过程,合理的增加或减少云资源,保证用户服务性能的同时也能够减少资源的闲置与浪费。(3)提高资源负载均衡在云资源调度的过程中,由于用户需求的多样、动态变化以及服务器的资源异构性会导致数据中心出现负载不均衡的情况,致使一部分物理机的负载过重,效率降低,而另一部分则负载较轻而处于空闲状态。这些问题会造成云资源大量的浪费和损失。通过对云数据中心的资源调度过程进行优化,根据资源节点负载区间进行约束,来平衡物理机之间的负载
15、以提高资源利用率以及系统整体性能。(4)增强资源管理与调度安全性在云资源管理、调配中,保证云资源管理与调度模块的安全性。利用资源监测模块来监测云数据中心资源状态,当云平台调度模块出现故障时,将因故障而停止的管理、调度任务快速迁移到其它管理节点,保证资源调度管理的不间断性。3.研究方案3.1, 云资源调度优化策略云资源调度的目标是实现云上资源的合理调度,即当用户发送资源请求时,系统能够根据资源调度算法为用户分配相应资源,既要满足用户服务质量需求,又能提高云数据中心的资源利用率,降低运行成本。其应用场景如图1所示。物埋帆1惚理/|九2图1资源调度应用场景在云资源调度管理系统中,资源调度算法起着重要
16、的作用,优化的资源调度算法是保证系统高效运行的基础,因此对资源调度算法的研究有着重要的意义。云计算环境下的资源调度问题是一个非常复杂的研究课题。其研究领域主要包括虚拟资源动态伸缩调度、虚拟机动态迁移算法以及基于任务层的任务调度算法。通过对这些算法进行优化研究,来实现资源的优化调度,从而提高云资源管理系统的整体性能。3.1.1. 虚拟资源动态伸缩模型当用户向云资源数据中心提出申请时,系统会根据所需资源的情况,如计算能力、内存大小以及网络带宽等,来创建相应的虚拟机。早期通常采用固定分配的方式来进行资源分配,即根据用户请求分配相应的资源,运行之后不做任何调整。这样的做法很简单,但是无法满足动态工作负
17、载变化的资源需求。如果按照应用的峰值负载申请资源,则会导致资源的大量浪费,否则,当负载超出资源承载能力的时候,会造成请求延时,从而影响整体性能。因此,云资源管理调度系统应该能够根据用户负载的变化,进行动态可伸缩的资源分配。在动态伸缩模型的研究中,通过设定相应的性能指标来判断当前系统的性能状态,根据需求分配或释放云资源,从而能够满足负载高峰时的资源需求,提高系统性能,同时能够避免负载减少时造成的资源闲置与浪费。研究分析过程如下:(1)设定性能指标R在保证用户服务质量的前提下,将性能指标定义为:计算一个采样周期内已分配的每个节点上命中请求的平均处理时间与未命中请求的原始服务器平均响应时间的比值,求
18、所有节点上该比值的平均值,作为性能指标Ro(DR1nATIiKiAT2其中,AT1为已分配资源中第i个节点上,在当前采样周期内所命中请求的平均处理时间,即从任务请求到达分配资源到请求处理完成所用的时间;AT2i为已分配资源中第i个节点上,当前采样周期内所有未命中请求的原始服务器平均响应时间,n为已分配资源中当前节点数。R值表示用户请求在已分配资源上的服务质量参数,由上述关系式可知,R值越大,其性能越差,R值越小,其性能越好。R值得大小受到资源节点上命中请求的平均处理时间、网络状态以及资源负载状态的影响。当已分配资源节点在采样周期内未命中请求的原始服务器平均响应时间相对比较稳定时,R值得大小随着
19、资源节点命中请求的平均处理时间同方向变化。因此可以配合阈值法,将应用服务质量的改善控制在一定的水平,从而达到提高资源利用率,且能降低资源成本的目的。(2)制定资源分配策略在制定资源分配策略时,利用性能指标配合阈值工作,选取适当的阈值范围匕也,当R值超出阈值时,则增加资源,反之则减少资源。由于用户任务可能出现瞬时峰值的情况,从而导致服务质量参数R短暂增大,若此时添加节点则会导致系统节点的频繁加入或释放而导致系统性能降低,针对这个问题,可以采用预测机制,通过对未来多个周期的R值进行预测,若预测值满足一定周期内超出阈值,则添加节点,否则不操作。可以采用一次指数平滑法来实现预测机制。通过该调度策略,来
20、保证系统性能在可接受的范围之内,同时尽量避免节点频繁的加入或释放过程,以减少系统性能抖动。其调度流程如图2所示。开始图2动态伸缩模型调度流程图3.1.2. 虚拟机动态迁移算法在云数据中心,由于物理资源具有异构性强,规模大的特点,而导致云数据中心内物理机之间的负载不均衡,物理机存在着大量的资源碎片,资源利用率较低。针对这一点,可以在云数据中心的资源调度过程中采用动态迁移技术,通过某种规则,将物理机中的资源分配进行调整,从而达到优化的目的。物理机中的资源被封装到各虚拟机内部,资源分配的调整可通过对虚拟机进行动态迁移来实现,在整个资源调度的过程中,利用将空闲的物理机关闭来达到提高利用率的目的,然而云
21、计算环境中资源规模庞大,资源的调度会随着用户的需求动态变化,物理机的运行状态不断改变,虚拟机迁移频繁同样会造成系统开销的浪费。为了达到负载均衡的目的,又不至于造成虚拟机迁移频繁所产生的大量开销浪费,在资源调度过程中可采用多阈值的方法判断资源调度参数,从而确定是否进行虚拟机迁移。首先,对物理机的负载状态根据最佳负载区间进行划分,根据物理机当前及以前的负载状态,采用一次指数平滑法对物理机的未来周期的负载进行预测,当判定物理机负载过高,则需要将该物理机中的虚拟机迁移到目标物理机。通过合理的设置物理机负载饱和率区间,来实现系统整体的负载均衡,通过对物理机的负载预测可以解决由短暂峰值造成的虚拟机频繁迁移
22、的问题。(1)参数定义在虚拟机迁移策略中,要确定需要进行迁移的虚拟机以及目标物理机,就需要对物理机和虚拟机进行资源量化监控,通过对计算资源、存储资源以及网络带宽这三种资源的资源利用率来量化负载的情况。定义如下三个参数分别描述物理机资源利用率:UicpumemUiUinetcpuvmjvmjmitotal:"memvmjvmjmimemtotalinetvmjvmjmitotalinet(2)其中,U:pu资源利用率;cpuvmj(3)、Uimem和Uinet分别表示物理机mi中的CPU、存储和网络带宽的vmjmem和vmjnet分别表示物理机m上部署的虚拟机vmj的CPU"
23、存储和向索取宽资源的覆粕;totalicpu>tota1imem和total,分别表示物理机mi中的CPU、存储和网络带宽资源的总和。根据物理机上的资源利用率,定义资源的最佳负载区间thmin,thmax,当物理机资源利用率在区间内时,可知该物理机处于性能最佳状态。因此,可以通过判断资源利用率是否在最佳负载区间内,来确定负载均衡调整的时机。根据物理机上的负载状态,定义系统的负载饱和度:LoadSt1s其中,LoadSt表示数据中心在t时刻的负载饱和度。1。表示经过负载均衡后处于最佳负载区间的物理机的数量,1s表示经过负载均衡后所有有负载的物理机数量。定义系统最佳负载饱和度在1Smin,1
24、Smax,使得在进行负载均衡调整的过程中能够留下部分低负载状态的物理机节点,满足负载动态变化的需求,同时能够关闭不必要的物理机节点,降低系统能耗。(2)虚拟机迁移策略在虚拟机迁移策略中,通过对物理机集合的负载监控数据进行判断,来确定是否需要把高负载物理机上的部分虚拟机迁移到其他服务器上。在对物理机和虚拟机资源利用信息进行采集过程中,定义资源采集周期为T,每隔一个采样周期T,对采集的数据进行分析,判断其是否超出最佳负载区间的上限thmax,若采集的负载参数在持续的一段时间内超过thmax则触发负载均衡操作。由于在实际环境中,系统经常会出现一个瞬时负载值大于thmax的情况,若当资源负载参数大于t
25、hmax就触发虚拟机迁移操作,这样系统就会进行频繁的虚拟机迁移,从而造成不必要的资源浪费。因此,可以对物理机负载状态进行预测,从而避免因瞬时负载值大于thmax而造成的虚拟机迁移。目前,一些学者对物理主机负载预测进行了研究,发现主机负载的变化具有自相似性、长期依赖性12o因此可以采用一次指数平滑法的负载预测机制来对未来的负载状态进行预测。一次指数平滑法根据对本期观察值和本期预测值赋予不同的权重,来求得下一期预测值的方法。采用一次指数平滑法对物理机负载的预测公式为:FtiYt(1)Ft(01)(4)其中,Fti为T+1期的指数平滑趋势预测值;Ft为T期的指数平滑趋势预测值;丫为T期实际负载值;为
26、权重系数。取采样周期的前三个周期的平均值为初值,对当前采样周期以及未来采样周期的负载进行预测,若计算所得未来n个采样周期中有k个采样周期的负载值超过thmax,则触发负载均衡操作。(3)选择需要迁移虚拟机和目标物理机对物理机和虚拟机进行资源量化监控的过程中,根据采集到的负载参数信息将物理机进行分类,分为高负载、最佳负载和低负载三类,对于处于高负载的物理机,按照其CPU、存储以及网络带宽这三个性能指标进行标记。当负载均衡调整触发之后,需要对高负载物理机中的虚拟机进行迁移。根据高负载物理机的标记类型来寻找需要进行迁移的虚拟机。若该物理机标记为CPU负载过高,则在该物理机中选择CPU需求最大的虚拟机
27、进行迁移;若该物理机标记为存储负载过高,则在该物理机中选择存储需求最大的虚拟机进行迁移;若该物理机标记为网络带宽负载过高,则在该物理机中选择网络带宽需求最大的虚拟机进行迁移。如果迁移后,源物理机资源利用率依然过高,则选择资源利用率排序次之的虚拟机进行迁移,直到该物理机的负载处于最佳负载状态为止。同理,将处于低负载状态的物理机上的虚拟机迁移到相应的目标物理机上。对于目标物理机的选择,需要满足被迁移虚拟机的资源需求。在处于低负载的物理机中查找可以进行迁移的目标物理机。首先对该物理机进行预判断,计算假设虚拟机迁移之后的负载情况,若负载情况处于最佳负载状态,停止查找,进行虚拟机迁移。若负载情况处于高负
28、载状态,选择其他节点。其他选择迁移之后负载参数离thmin最近的物理机作为迁移目标服务器。根据上述过程,该策略的设计流程如图3所示。图3虚拟机动态迁移流程(4)负载均衡调整策略将处于高负载状态的物理机进行负载均衡调整之后,计算系统的负载饱和度Load0,若其处于最佳负载饱和度区间lSmin,lSmax,则不做进一步调整;若小于lSmin则关闭部分处于低负载状态的物理机,降低系统能耗;否则向云数据中心中请新的物理资源。3.1.3. 任务优化调度在云计算环境下,云资源分配实际上就是将各个云用户应用服务中的任务分配到异构的资源上,其最终目标就是以最优的资源分配策略实现最优的任务处理过程。其分配的过程
29、包括资源分配和任务分配。任务分配就是指将各个并行执行的任务分配到具体的资源上。现有的任务分配研究主要以最小完成时间为研究目标,而忽略了成本以及资源耗费等问题。由于云计算中的资源都是付费使用的,而费用的开销主要为对云资源的使用时间上,因此,从经济低成本的角度而言,云资源调度研究在满足SLA的前提下,应尽可能的缩短任务总体完成时间,提高资源利用率。现有的任务调度算法研究中先后提出了Min-Min、Max-Min等算法,这两种算法均是对时间贪心,以降低任务完成时间为目标来进行调度,但并没有考虑资源耗费的问题,针对这个问题,本文提出了Priced-Min-Max算法,能够有效的降低任务总执行时间,同时
30、能够提高资源利用率,降低资源耗费。(1)优化策略在云资源的分配过程中,资源的处理能力不同,其资源耗费也就不同。实际情况下资源处理能力越强,其相应的资源成本也就越高,而当资源的处理能力增大时,其对应的耗费会大幅上升。因此,可将资源处理能力与其资源成本用指数的关系进行表示。在计算任务执行时间时,对其进行成本的加权计算,在考虑资源成本的前提下,得到最优的分配方案,从而降低执行成本。(2)设计思路根据虚拟机处理能力与其资源的关系,设定资源的单位处理能力下的资源耗费为P,令Pk*neni,其中,ni为各个虚拟机对应的能力量化参数,由虚拟机本身决定。因此,资源耗费可表示成单位处理能力下的资源耗费与执行时间
31、的乘积。在Min-Max算法的基础之上,将所有资源的执行时间按照处理能力耗费进行加权相加,然后再选出最优的任务一资源分配策略,达到降低执行成本的目的。(3)算法设计首先,定义相关参数:RTj:表示资源口准备好的时间;EC'j:表示任务ti在资源口的预测执行时间;FT(i,j):表示任务ti在资源口上的预测完成时间,即FT(i,j)=RTj+ECTi,j;MCTi:表示任务ti的最小完成时间;TTj:表示资源rj的总的执行时间;Costj:表示资源口上的资源耗费,由上述说明可得Costjnjenj*TTj。算法执行过程:将所有任务加入任务集丁储心,tn),判断任务集T是否为空,若不为空,
32、则继续执行,否则跳转到步骤;计算任务ti在各资源上的最小预测完成时间,即矩阵FT。?;根据矩阵FT(i,j),找出具有最小的最小完成时间的任务ta和最大的最小完成时间的任务tb,将其组成任务对;将该任务对分配给当前处理最快的资源rk上进行执行; 从任务集T中删除任务对ta和tb; 更新资源就绪时间RTj以及任务预测完成时间FT。?; 统计资源的执行任务次数以及执行时间,返回;将所有资源的执行时间按照处理能力耗费进行加权相加,得到该任务集的资源总耗费;该算法的流程图如图4所示。图4任务调度优化算法流程图(4)实验分析为了验证所提出的算法的性能,在CloudSim平台上进行实验仿真。在实验中,创建
33、了三个虚拟机节点,分别对应资源集R(。,r2,%),其相应的处理器速率分别为3MIPS(1MIPS=10000),2MIPS,1MIPS,通过改变云环境中需要调度的任务数,来对比分析该算法与Min-Min以及Max-Min算法在负载均衡、总完成时间以及资源总耗费这几个方面的性能。在仿真的过程中,对固定数量的任务进行调度,每次设定一个固定的任务数,在三个虚拟机上执行,分别实现三种算法的调度,记录在相同任务数的情况下,不同算法的资源资源利用率、总完成时间以及资源耗费。1)负载均衡当任务数为30时,在给定的虚拟机上执行三种算法的任务调度过程,对虚拟机的运行次数进行统计,根据统计结果来计算相应虚拟机在
34、不同算法下的资源利用率如图5所示Max-Min法资源利用率Min-Min算法资源利用率(a)Min-Min算法资源利用率(b)Max-Min算法资源利用率Priced-Min-Max算法资源利用率(c)Priced-Min-Max算法资源利用率图5三种算法的资源利用率对比图由上图可知,当任务数为30时,优化算法相对Min-Min算法和Max-Min算法,在负载均衡方面有显著的提升,能够很好的利用资源。当增加任务数时,Min-Min算法和Max-Min算法负载不均衡现象越来越严重,因为Min-Min算法每次都是将最小的任务分配给处理最快的资源,当任务的大小呈线性分布时,会导致处理速度最快的虚拟机
35、一直处于工作状态,而处理速度较慢的虚拟机会处于闲置状态,因而造成严重的负载不均衡现象;而Max-Min算法则是优先处理最大任务,同样也会造成负载不均衡现象。Priced-Min-Max算法将小任务与大任务进行绑定,然后对任务对进行处理,从而能够在一定程度上改善负载不均衡现象。2)任务总完成时间在任务调度过程中,任务的总完成时间是一个非常重要的指标,任务总的完成时间越短,说明该任务调度系统效率越高,其服务质量也就越高。在本次实验中,同样通过改变任务数来比较三种算法调度不同任务数的总完成时间,其结果如图6所示。任务总完成时间任务数Min-MinMax-MinPriced-Min-Max图6任务总完
36、成时间由上图可知,改进的Priced-Min-Max算法相对于Min-Min算法和Max-Min算法,在任务总完成时间上有了很大提高。因为Min-Min算法总是优先将最小完成时间中的小任务映射到执行速度最快的虚拟机上,同一台虚拟机在处理下一个任务之前必须等待前一个任务执行完毕,即需要一个等待时间。Max-Min算法与此类似,只是优先处理大任务,因此也会造成总完成时间过长。而Priced-Min-Max算法每次都将最小完成时间任务集中的最大值和最小值同时映射到完成该任务对的虚拟机上,并行执行任务对,这将大大缩减任务的总完成时问。当任务数逐渐增大时,改进的Priced-Min-Max算法在总完成时
37、间上的优势更加明显。如表1所示,当任务数越来越大时,Priced-Min-Max算法由于采取了并行映射任务对的方式,大大提高了任务的完成效率,减少了任务的完成时间。表1总完成时间对比任务数Min-Min算法Max-Min算法Priced-Min-Max算法3007593749918866003017929998360012009997010016163883)资源耗费资源耗费受到虚拟机本身处理能力以及虚拟机执行时间这两个方面的影响,虚拟机处理能力越强,执行时间越长,则其费用也就越高。在本次实验中,在给定资源集上进行任务调度,根据上述算法设计中给出的资源耗费计算公式,来比较不同任务数量下,三种算
38、法的资源耗费,其结果如图7所示。资源耗费MQMin-MinIIIMax-MinIllPriced-Min-Max千费耗源资图7三种算法资源耗费对比图由上图可知,优化的Priced-Min-Max算法在资源耗费上远少于Min-Min算法和Max-Min算法。这是由于在相同处理能力的虚拟机上执行任务调度时,Priced-Min-Max算法能够有效的降低任务执行时间,同时,该算法较其他两种算法起到更好的负载均衡效果,能够有效的避免处理能力强的虚拟机繁忙,而处理能力弱的虚拟机闲置而造成的较高的资源耗费的情况。因此,该算法相比于其他两种算法,能够有效的降低资源耗费。如表2所示,当任务数逐渐增大时,改进的
39、Priced-Min-Max算法在资源耗费上的优势更加明显。表2总费用对比任务数Min-Min算法Max-Min算法Priced-Min-Max算法30058255058309162835600233337423324831235241200775216477756492151193综合上述结果,优化的Priced-Min-Max算法相比Min-Min算法和Max-Min算法而言,在负载均衡上有了很大的提高,有效地改善了资源的利用率,同时减少了虚拟机的总执行时间和任务的总完成时间,大大减少了调度的资源耗费,在性能上有了很大的提高。3.2, 云资源管理调度系统3.2.1, 云资源管理调度系统架构
40、在云资源管理调度系统中实现对资源的管理与调度,能够对云资源进行管理,根据用户需求来分配云资源。通过虚拟化技术可将云资源划分为物理资源层、虚拟资源层、管理层和服务层,其系统总体架构如图8所示。服务层服务管理用户管理图8云资源管理调度系统架构图物理层主要由云数据中心的各种计算服务器、网络设备、存储设备以及各种管理与监测服务器等云基础设施硬件设备组成。在云数据中心建设中,应坚持区域结构功能划分与高性能模式,确保云基础设施资源结构具有较高的管理逻辑性与功能可扩展性。虚拟化资源层是利用虚拟化技术对物理资源进行逻辑映射,而划分为计算资源、存储资源以及网络资源等的虚拟化资源池,通过系统管理员来对其资源的类型
41、、规模以及应用方式等进行按需分配和管理。管理层包括对云资源的监控、管理以及调度等,确保云系统与云应用服务安全、高效以及可靠运行。服务层为云用户提供应用服务,满足用户服务需求。3.2.2, 云资源管理调度系统平台云资源管理与调度主要是对云计算资源、云存储资源以及云网络资源的虚拟化管理以及动态调度。通过对云资源的统一管理、监控、部署以及调度,实现对资源安全、高效、经济的管理。云资源管理与调度系统示意图如图9所示。3、狄取负源诏本缶息资源管理1、发送资源请录资源调度2、获取资源信息VMVMVMVM查找目标物理机1T(查找目标物理机8S管理员用户;物理服务器管理接口Monitor判断负载状态触发负载均
42、衡Provisioner分析用户请求1创建虚拟机选择迁移虚拟机动态创建虚拟机部署虚拟机IJ执行虚拟机迁移|图9云资源管理调度系统工作图该系统的管理与调度过程如下:(D当用户发起云服务请求时,用于与云资源控制中心进行交互,并向云资源管理中心发送资源请求;(2)资源管理中心接收到资源请求之后,利用资源监控模块对云数据中心的物理资源以及虚拟机的当前负载信息进行采集;(3)资源管理模块从服务管理模块中读取用户申请的详细信息,根据用户申请的资源配置生成相应的资源合约,将这些信息发送到服务管理模块;(4)资源管理模块结合资源请求合约信息为用户创建虚拟机,通过资源调度功能对用户部署虚拟机。在云资源管理调度系
43、统中,主要包括两个基本功能模块:服务管理模块和资源管理模块。服务管理模块主要为系统管理员和用户提供一些基本的管理功能,主要负责管理用户租用云服务器资源所产生的合约信息等;资源管理模块主要是根据资源管理策略实现云数据中心的物理资源和虚拟资源的统一管理,针对用户的资源请求信息,查看现有资源信息并对用户的资源请求进行分配。资源管理模块主要包括资源定义、资源监测和资源调度三个功能模块。资源定义模块是将云数据中心的资源实体进行管理;资源监测模块主要用于监测云数据中心物理机和虚拟机的资源利用情况和运行状态,对云数据中心各节点的负载情况进行采集、分析,从而实现对资源进行合理调度;资源调度模块根据资源监测模块
44、所获取的数据,执行资源调度算法,为云数据中心资源进行合理调度。云资源管理调度系统功能结构如图10所示。资源定义资源监测资源调度图10系统功能结构图3.2.3.云资源调度云资源的调度目标就是实现以下两个主要任务:(1)收到用户请求之后,对用户的请求进行分析,根据用户需求来为其分配相应的云资源,并能够根据用户负载的变化,动态的增加或减少云资源。(2)当系统内部触发资源均衡调整时机时,系统可以采用负载均衡算法进行资源调度重新分配资源。在进行资源调度的过程,首先通过资源监测模块,获取云数据中心的资源信息,然后根据资源调度模块中的资源调度优化算法,对云资源进行优化调度。1、资源监测模块在云数据中心,资源
45、监测模块在云数据中心的不同的节点上部署监视器,并按周期采集云数据中心的资源利用信息,在云控制服务器上部署云监视器负责接收各个节点监视器发送的负载数据,对数据解析之后保存到数据库中,通过对采集的数据进行分析,为虚拟机部署和负载均衡调整提供指导。资源监测模块的结构图如图11所示。分群N监视器虚拟机物理机机监视器8包既物理服务器集群控制服务器物理服务器虚拟机监视器集群控制服务器集群,1集群配置监视器文件集群配置文件图ii资源监测模块结构图在资源监测模块中,各个节点监视器包括物理机监视器、虚拟机监视器和集群监视器,他们的功能主要是采集节点系统参数数据和资源负载数据。云控制服务器上的云资源监视器负责接收
46、各个节点监视器发送的负载数据。物理机监视器:在每台物理机上安装物理机监视器,负责监视该物理机的资源(CPU、内存、带宽等)消耗情况和物理机配置信息。虚拟机监视器:在每个虚拟机上安装虚拟机监视器,负载监视该虚拟机的资源(CPU、内存、网络带宽等)消耗情况。集群监视器:安装在每个集群控制服务器上,可以访问该集群内所有物理机监视器和虚拟机监视器,并自动获取其信息。云资源监控器:安装在云控制服务器上,它可以访问数据中心内的集群监视器和节点监视器,接收来自各个监视器上的数据,并对其进行分析处理。同时,资源监测模块还需要对硬件设备进行故障检测,当云平台调度模块出现故障时,应将因故障而停止的管理、调度任务快
47、速迁移到其它管理节点,保证资源调度管理的不间断性,从而保障系统的安全性。2、资源调度模块云资源调度过程如图12所示发送请求用户资源调度判断负载状态分析用户请求触发负载均衡动态创建虚拟机选择迁移虚拟机资源监测查找目标物理机查找目标物理机部署虚拟机执行虚拟机迁移图12云资源调度过程图首先资源监测模块对云数据中心的物理设备、虚拟化资源分配与使用状态、用户资源请求等进行监测并记录,并将这些信息记录到全局监测数据库中。然后根据这些数据来对云资源管理与调度效率进行分析处理。当用户发送资源请求时,该模块负载收集并分析数据库中用户通过前台提交的资源请求,按照其资源需求为用户合理的分配虚拟资源,通过参考资源监测
48、模块采集的当前系统的负载状态,选择合适的目标物理机,来部署虚拟机。同时系统对物理机的资源(CPU、内存、网络带宽)利用率设定阈值,当物理机负载在连续超过阈值时则判定为负载过重状态,并会触发负载均衡,在负载过重额物理机上选择合适的虚拟机,选择其他资源空闲的物理机作为目标物理机执行虚拟机迁移,从而使云数据中心资源达到负载均衡状态。在资源调度模块中,根据用户资源请求来为用户创建并部署虚拟机。在此过程中,采用优化的资源调度策略,在满足用户的服务质量需求的同时,且能够达到系统资源负载均衡,有效降低系统能耗、执行成本等。4.本项目的主要工作与创新之处在云资源管理调度系统中,资源调度算法决定了系统的整体性能
49、,本文从三个方面对云计算资源调度技术进行了研究,针对云数据中心资源利用率偏低以及负载不均衡等问题提出了优化方案。由于云环境下的用户任务处于动态的变化之中,采用虚拟资源动态伸缩的分配方式能够满足用户任务下资源负载增加时的资源需求,提高系统性能,同时通过预测机制,能够有效的避免由用户负载出现短暂峰值时资源节点的频繁添加或删除而导致的系统抖动,同时还能够避免负载减少时造成的资源闲置与浪费。针对数据中心资源利用率较低的问题,采用虚拟机动态迁移策略来实现物理节点上的负载均衡,该算法采用负载预测机制的策略忽略瞬时负载峰值的影响,避免了瞬时峰值引起的不必要迁移,降低了由此带来的系统开销;根据虚拟机的负载特征,完成对迁移虚拟机的选择以及用最佳适应算法寻找虚拟机迁移的目标物理机;通过最佳负载区间约束节点资源利用率,使物理机资源负载平衡。为用户分配资源后,基于用户任务的任务调度过程中,从提高资源利用率,降低资源耗费方面,提出的Priced-Min-Max算法,考虑到了资源成本的问题,能够有效的降低资源耗费,同时提高资源利用率。在云资源管理调度系统中,通过对云资源的统一管理、监控、部署以及调度,实现对资源安全、高效、经济的管理。在对云资源进行调度的过程中,通过采用上述优化的资源调度算法,能够有效的提高系统的整体性能。本项
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 电子工程堆场租赁协议
- 滑雪度假村绿化草坪铺设协议
- 教育装备采购电子招投标指南
- 医院绿化景观建设与维护合同
- 建筑加固玻璃钢施工协议
- 庆典活动产权租赁合同
- 咨询公司员工住宿租赁协议
- 科研机构电工聘用合同
- 《网络综合布线系统工程技术实训教程(第5版)》 课件 第1章 网络综合布线系统工程技术
- 消防安全宣传教育管理办法
- 2024年榆林科创新城产业发展集团有限公司招聘笔试冲刺题(带答案解析)
- 王远方故意杀人案庭审笔录解读
- 学校班主任培训制度
- 第10课《养成遵纪守法好习惯》第2框《履行遵纪守法义务》-【中职专用】《职业道德与法治》同步课堂课件
- 机械设计答辩常见问题及对策
- MOOC 创新与创业管理-南京师范大学 中国大学慕课答案
- 2019年1月自考00804金融法二试题及答案含解析
- 新建低空经济产业园建设项目可行性研究报告
- 小区物业电动车管理方案
- 2017年10月自考00258保险法试题及答案含解析
- (高清版)TDT 1057-2020 国土调查数据库标准
评论
0/150
提交评论