基于双层体系结构的分布式虚拟集群升级版

基于双层体系结构的分布式虚拟集群升级版

0网际染染技术研究随着数字媒体技术的快速发展，三维动画技术尤其是高速的发展。三维动画集群渲染技术为解决“渲染瓶颈”提供了一种有效的方法，但传统的集中渲染不能满足当前的应用需求。分布式矩阵渲染系统应该发挥更多的作用。当前,三维动画渲染的研究已经涉及很多方面,在网络集群渲染方面,李树声提出网络集群渲染在3D动画制作中的应用并阐述其技术优势。并行渲染方面,如基于Sort-middle架构的InfiniteRealityEngine、采用Sort-last架构构建的PixelFlow、基于Sort-first架构的WireGL和“可扩展显示墙”,以及综合采用Sort-first和Sort-last两种架构的AnyGL等。在协同渲染方面,文献介绍了一个基于图形与图像混合建模和绘制技术构造的多用户分布式虚拟环境系统。文献则利用DirectX的渲染引擎和CORBA等技术,实现了分布式虚拟样机可视化框架的构建。文献在基于特征的3D建模技术和Java技术基础上提出了一种客户端/服务器端的协同设计环境。其它方面,文献提出基于WebService的分布式三维渲染,文献则对协同计算环境下的渲染技术进行了研究。笔者结合企业集群和虚拟社区的概念提出虚拟渲染集群,以传统集群(塔式、机架式、刀片式)为主体,以企业内PC机为补充,建立统一的资源管理策略,对外映射为单一映像,允许渲染节点动态地进入和离开以实现“按需部署”。分布式虚拟集群渲染系统的双层体系结构,不仅可以解决集群内部动画渲染的需要,也为网际渲染提供了有效的途径。另一方面,分布式渲染及分布式环境下渲染资源的发现研究较少,目前集中在发现算法方面,比如Sycara等提出的五种服务资源发现策略;Raman等提出的多资源和多需求之间的匹配算法以及管在林等提出采用Agent进行制造服务的定义和描述,并采用集中式和分布式中介进行资源和服务的查询方法。1虚拟集群染化系统结构本文针对三维动画渲染和分布式系统的特点,设计并开发了分布式虚拟集群渲染系统,采用由资源搜索网、虚拟集群网共同组成的双层体系结构(图1)。资源搜索层由大量虚拟集群所对应的资源路由器(R-Router)组成,系统建立以资源搜索为主体的上层信息网络,为各个不同的虚拟渲染集群提供统一的接口和协议,以此来解决跨组织、跨平台的信息共享、资源共享和合作问题。在资源搜索层,资源路由器向资源搜索层中其它的结点查找符合要求的资源信息,如果找到则将其所在的地址返回给资源请求结点。资源路由器完成的功能相当于网络路由器对IP地址的查找,只不过这里所关心的是资源的匹配而已。虚拟集群层由大量虚拟集群实体组成,分布式协作的方式必须建立在体系结构的自治机制上,允许节点的动态进入和离开,系统以虚拟集群为管理单位,即允许系统内虚拟集群的动态进入和离开,也允许虚拟集群内工作结点的动态进入和离开。虚拟集群渲染系统以管理节点为核心,分发节点为补充,渲染节点为主体,虚拟集群渲染系统体系结构如图2所示。虚拟集群渲染系统最上层为管理层,包括总控节点(Master)、源文件服务器(SourceServer)、目标文件服务器(TargetServer)、域管理服务器、流量监测器以及邮件服务器,用于对本地虚拟集群的管理。用户通过访问系统页面来完成任务提交、查看和管理。系统对接收到的任务进行合法性检查,并解释任务参数,根据任务优先级对任务进行排序,分解任务所需资源请求,并向资源管理器(R-Manager)请求任务所需资源。作为整个虚拟集群的核心,它还负责对整个系统的运行情况进行监控,包括机器监控、任务监控以及用户监控。系统管理员可以查询到所有的用户及其任务的运行情况,系统自动监控渲染任务执行情况并实时地将渲染状态反馈给系统管理员。虚拟集群中间为虚拟分发层,由大量的虚拟分发节点(VirtualDispatcher,VD)组成,一台物理机器对应多个虚拟分发节点。虚拟分发层位于虚拟集群的中间,向上联接管理层,向下联接渲染层。虚拟分发层受管理层的监控,接受来自管理层的命令完成对本机的操作,同时又对渲染层结点进行监控,确保渲染任务的顺利完成。每一个虚拟分发节点负责一个任务的管理和监控,随着任务的存在而存在,任务一旦完成,VD资源也随之被收回。虚拟集群的最下层由大量的渲染节点(Render)组成,在渲染系统中每个渲染节点都是对等的,渲染节点“按需部署”,允许渲染服务器或PC动态加入系统。渲染层中的每个渲染节点由状态监听器、消息接收器、渲染启动器、资源扫描器和资源注册器五个部分组成。渲染层监听并处理来自管理层和分发层的消息,启动渲染器完成任务渲染,同时对渲染结点进行资源扫描及更新。2分布式环境的选择在企业内部的应用环境下,渲染资源发现可以采用类型检索、关键字检索等直接方式实现,但这些方法并不适用于资源类型多样化、数量巨大且状态动态变化的分布式渲染环境。渲染资源搜索需要以渲染任务的功能需求为核心,通过对渲染功能需求的分解和分析,依据需求因素的重要程度,划分为不同的参数集合,并在这些参数集合的基础上与资源提供方所定义的资源参数并行匹配验证,从而获得所需渲染资源对象。2.1资源描述和资源参数网络环境下资源分散性、信息模糊性以及渲染过程的复杂性使得渲染资源的获取和评价成为资源集成和优化配置的关键。分布式虚拟集群渲染的资源搜索过程主要包括三个部分,即任务描述、资源描述以及资源匹配。任务描述是资源请求方通过对任务的分解和约束检验,形成资源请求描述,并以XML形式存储在R-Manager当中。资源描述是资源提供方通过对其拥有的资源进行分类、提取,生成以XML形式表达的资源描述文件并发布在R-Router当中。任务描述和资源描述是资源匹配的基础,采用XML描述可消除资源请求方和资源提供方在表述方法和理解方法上的差异,并提供资源定义的扩展能力。抛弃所有与渲染无关的资源特性,抽取那些代表渲染要求,且可以被简单量化和统一表示的部分来描述渲染资源,被提取出的资源信息称为资源参数。资源参数由若干系统参数和渲染能力参数组成。系统参数主要是一些静态参数,包括渲染资源的网络地址、集群处理器数目、地理位置等。渲染能力参数主要是一些动态参数,描述资源的渲染能力,这些参数往往会随时间的变化而变化。虚拟集群渲染能力的影响因素繁多,包括集群计算能力、网络带宽、渲染器类型、内存大小、存储容量等。提取其中影响最大,最为主要的三个因素:渲染器类型、可用处理器数目和处理器主频来评价虚拟集群的渲染能力。2.2染整型的可恢复资源助制函数已有的相关或类似资源搜索技术都无法满足三维动画集群渲染领域的特殊要求,很难有效地描述资源的渲染能力。分布式虚拟集群渲染系统的资源搜索主要是指集群渲染能力的计算和排序,在进行资源搜索时,首先分别计算对渲染能力影响最大的几个参数,然后计算集群的整体渲染能力,最后对集群渲染能力排序找出能力最强的虚拟结点。渲染能力参数的计算是集群渲染能力计算和排序的前提,计算的结果作为集群渲染能力计算的输入。系统采用三个参数计算函数:渲染器函数θ(x1,x2)、信度函数ω以及计算能力函数μ。渲染器函数确定渲染资源是否可用,如果渲染器类型不匹配,即使渲染能力再强,也是不可用的。θ值为1表示渲染器类型匹配成功,0则表示资源提供方不能提供资源请求方任务所需的渲染器。θ(x1,x2)={1‚x1∈x20,x1∉x2式中x1为任务定义所需的渲染器类型,x2为资源定义所提供的渲染器类型。信度函数体现了资源提供方完成资源请求方任务的历史情况。在每一个虚拟集群内都有一个配置文件记录所有分布式虚拟结点的信度值,每成功完成一次远程任务作业,对应的虚拟结点信度加0.1,失败则信度减0.1,ω初始值为1。ω={ω+0.1,finishedtasksuccessfulω−0.1,finishedtaskunsuccessful集群计算能力函数反映了集群的计算能力,一般来讲,计算能力越强,渲染能力也就相应越强。本文以资源提供方当前可提供的可用CPU数目和CPU的主频的乘积来表示。μ=Ncpu*Fcpu式中Ncpu为资源定义所提供的CPU数目,Fcpu为资源定义所提供的CPU主频。渲染能力主要是综合考虑资源信度和计算能力,对资源提供方的整体能力进行评价。采用一个简单评价函数φ来计算资源的渲染能力。φ=θ*ω*μ显然,当渲染器类型不匹配时,φ的值为0,是不满足要求的。在计算出每一个结点的φ后,即可选择渲染能力最强的结点进行远程任务提交。2.3各等的、任意连接分布式虚拟集群渲染系统的资源搜索首先要求满足“本地优先”原则,在本地资源无法满足要求的前提下进行分布式资源搜索。通过资源评价选择最佳资源以减少不必要的任务迁移,从而尽可能地减少多次调度以防止系统抖动。分布式虚拟集群渲染系统的资源搜索层由大量高度动态的节点所组成,节点之间是对等的、任意连接的。每个节点只知道与其直接通信的邻居节点相关信息,当一个节点要求加入网络的时候先通过一定的方法获取它的邻居节点,然后该节点根据自己的能力及意愿维护一定数量的邻居节点。当已有的邻居节点下线的时候,该节点还可以通过再次获取来补充邻居节点。本文采用渲染资源评价搜索算法(RenderResourceEvaluateSearchArithmetic,RRESA)来进行资源搜索,当虚拟节点发起一次资源请求时,R-Router先生成资源请求消息,依据广度优先遍历算法搜索资源网内的每一个R-Router,依次计算每个虚拟结点的渲染能力,渲染能力评价最高的结点即为此次任务的资源提供方。由于分布式虚拟集群渲染系统属于特殊行业的企业联盟,区别于通常意义上的P2P网络,资源搜索层的结点数量和规模是相对有限的,所以一般的广度优先遍历算法已经可以满足系统要求,其关键是渲染资源的匹配和结点渲染能力的计算。3文创资源搜索效果分析笔者对分布式虚拟集群系统中的资源搜索算法进行了仿真实验。实验采用自己编写的程序自动生成了100个虚拟结点以及相应的渲染资源信息,系统每隔10分钟对每个虚拟结点的可用CPU数目进行一次扰动,每次扰动控制在30%以内。实验分别对RRESA和FMSSA(首次匹配成功搜索算法(FirstMatchSuccessfulSearchArithmetic))进行了比较,测试数据如下:从表1中可以看出FMSSA平均搜索的结点数仅为7.82个,搜索时间比较少,效率较高。FMSSA首次搜索成功率为91.38%,但随着时间的推移,由于分布式资源的不可确定性,10分钟后搜索资源的有效率就下降了近8%,30分钟后下降了27%。RRESA需要遍历整个资源搜索层,搜索时间较多,效率并不高。RRESA的首次搜索成功率和FMSSA是一样的,但随着时间的推移,资源失效率很低,30分钟后的资源有效率仅下降了5.64%。渲染资源有效率下降的速度过快会导致远程提交的渲染任务还未完成的情况下,由于资源提供方的渲染资源缺乏,以至无法满足远程渲染任务的要求,从而出现二次资源请求,带来分布式系统的抖动的整体效率