基于云计算技术的渲染应用.doc

江苏科技大学南徐学院江苏科技大学南徐学院 20112011 届毕业设计 论文 届毕业设计 论文 基于云计算技术的渲染应用 系 部 电子与信息工程 专业名称 通信工程 班 级 07428261 学 号 0742826120 作 者 江哲 指导教师 刘镇 20112011 年年 6 6 月月 8 8 日日 江苏科技大学南徐学院本科毕业论文 基于云计算技术的渲染应用基于云计算技术的渲染应用 Rendering based on cloud computing applications 江苏科技大学南徐学院本科毕业设计 论文 III 摘摘 要要 云渲染 是在传统渲染农场的原理基础上 采用云计算技术而形成的一种新型 渲染模式 因为云计算的核心思想是将大量用网络连接的计算资源统一管理和调度 构成一个计算资源池向用户按需服务 所以基于云计算的 3D 网络渲染可以解决传 统渲染农场中负载不均衡 单机效率低下 以及文件系统繁复所造成的管理混乱等 问题 本课题主要是研究云计算技术该如何应用在多机集群渲染中 从而能够达到负 载均衡 以及单机高效等指标 并且讲述应该如何构建一个云渲染平台 能够充分 发挥云计算的优点 解决文件系统繁乱复杂等问题 最终可以达到管理高效 自动 管理等目标 为了达到以上目标 所使用的管理软件必须包括三个模块 第一个模块为管理 控制台 XMC 第二个模块为渲染任务调度服务器 Master 第三个模块为渲 染节点程序 Slave 第一个部分为管理控制台界面 此模块体现出了云渲染中的高效管理和自动管 理 用户可以在界面中提交任务 主要特点为基于 WEB 的界面 用户不需要安装 客户端软件 即可以提交和监控任务 可以查看任务状态 以及划分后的每个子任 务的状态 并且可以查看每个子任务的输出 察看结果 可以改变任务的调度顺序 等 支持中文和英文 对于计算节点而言 可以监控节点的运行状态 支持远程对 节点关机 休眠和远程唤醒 第二个部分为任务调度服务器 该模块体现出云渲染中任务分配合理高效等优 点 该模块可以支持上百个渲染节点 其基本功能为将用户提交的任务划分成为子 任务后 分发到每个机群节点上运行 并且收集计算结果 节点之间的数据共享可 以采取 Windows 共享文件夹 在机群资源的管理上 采用四级映射机制 分别为 用户组 任务队列 节点组和文件服务器 两两之间都为多对多映射 可以根据具 体的应用环境 采取合适的资源分配 调度策略 第三个部分为集群节点上的执行引擎 该模块能够发挥云渲染中负载均衡的特 江苏科技大学南徐学院本科毕业设计 论文 IV 点 负责监控当前计算节点的资源 如果资源空闲 则从任务调度系统获取 执行 和监控子任务 包括输入 输出 并且负责将计算结果交给任务调度系统 从而最 终展现给用户 关键词 云计算 管理平台 文件系统关键词 云计算 管理平台 文件系统 江苏科技大学南徐学院本科毕业设计 论文 V Abstract Cloud rendering render farm in the traditional principle based on the use of cloud computing technology and the formation of a new rendering mode Because the core idea of cloud computing is to a large number of computing resources with the network connection unified management and scheduling to form a pool of computing resources on demand services to users Therefore network based cloud rendering 3D render farm can be solved in the traditional load imbalance inefficiency stand alone and document management system created by complex dislocation The main topic is to study how cloud computing technologies used in multi machine cluster rendering thus to achieve load balancing and single and high efficiency indicators and tells how to build a cloud rendering platform able to give full play to the advantages of cloud computing to address file Complicated chaotic system and complex problems eventually managed to achieve efficient automated management objectives To achieve the above objectives the use of management software must include three modules first module for the management console XMC a second module for rendering the task scheduler server Master a third module for rendering node Slave The first part of the management console interface this module reflects the cloud rendering of efficient management and automated management Users can submit tasks in the interface the main features of WEB based interface users do not need to install client software which can submit and monitor tasks you can view job status and after each sub division status of the task and can see each The output of sub tasks see the results can change the order of task scheduling etc support Chinese and English for the compute nodes we can monitor the operational status of the node remote node shutdown hibernate and remote wake up The second part of the task scheduling server rendering the module reflect the clouds in the rational and efficient distribution of tasks and so on The module can support hundreds of rendering nodes Its basic function is to be submitted by the user task into subtasks the distribution to each cluster node run and collect the results Sharing of data between nodes can take Windows shared folder Management of resources in the cluster using the four mapping mechanism respectively for the user group task queues and file server node group between two to many mapping between all based on specific application environment take the appropriate allocation of resources scheduling policy 江苏科技大学南徐学院本科毕业设计 论文 VI The third part of the cluster nodes in the execution engine the module can play cloud rendering load balancing features Responsible for monitoring the current compute node resources if resources are idle the task scheduling system from the acquisition implementation and monitoring of sub tasks including input output and is responsible for the results to the scheduling system and ultimately presented to the user Keywords Cloud Computing Management platform File System 江苏科技大学南徐学院本科毕业设计 论文 7 目录目录 第一章第一章 绪论绪论 5 5 1 1 研究背景 5 1 2 研究现状及存在问题 8 1 3 研究的内容和意义 9 第二章第二章 课题相关技术课题相关技术 云计算云计算 1010 2 1 云计算的概念 10 2 2 云计算的特点 10 2 3 云计算的服务方式 11 2 4 云计算的实现机制 12 2 5 云计算的文件系统 14 2 5 1 HDFS 14 2 5 2 GPFS 15 第三章第三章 为渲染应用构建简单云计算系统为渲染应用构建简单云计算系统 1717 3 1 渲染应用 IaaS 构建 17 3 2 渲染应用 PaaS 构建 19 3 3 GPFS 文件系统的安装 22 3 4 渲染应用 SaaS 设计 27 第四章第四章 渲染应用渲染应用 SaaSSaaS 测试测试 2929 4 1 文件系统测试 29 4 1 1 设置文件服务器 29 4 1 2 监控渲染节点 30 4 1 3 提交任务 31 4 1 4 运行队列 32 4 2 SaaS 详细测试 33 4 2 1 任务提交 33 4 2 2 任务监控 36 4 2 3 渲染节点管理 39 4 2 4 文件共享配置 41 4 2 5 渲染插件配置 42 第五章第五章 测试中出现的问题 结果及结论测试中出现的问题 结果及结论 4343 5 1 出现的问题及原因 43 5 2 测试结果 43 5 3 结论 44 结结 语语 4545 江苏科技大学南徐学院本科毕业设计 论文 8 致致 谢谢 4646 参参 考考 文文 献献 4747 江苏科技大学南徐学院本科毕业设计 论文 9 第一章 绪论 1 1 研究背景研究背景 近年来 我国的动漫行业作为自主创新的朝阳产业 取得了可喜的发展 涌现出一系列以三维动画制作为基础的优秀动漫作品 并带动动漫周边产业的 热销 产业链条基本形成 但是 在三维动画制作过程中 动画设计者经常遇 到这样的难题 制作十帧长的动画可能只需要十几分钟 但是渲染这十帧长 的动画往往需要花费一百多分钟甚至几百分钟 而在渲染的时间里电脑几乎是 干不了其他任何的事情 在电影和高清节目的制作上此类问题更加突出 渲染 周期常常以天 乃至以月计算 虽然当前的超级计算机可以完成这样需要大量 运算的渲染任务 但是过于高昂的售价和过于庞大的体积都让大部分中小型动 漫制作企业望而却步 为什么会遇到这种状况呢 我先来介绍一下什么是渲染 3D 动画的制作一般分为 场景 建模 美工 渲染四个步骤 前期的场景 建模和美工都是由人来完成工作的 而后期的渲染这一步骤 主要是将前期制 作的场景和模型 加入摄像头和光源后 通过专门的渲染软件计算出 3D 场景中 的光效果 这个光效指的就是光在场景和模型中的反射 折射等 渲染这一步 骤是全由计算机独立计算完成 所以说渲染时间的长短和渲染画质的好坏 全 凭计算机的性能 对于中国的影视动漫产业而言 拥有一种经济快速的渲染渠道 已经是势 在必行的了 云计算是基于互联网的商业计算模型 利用高速互联网的传输能力 将数 据处理过程从个人计算机或服务器转移到互联网上的服务器集群中 达到超级 计算机的计算能力 将云计算应用于动漫制作中的渲染过程 可以给动漫制作 提供更稳定 更快速 无渲染瓶颈的渲染服务 达到缩短制作周期 降低制作 成本的效果 江苏科技大学南徐学院本科毕业设计 论文 10 1 2 研究现状及存在问题研究现状及存在问题 2009 年 1 月份 在 CES 展会上 AMD 与 OTOY EA 等合作伙伴一道演示了 AMD Fusion Render Cloud 云渲染技术 在该演示中 AMD 首先采用一台配置 Phenom X4 处理器 Radeon HD 4870 X2 的顶级台式机中渲染 Electronic Arts 的 雇佣兵 2 战火纷飞 游戏 然后渲染画面通过有线网络发送到一部基于 Yu kon 平台的 HP Pavilion dv2 超 薄笔记本电脑上 用户在笔记本电脑中对游戏进行控制 指令通过网络再传送 至台式机 台式机则将渲染结果传回 显示在笔记本电脑的 Web 界面上 此时 笔记本电脑就相当于一部客户机端 只做显示和键鼠输入控制功能 游戏的全 部处理工作都在远程完成 同时 AMD 还演示了云模式下的高清解码 用户在 笔记本电脑上使用浏览器远程播放了一段 1080p 蓝光电影 而实际上视频解码 工作则是在台式机中完成的 尽管用于演示的笔记本电脑性能只比普通 Atom 上 网本强一点 但是无论 3D 渲染画面还是蓝光视频都表现得非常理想 这当然是 背后那台高性能 PC 的功劳 现在 国外出现了许多的云渲染平台 国内也开始陆续出现这一平台 但 是 如果大家仔细研究这些云渲染平台 就会发现这些平台其实并没有用到多 少云计算技术 如果真要详细说的话 这些渲染平台最多只能算是分布式并行 集群渲染平台 还不能算是云渲染平台 图 1 1 一种云渲染的构架方案 江苏科技大学南徐学院本科毕业设计 论文 11 因为云计算技术除了涉及到分布式计算 并行计算等相关传统计算技术之 外 还涉及到网络存储 虚拟化 负载均衡等新型技术 现阶段所存在的网络 渲染平台并没有属于自己的云计算文件系统 还是使用传统的 FTP 文件传输协 议技术 所以它们并不能做到实时渲染 只能由用户先将要渲染的模型文件上 传到渲染网站中 再由网站的渲染平台做渲染 另外这些渲染平台也没有解决 负载均衡这一问题 其渲染节点的使用率并不能做到相一致 从而造成了资源 浪费 1 3 研究的内容和意义研究的内容和意义 我的这篇论文主要是研究如何将云计算技术中应用到 3D 渲染中 云计算是 一种商业计算模型 它将计算任务分布在大量计算机构成的资源池上 使用户 能够按需获取计算能力 存储空间和信息服务 这种资源池称为 云 云 是一些可以自我维护和管理的虚拟计算资源 通常是一些大型服务器集群 包括计算服务器 存储服务器和宽带资源等 云 计算将计算资源集中起来 并通过专门软件实现自动管理 无需人为参与 用 户可以动态申请部分资源 支持各种应用程序的运转 无需为繁琐的细节烦恼 能够更加专注于自己的业务 有利于提高效率 降低成本和技术创新 当 3D 渲染运用到云计算技术后 可以大幅提升渲染的速度 也可以大幅提 高渲染的质量 用户不需要再像以前一样 要将模型文件上传至渲染平台的网 站 请渲染平台渲染 而是直接调用渲染平台中的节点资源 自行渲染 同时 渲染平台在拥有了云计算技术后就可以做到负载均衡 使每个渲染节点都能提 高效率 江苏科技大学南徐学院本科毕业设计 论文 12 第二章第二章 课题相关技术课题相关技术 云计算云计算 2 1 云计算的概念云计算的概念 狭义云计算指 IT 基础设施的交付和使用模式 指通过网络以按需 易扩展 的方式获得所需资源 广义云计算指服务的交付和使用模式 指通过网络以按 需 易扩展的方式获得所需服务 这种服务可以是 IT 和软件 互联网相关 也 可是其他服务 云计算 Cloud Computing 是网格计算 Grid Computing 分布式计算 Distributed Computing 并行计算 Parallel Computing 效 用计算 Utility Computing 网络存储 Network Storage Technologies 虚拟化 Virtualization 负载均衡 Load Balance 等传统计算机和网络技 术发展融合的产物 云计算的核心思想 是将大量用网络连接的计算资源统一 管理和调度 构成一个计算资源池向用户按需服务 提供资源的网络被称为 云 云 中的资源在使用者看来是可以无限扩 展的 并且可以随时获取 按需使用 随时扩展 按使用付费 这种特性经常 被称为像水电一样使用 IT 基础设施 总的来说 云计算可以算作是网格计算的 一个商业演化版 2 2 云计算的特点云计算的特点 从研究现状上看 云计算具有以下特点 1 超大规模 云 具有相当的规模 Google 云计算已经拥有 100 多万 台服务器 亚马逊 IBM 微软和 Yahoo 等公司的 云 均拥有几十万台服务器 云 能赋予用户前所未有的计算能力 2 虚拟化 云计算支持用户在任意位置 使用各种终端获取服务 所请求 的资源来自 云 而不是固定的有形的实体 应用在 云 中某处运行 但实 际上用户无需了解应用运行的具体位置 只需要一台笔记本或一个 PDA 就可 以通过网络服务来获取各种能力超强的服务 3 高可靠性 云 使用了数据多副本容错 计算节点同构可互换等措施 来保障服务的高可靠性 使用云计算比使用本地计算机更加可靠 江苏科技大学南徐学院本科毕业设计 论文 13 4 通用性 云计算不针对特定的应用 在 云 的支撑下可以构造出千变 万化的应用 同一片 云 可以同时支撑不同的应用运行 5 高扩展性 云 的规模可以动态伸缩 满足应用和用户规模增长的需 要 6 按需服务 云 是一个庞大的资源池 用户按需购买 像自来水 电 和管道煤气一样计费 7 及其廉价 云 的特殊容错措施使得可以采用及其廉价的节点来构建 成云 云 的自动化管理使数据中心管理成本大幅降低 云 的公用性和 通用性使资源利用率大幅提升 云 设施可以建在电力资源丰富的地区 从 而大幅降低能源成本 因此 云 的成本具有前所未有的性能价格比 2 3 云计算的服务方式云计算的服务方式 云计算按照服务类型大致可以分为三类 将基础设施作为服务 IaaS 将平 台作为服务 PaaS 将软件作为服务 SaaS 如图 2 1 所示 图 2 1 云计算的服务类型 IAAS Infrastructure as a service 的意思是基础设施即服务 是一种资 源抽象 是指把基础设施经过虚拟化后的计算资源 存储资源和网络带宽等以 服务的方式通过互联网提供给用户使用 也是一种托管型的硬件使用方式 不同云计算提供商的基础设施层所提供的服务有所不同 实现方式也有区 江苏科技大学南徐学院本科毕业设计 论文 14 别 但都有一个共同点就是面对大规模的硬件资源 为实现高层次的资源管理 对底层资源进行的虚拟化 通过虚拟化这一过程 屏蔽了硬件资源产品上的差 异 也为实现各种硬件资源的统一管理提供了逻辑接口 基础设施层的资源虚 拟化往往具有多个层次 目前业界提出了虚拟机 集群 虚拟数据中心和云等 若干层次分明的资源抽象 资源虚拟化为资源管理逻辑定义了操作的对象和粒 度 是构建基础设施层的基础 通过对不同品牌和型号的物理资源进行抽象 以一个全局统一的资源池进行管理并呈现给客户 是基础设施层的关键 PAAS Platform as a service 的意思是平台即服务 是指将软件研发的平 台作为一种服务提供给使用者 在这过程中 也使用到了 SAAS 所提供的服务 因此 PAAS 也是 SAAS 模式的一种应用 云计算提供商把服务器平台作为一种 服务提供的商业模式 在传统的软件开发时代 若想要开发一个系统 开发者 必须先准备开发硬件 软件平台 而在云计算时代这些都不用开发者自己准备 可以直接使用云计算提供商提供的服务器平台和开发环境 大大缩短了开发周 期 PAAS 为开发者提供了便利 主要是因为它能提供企业研发所需要的中间件 平台 涵盖了数据库和 WEB 应用发布服务器 同时这个中间件平台是可定制的 应用软件开发者根据自己的需要 定制适合自己的开发平台 从而丰富了基于 该平台的应用 也丰富了 SAAS 服务 SAAS Software as a service 的意思是软件即服务 是一种基于互联网提 出的软件服务应用模式 SAAS 服务提供商把所提供的服务软件统一的部署在自 己建立的数据中心里 企业只需提出需求 然后利用提供商提供的服务 有了 这种服务模式 企业用户或个人用户再也不用像使用传统系统软件那样建立服 务器 购买硬件 软件等 只需要有能接入互联网的终端 使用浏览器访问所 需服务 用户也不用考虑版本和日常维护等 这些都由服务提供商进行处理 对于广大中小型企业来说 SAAS 这种网络布局模型为他们带来的不仅仅是 方便 更为他们带来了很大的商机 规避了投资风险 因为这种模型便于用户 通过互联网托管 部署和接入 用户也是按需缴纳费用而不用一次性投入大量 的人力和物力 江苏科技大学南徐学院本科毕业设计 论文 15 2 4 云计算的实现机制云计算的实现机制 由于云计算分为 IaaS PaaS 和 SaaS 三种类型 不同的厂家又提够了不 同的解决方案 目前还没有一个统一的技术体系结构 但是综合不同厂家的方 案 可以构造一个供参考的云计算体系结构 如图 2 2 所示 图 2 2 云计算技术体系结构 云计算的体系结构分为四层 物理资源层 资源池层 管理中间件层和 SOA 构建层 物理资源层包括计算机 存储器 网络设施 数据库和软件等 资源池层是将大量相同类型的资源构成同构或接近同构的资源池 如计算资源 池 数据资源池等 构建资源池更多的是物理资源的集成和管理工作 例如研 究在一个标准集装箱的空间如何装下 2000 个服务器 解决散热和故障节点的替 换的问题并降低能耗 管理中间件层负责对云计算的资源进行管理 并对众多 应用任务进行调度 使资源能够高效 安全地为应用提供服务 SOA 构建层将 云计算能力封装成标准的 WEB Services 服务 并纳入到 SOA 体系进行管理和使 用 包括服务接口 服务注册 服务查找 服务访问和服务工作流等 管理中 间件层和资源池层是云计算技术的最关键部分 SOA 构建层的功能更多依靠外 部设施提供 云计算的管理中间件层负责资源管理 任务管理 用户管理和安全管理等 工作 资源管理负责均衡地使用云资源节点 检测节点的故障并试图恢复或屏 蔽之 并对资源的使用情况进行监视 江苏科技大学南徐学院本科毕业设计 论文 16 统计 任务管理负责执行用户或应用提交的任务 包括完成用户任务映像的部 署和管理 任务调度 任务执行 任务生命期管理等 用户管理是实现云计算 商业模式的一个必不可少的环节 包括提供用户交互接口 管理和识别用户身 份 创建用户程序的执行环境 对用户的使用进行计费等 安全管理保障云计 算设施的整体安全 包括身份认证 访问授权 综合防护和安全审计等 基于上述体系结构 这里简述一下典型云计算平台的实现机制 用户交互 接口向应用以 Web Services 方式提供访问接口 获取用户需求 服务目录是用 户可以访问的服务清单 系统管理模块负责管理和分配所有可用的资源 其核 心是负载均衡 配置工具负责在分配的节点上准备任务运行环境 监视统计模 块负责监视节点的运行状态 并完成用户使用节点情况的统计 执行过程并不 复杂 用户交互接口允许用户从目录中选取并调用一个服务 该请求传递给系 统管理模块后 它将为用户分配恰当的资源 然后调用配置工具为用户准备运 行环境 2 5 云计算的文件系统云计算的文件系统 Google 云计算最核心技术是 GFS MapReduce 和 Bigtable 其中 GFS 指的 就是谷歌文件系统 由此可见 文件系统是云计算技术中最为核心的技术之一 实现一种云计算 构建其文件系统是最为重要的步骤之一 在这里我就简要介 绍两种文件系统 它们分别是 HDFS 和 GPFS 其中 GPFS 就是我在这次毕业 设计中所用到的文件系统 2 5 1 HDFS 自从云计算的概念被提出之后 不断地有 IT 厂商推出自己的云计算平台 但这些平台无一列外都是商业性平台 对于想要继续研究和发展云计算技术的 个人和科研团体来说 无法获得更多的了解 而开源云计算系统则为研究者们 带来了希望 其中 最为知名的开源云计算系统之一就是 Hadoop Hadoop 模仿 和实现了 Google 云计算的主要技术 其核心技术分别是 Hadoop HDFS Hadoop MapReduce Hadoop HBase HDFS 就是开源云计算 Hadoop 的分 布式文件系统 HDFS 是一个主从结构体系 HDFS 集 江苏科技大学南徐学院本科毕业设计 论文 17 群有一个 NameNode 和很多个 DataNode 组成 NameNode 管理文件系统的元数据 DataNode 存储实际的数据 客户端联系 NameNode 以获取文件的元数据 而真 正的文件 I O 操作是直接和 DataNode 进行交互的 NameNode 也就是主控制服务器 负责维护文件系统的命名空间并协调客户 端对文件的访问 记录命名空间内的任何改动或命名空间内的本身属性改动 DataNode 负责对它们所在的物理节点上的存储管理 如图 2 3 所示 图 2 3 HDFS 的结构示意图 HDFS 可以真正做到存储节点和计算节点相结合 从而可以避免大量的网络 数据传输 从而提高云计算的工作效率 2 5 2 GPFS GPFS General Parallel File System 是 IBM 公司第一个共享文件系 统 起源于 IBM SP 系统上使用的虚拟共享磁盘技术 VSD 作为这项技术 的核心 GPFS 是一个并行的磁盘文件系统 它保证在资源组内的所有节点可 以并行访问整个文件系统 而且针对此文件系统的服务操作 可以同时安全地 在使用此文件系统的多个节点上实现 GPFS 允许客户共享文件 而这些文件 可能分布在不同节点的不同硬盘上 它提供了许多标准的 UNIX 文件系统接口 允许应用不需修改或者重新编辑就可以在其上运行 GPFS 也支持 UNIX 文件 系统的工具 即 用户可以像使用普通文件系统一样使用基于 GPFS 的文件系 统 唯一不同的在于管理 GPFS 文件系统的命令 GPFS 提供的文件系统操作 服务可以支持并行应用和串行应用 它允许任何节点 这些节点属于同一个节 江苏科技大学南徐学院本科毕业设计 论文 18 点组 上的并行应用同时访问同一个文件或者不同的文件 GPFS 文件系统基本上由三层架构组成 磁盘 网络共享磁盘 NSD GPFS 文 件设备 如图 2 4 所示 磁盘是 GPFS 文件系统最底层的是物理磁盘设备 原 则上可以采用系统上任何块设备 包括磁盘 磁盘分区 逻辑卷 从物理连接 上来看 GPFS 支持使用所有方式连接的磁盘 包括本地 IDE 磁盘 本地 SCSI 磁盘 光纤 SAN 磁盘 iSCSI 磁盘 等等 NSD 是由磁盘映射出来的虚拟设备 NSD 与磁盘是一一对应的关系 NSD 被标记了不同属性来区分其用途 我们可 以将磁盘标记为 4 种用途 Desc Only 只存储 GPFS 文件系统描述信息的磁 盘 Data Only 只存储文件系统中的数据信息 Meta data only 只存储文件 系统中的目录结构 inode 信息 Meta and data 存储所有信息 默认 GPFS 文件设备是一个可被系统挂载的文件设备 由 NSD 创建而成 可以并行的同时 挂载在多个节点上 图 2 4 GPFS 基本结构 GPFS 文件系统最底层的是物理磁盘设备 原则上可以采用系统上任何块设 备 包括磁盘 磁盘分区 逻辑卷 从物理连接上来看 GPFS 支持使用所有方 式连接的磁盘 包括本地 IDE 磁盘 本地 SCSI 磁盘 光纤 SAN 磁盘 iSCSI 磁盘 等等 NSD 是由磁盘映射出来的虚拟设备 NSD 与磁盘是一一对应的关 系 NSD 被标记了不同属性来区分其用途 我们可以将磁盘标记为 4 种用途 Desc Only 只存储 GPFS 文件系统描述信息的磁盘 Data Only 只存储文件 系统中的数据信息 Meta data only 只存储文件系统中的目录结构 inode 信 息 Meta and data 存储所有信息 默认 GPFS 设备是一个可被系统挂载的 江苏科技大学南徐学院本科毕业设计 论文 20 文件设备 由 NSD 创建而成 可以并行的同时挂载在多个节点上 江苏科技大学南徐学院本科毕业设计 论文 21 第三章第三章 为渲染应用构建简单云计算系统为渲染应用构建简单云计算系统 从之前第二章第四节的内容可以得知 构建一个云计算系统应该从云计算 的技术体系入手 因为云计算的技术体系总体分为四层 那么构建一个云计算 系统也应该丛这四层结构入手 云计算技术体系结构分为四层 物理资源层 资源池层 管理中间件层和 SOA Service Oriented Architecture 面向服务的体系结构 构建层 其实 这四层结构对应了云计算的三种服务方式 IaaS PaaS SaaS IaaS 即将基础设施作为服务 它的构建对应了物理资源层和资源池层 物 理资源层包括计算机 存储器 网络设施 数据库和软件等 资源池层是将大 量相同类型的资源构成同构或接近同构的资源池 如计算资源池 数据资源池 等 如此说来 构建一个 IaaS 云计算体系 就必须基于物理资源层和资源池层 PaaS 即将平台作为服务 它的构建对应管理中间件层 管理中间件层负责 对云计算的资源进行管理 并对众多应用任务进行调度 使资源能够高效 安 全地为应用提供服务 通过对管理中间件层的研究 可以很好的构建一个 PaaS 云计算体系 SaaS 即将软件作为服务 它的构建对应 SOA 构建层 SOA 构建层将云计算 能力封装成标准的 WEB Services 服务 并纳入到 SOA 体系进行管理和使用 包 括服务接口 服务注册 服务查找 服务访问和服务工作流等 3 1 渲染应用渲染应用 IaaS 构建构建 渲染应用的 IaaS 构建 也就是基于云计算技术渲染应用中的硬件架构 所 需要的硬件有 文件服务器 管理服务器和渲染节点 这次毕业设计 我们选用的文件服务器是 DELL 的机架式服务器 选择 DELL 机架式服务器的原因是 渲染是计算密集型 同时也是网络密集型的应用 每个渲染节点需要从文件服务器上读取场景 素材等文件 而后在本地渲染 渲染的结果也需要保存在文件服务器上 如果节点规模很大 那对文件服务器 江苏科技大学南徐学院本科毕业设计 论文 22 的压力非常大 根据节点的规模 需要选择合适的文件服务器架构 确保整个 渲染农场可以高效率的工作 文件服务器的选择主要考虑的因素是稳定性 性 能和可扩展性 一般情况下文件服务器要采用 RAID 技术 来提高容错性和性 能 同时采用多口的服务器网卡 确保可以给渲染节点提供稳定可靠的带宽 图 3 1 DELL 机架式服务器和其硬盘 而戴尔服务器恰恰采用了 RAID 技术 其中有六个存储容量为 1T 的硬盘 构成廉价硬盘冗余阵列 而且这些硬盘支持热插拔 当其中有硬盘损坏时 可 以在服务器工作状态下进行硬盘更换 从而保证数据的安全 对于管理服务器 我们选用的是惠普 Z800 服务器 因为管理服务器的主要 任务是做任务分发等 是基于云计算技术渲染应用的核心 渲染应用能否发挥 效率 除了硬件配置需要平衡外 也需要渲染管理软件的高效的管理 整个渲 染应用的各种服务 全都由渲染管理软件负责 此节点对性能要求不高 但是 要求非常稳定 惠普 Z800 服务器不仅性能优秀 而且工作状态非常稳定 所以 由它来做管理服务器是一种很好的选择 对于渲染节点的选择 应该主要考虑服务器的计算性能 价格 功耗和占 用空间大小 例如制作 阿凡达 的维塔工作室采用的是 HP 的高密度刀片服务 器 每个机柜可以有 4 个机箱 每个机箱有 16 个刀片 而每个高密度刀片是 两个节点 每个节点都是双路的服务器 因此每个机柜就可以拥有多大 4 16 2 2 256 颗处理器 江苏科技大学南徐学院本科毕业设计 论文 23 图 3 2 IBM 刀片式服务器 基于以上选择分析 我们使用 IBM 刀片式服务器作为渲染节点 因为这种 服务器不光性能优良 而且能耗低 价格适中 是综合性能较为优秀的一款服 务器 选定好硬件设备后 就应该根据物理资源层和资源池层的体系结构开始来 架构渲染应用的 IaaS 下图 3 3 为硬件组网图 图 3 3 硬件组网 把这些选定好的服务器 按照上图的组网方式进行简单的组网 为每一台 服务器配置好 IP 地址 到此时 IaaS 的架构算是告一段落 3 2 渲染应用渲染应用 PaaS 构建构建 PaaS 就是将平台作为服务 其构建涉及到管理中间件层的应用 对于有关 渲染应用 PaaS 的构建其实就是渲染平台的安装 当 IaaS 所需要的硬件都基本就绪后 就可以考虑安装平台软件了 首先得 规划一下是否采用 DNS 和 DHCP 等 如果决定使用 DNS 和 DHCP 则可以在管 理服务器上安装配置 DNS 或者 DHCP 服务器 如果已有 DNS 或者 DHCP 服务器 则不需要安装 使用原来的即可 一般的有线或者无线路由器也具有 DHCP 服务 器的功能 一般情况下 对于渲染节点除了有机器名外 也配置静态的 IP 地 址 以便在 DNS 服务器失效的情况下 可以远程访问渲染节点 如果渲染农场 的渲染节点配置完全一样时 可以采取硬盘克隆的方式快速安装每个节点 或 者采用其他操作系统自动部署方案 最简单的办法就是一台一台的人工安装 江苏科技大学南徐学院本科毕业设计 论文 24 对于每一台渲染节点 都需要安装 64 位的操作系统 以便能够利用大内存 也同时需要安装 64 位版本的渲染软件 例如 Maya 2009 64 位 或者 Mental Ray Standalone for Maya 等等 随后 需要在每台节点上安装平台集群管理 软件的渲染节点程序 对于 Windows 渲染节点而言 平台安装程序会自动启动 远程桌面功能 由于授权的限制 用户在远程桌面的环境下 是不能直接使用 Maya 的 而平台节点程序则可以正常使用 Maya 如果用户有登录到渲染节点 手工使用 Maya 的需求 则需要考虑安装其他远程桌面软件以避开此类授权问 题 例如安装 VNC 和 DameWare 等软件 对于对外服务的渲染平台而言 渲染 节点最好只有一个 C 盘 因为动画后期工作室等经常使用 D 盘 因此拿到渲染 平台渲染时 如果渲染节点本身有 D 盘的话 则操作相对很麻烦和耗时 渲染 平台的最重要的是效率 保证机器 24 小时不间断的渲染才是重中之重 在安装 渲染节点的时候 也可以安装管理服务器 这两者没有前后依赖关系 可以先 安装平台服务器后 然后逐台安装平台节点 这样在每台节点安装后 都可以 在管理控制台的节点管理界面 看到新安装的渲染节点 在安装完成后 需要 准备好文件服务器 如果不是专用的文件服务器 而是一台服务器或者 PC 作 为服务器 那么需要在文件服务器上安装服务器操作系统例如 Windows Server 2003 2008 或者 Linux 一般不使用 Windows XP 等桌面客户端软件作为服务器 主要原因为桌面操作系统对连接的个数有限制 例如 Windows XP 不能超过 10 个 如果渲染集群的渲染节点个数很少 也可以采用 Windows XP 操作系统 文件服务器可以为 32 位操作系统 如果使用了硬件 RAID 卡等 还需要考虑 RAID 卡的驱动程序支持的操作系统类型 平台集群管理软件完善的支持多种存 储架构 例如单文件服务器多 IP 地址 避免带宽聚合导致的成本增加 例如 更昂贵的交换机等 多文件服务器等等 另外 对于用户 DIY 的文件服务器 平台提供了一种增加文件服务器可靠性的软件 它能非常有效的增加渲染农场 的可用性 避免文件服务器崩溃所带来的影响 安装完上述软件后 就可以参 考平台集群管理软件用户手册来渲染镜头了 如下就三个具体的事项进行了详 细说明 渲染节点安装程序需要使用系统管理员权限运行 渲染节点程序的安装 先选择安装界面的语言 这里选择简体中文 Chinese Simplified 界面 点 江苏科技大学南徐学院本科毕业设计 论文 25 击 OK 进入下一步 进入许可证协议界面 按 PgDn 键或拖动滑块可以查看 软件授权使用协议 全文 点击 我接受 可以进入下一步 选择安装的组 件 点击 下一步 可以进入选择安装位置界面 如下图 3 4 所示 图 3 4 组件选择界面 选择安装文件夹 一般情况下使用默认安装路径 如果是在 Windows Vista 操作系统下 请选择 Program Files 或者 Program Files x86 以外的 路径安装 以避免程序不能写盘的操作 点击 下一步 出现了设置网络参数 界面 如下图 3 5 所示 图 3 5 网络参数设置界面 这个界面主要是设置渲染任务调度服务器的机器名和端口号 并且设置渲 染节点程序服务端口 一般情况下只需要设置一下服务器 IP 地址即可 继续 单击 安装 开始安装 之后就能安装完成 节点管理软件安装完毕后 就要开始安装管理服务器软件 启动管理平台 服务器的安装程序后 先选择安装界面的语言 这里选择简体中文界面 点击 OK 进入下一步 进入许可证协议界面 按 PgDn 键或拖动滑块可以查看 江苏科技大学南徐学院本科毕业设计 论文 26 软件授权使用协议 全文 点击 我接受 可以进入下一步 选择安装的组 件 点击 下一步 可以进入选择安装位置界面 选择安装文件夹 一般情况 下使用默认安装路径 如果是在 Windows Vista 操作系统下 请选择 Program Files 或者 Program Files x86 以外的路径安装 以避免程序不能写盘的操作 点击 下一步 出现了设置服务器参数的界面 如下图 3 6 所示 图 3 6 服务端安装参数设置界面 这个界面主要是设置调度服务器的两个端口号 设置管理控制台 WEB 服务 器的端口号和数据库服务器的端口号 一般情况下采用默认设置 执行安装即 可 如果与其它程序出现端口冲突 则需要更具设计情况改变端口号的配置 继续单击 安装 开始安装 并安装完成 3 3 GPFS 文件系统的安装文件系统的安装 GPFS 文件系统 是基于 Linux 操作系统环境下的一类文件系统 在安装 GPFS 文件系统时 文件服务器必须先安装 Linux 操作系统 下面 GPFS 的安装 都是在 Linux 操作系统中进行的 将 install gpfs sh 和 GPFS 安装文件拷贝到所有服务器安装 建一个 NFS 服务器共享安装 输入下列命令 NSD1 root home scripts gpfs rcp file sh home scripts gpfs instal l gpfs sh NSD1 root home scripts gpfs run cmd sh home scripts gpfs install gpfs sh 确认每台服务器安装显示 ok 添加所有 profile 的执行路径 输入下列命令 NSD1 root home scripts gpfs run cmd sh home scripts gpfs chang p 江苏科技大学南徐学院本科毕业设计 论文 27 rofile sh 目录准备 输入 NSD1 root home scripts gpfs run cmd sh mkdir share NSD1 root home scripts gpfs run cmd sh ln s share tmp mmfs NSD1 root home scripts gpfs run cmd sh mkdir tmp gpfs 配置 GPFS 集群 配置节点文件 输入 NSD1 root vi tmp gpfs nodefile 则出现下列显示 NSD1 quorum NSD2 quorum App1 client App2 client App3 client App4 client 建立 GPFS 集群 先确保清理干净原先 GPFS 集群 输入 NSD1 root tmp gpfs mmdelnode f 建立集群 输入 NSD1 root tmp gpfs mmcrcluster C bgbcrun U bgbc N tmp gpfs nodefile p NSD1 s NSD2 则出现以下显示 Thu Jun 28 15 42 57 BEIST 2007 6027 1664 mmcrcluster Processing node NSD1 Thu Jun 28 15 42 57 BEIST 2007 6027 1664 mmcrcluster Processing node NSD2 mmcrcluster Command successfully completed mmcrcluster 6027 1371 Propagating the cluster configuration data to all affected nodes This is an asynchronous process 其中参数含义 C bgbcrun 设定集群名称 江苏科技大学南徐学院本科毕业设计 论文 28 U bgbc 定义域名 N tmp gpfs nodefil