Hadoop大数据开发基础与案例实战(微课版)课件 5.7 YARN概述(完)_第1页
Hadoop大数据开发基础与案例实战(微课版)课件 5.7 YARN概述(完)_第2页
Hadoop大数据开发基础与案例实战(微课版)课件 5.7 YARN概述(完)_第3页
Hadoop大数据开发基础与案例实战(微课版)课件 5.7 YARN概述(完)_第4页
Hadoop大数据开发基础与案例实战(微课版)课件 5.7 YARN概述(完)_第5页
已阅读5页,还剩10页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

Hadoop大数据项目开发——

YARN概述目录content02YARN功能01YARN简介YARN简介MapReduce1.0既是一个计算框架,也是一个资源管理调度框架YARN简介YARN是一个纯碎的资源管理调度框架,而不是一个计算框架.MapReduce1.0中的资源管理调度功能,被单独剥离出来形成了YARN。Hadoop2.0以后YARN简介被剥离了资源管理调度功能的MapReduce框架就变成了MapRedece2.0,它是运行在YARN之上的一个纯碎的计算框架,不再自己负责资源调度管理服务,而是由YARN为其提供资源管理调度服务。YARN简介YARN是一个纯碎的资源调度框架。MapRedece2.0运行在YARN之上的一个纯碎的计算框架。YARN简介YARN是一种新的Hadoop资源管理器;是一个通用资源管理系统;可为上层应用提供统一的资源管理和调度;为集群在利用率、资源统一管理和数据共享等方面带来了好处。YARN功能ResourceManagerApplicationMasterNodeManagerYARN--ResourceManager的功能ResourceManager功能处理客户端请求资源分配和调度监控NodeManager启动ApplicationMaster监控ApplicationMasterYARN--ResourceManager的功能ResourceManager处理客户端请求启动pplicationaster负责接受来自ApplicationMaster的应用程序资源请求,把集群中的资源以“容器”的形式分配给提出申请的应用程序,容器的选择通常会考虑应用程序所要处理的数据的位置,进行就近选择从而实现“计算向数据靠拢”调度器应用程序管理器负责管理整个系统中所有应用程序,包括应用程序提交、与调度器协商资源以启动ApplicationMaster、监控ApplicationMaster运行状态并在失败时重新启动它等。YARN--ResourceManager功能容器(container)作为动态资源分配单位,每个容器中都封装了一定数量的CPU、内存、磁盘等资源,从而限定每个应用程序可以使用的资源量。YARN会为每个任务分配一个容器,且该任务只能使用该容器中封装的资源。YARN--ApplicationMaster的功能ApplicationMaster为应用程序申请资源,并分配给内部任务;功能2:任务调度、监控和容错。功能1:YARN--NodeMaster的功能NodeMaster单个节点上的资源管理功能2:处理ResourceManger的命令。功能1:功能3:处理ApplicationMaster的命令。YARN功能YARN的资源管理和执行框架都是按主/从范例实现的——Slave节点管理器(NM)运行、监控每个节点,并向集群的Master资源管理器(RM)报告资源的可用性状态,资源管理器最终为系统里所有应用分配资源。本章

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论