2023学年完整公开课版Hadoop安装类型_第1页
2023学年完整公开课版Hadoop安装类型_第2页
2023学年完整公开课版Hadoop安装类型_第3页
2023学年完整公开课版Hadoop安装类型_第4页
2023学年完整公开课版Hadoop安装类型_第5页
已阅读5页,还剩5页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

孟繁兴Hadoop安装类型目录0102配置目标Hadoop安装类型配置目标1配置目标许多人对配置一个运行良好的Hadoop集群有一些迷惑,特别是Hadoop2又引入了新的架构。在后面的学习内容中,将介绍如何安装和配置一个伪分布式Hadoop集群,这是一个看起来和真正的Hadoop集群相同,但只使用一个节点的Hadoop集群。了解如何正确安装和配置Hadoop集群有助于有效管理和优化集群。配置目标后面会有很大的篇章来讲集群的安装有一些重要的原因:首先学习简单的单节点集群的安装,后面将会学习更真实的多节点集群的安装。首先,与简单的单节点伪分布式集群相比,建立一个完整的生产级别的Hadoop集群涉及更复杂的配置。我们不希望用户被用来设置多节点集群的繁多的安装和配置信息所淹没。我们首先要熟悉基本的Hadoop集群以及如何将其安装在单个节点上。先从初级学习,掌握一点关于HDFS和YARN(Hadoop的两个主要组件)的知识,使自己在处理运行在多节点上的Hadoop集群的配置时处于更有利的位置。Hadoop安装类型2Hadoop安装类型Standalone:所有Hadoop服务都在单个JVM中运行,并且没有守护程序(守护程序是UNIX或Linux长时间运行的后台进程,可以应答服务请求)。在这种模式下,Hadoop使用本地文件系统而不是HDFS存储其数据,MapReduce作业运行在单个mapper和单个reducer上。这种部署模式最适合开发人员运行并测试代码。Hadoop安装类型伪分布式:这是一个真实的多节点集群的模拟。可以像真正分布式集群一样配置所有服务,但所有守护进程(如DataNode、NameNode和ResourceManager)都将在单一服务器上运行。但是,无法在真实的生产环境中使用此方案,当只有单个节点时,无法配置数据复制或高可用性!Hadoop安装类型全分布式:这是真正的分布式。可以为Hadoop配置数据复制项,如果需要,可以提供高可用性。因为在一组服务器上安装Hadoop,而不是在单个节点上安装Hadoop。每个进程的守护程序和守护进程在多个服务器上运行。Standalone方法实现起来非常简单,但对

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论