5.9MapReduce程序提交给YARN运行(完)_第1页
5.9MapReduce程序提交给YARN运行(完)_第2页
5.9MapReduce程序提交给YARN运行(完)_第3页
5.9MapReduce程序提交给YARN运行(完)_第4页
5.9MapReduce程序提交给YARN运行(完)_第5页
已阅读5页,还剩12页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

Hadoop大数据项目开发——MapReduce程序提交给YARN运行目录content0201MapRedcue配置Maven生成jar包03执行jar包MapRedcue配置TWITTERYUTUBESKYPEFACEBOOK

MapReduce程序运行在Yarn上;YARN作为一个资源调度平台;更好的运用集群上的资源。很好的调度MapReduce任务;1234MapRedcue配置将MapReduce程序提交给YARN运行MapRedcue的配置文件/usr/local/src/hadoop/etc/hadoop需要修改:位于:MapRedcue配置步骤1:修改配置文件将mapred-site.xml.template重命名为mapred-site.xml参数指定MapReduce使用YARN资源管理器。步骤2:mapred-site.xml配置文件内容:MapRedcue配置在mapred-site.xml的<configuration>和</configuration>标签中添加如下内容:在mapred-site.xml的<configuration>和</configuration>标签中添加如下内容:MapRedcue配置步骤3:拷贝整个mapred-site.xml到slave1和slave2两个节点YARN一个分布式操作系统平台相当于MapReduce应用程序相当于Maven生成jar包WordCount程序提交集群运行输入路径:FileInputFormat.setInputPaths(job,newPath("/wordcount/input"));输出路径:FileOutputFormat.setOutputPath(job,newPath("/wordcount/output"));在WordCount程序的源代码中,需要修改数据的输入路径和输出路径,其余内容不变,代码如下所示:打包Maven生成jar包步骤1步骤2步骤3步骤4Maven生成jar包步骤5步骤6执行jar包步骤1:使用Xshell的文件传输功能,将已经生成的wordcount.jar包传到master节点上的根目录下的usr目录下local目录下的src目录下。执行jar包步骤2:在HDFS上创建wordcount目录,首先查看hdfs根目录上是否有wordcount目录:hadoopfs-ls/如果输出的结果没有wordcount目录,则创建此目录,执行命令:hadoopfs-mkdir/wordcount

执行jar包master节点步骤3:执行jar包,命令如下所示:hadoopjar命令执行过程如下图所示:执行jar包Web界面对应的执行结果步骤4:hadoopjar命令执行完成之后,计算结果保存到了HDFS上,如图所示:执行jar包_SUCCESS_FAILED没有内容、执行成功执行失败Part-r-00000Part-r-00001MapReduce执行分析数据后的结果文件,两个文件表示MapReduce启动了两个Reducer任务,一个Reducer任务输出一个文件。保存结果文件执行jar包查看计算结果步骤5:使用如下命令查看运行结果:本章小结

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论