查看Spark任务日志信息_第1页
查看Spark任务日志信息_第2页
查看Spark任务日志信息_第3页
查看Spark任务日志信息_第4页
查看Spark任务日志信息_第5页
已阅读5页，还剩8页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

查看Spark任务日志掌握如何查看Spark任务日志信息.

查看Spark任务日志信息01查看日志

我们可以在提交Spark任务的客户端mynode4上提交SparkPi任务，测试是否可以将Spark任务的日志保存成功、是否可以正常查看已经运行完成任务的日志信息。在Spark提交任务的客户端mynode4上执行提交任务的命令：查看日志

在mynode4客户端节点查看任务运行信息如下：查看日志

使用命令查看提交集群的任务日志是否保存到HDFS路径/spark/log下：查看日志

经过以上查询，表示当前Spark任务的日志已经被保存到HDFS路径中。当以上Spark任务运行完成之后，浏览器输入https://mynode1:8088进入Yarn任务管理界面，检查已完成Spark任务的日志信息是否能被成功查看。如图所示：查看日志

点击图中的“TrackingUI”对应的“History”,弹出下图对应的页面，表示集群已经成功将已运行完Spark任务日志还原。查看日志

点击Spark任务界面的“Executor”选项，查看Spark任务运行的Executor日志信息，这里就是查看利用Hadoop的历史日志保存的NodeManager运行的日志信息，如图所示：查看日志

点击下图中“logs”对应的信息，我们查看Spark任务运行时的一些日志信息。例如，点击Driver对应的标准输出日志信息如下：查看日志

至此，查看Spark日志信息完成。我们可以通过以上的方式在Yarn的任务管理界面中查看提交到Yarn集群的Sp

人人文库> 全部分类> 教育资料 > 辅导培训

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论