《基于新信息技术的Hadoop大数据技术》 课件 项目11 Sqoop安装部署_第1页
《基于新信息技术的Hadoop大数据技术》 课件 项目11 Sqoop安装部署_第2页
《基于新信息技术的Hadoop大数据技术》 课件 项目11 Sqoop安装部署_第3页
《基于新信息技术的Hadoop大数据技术》 课件 项目11 Sqoop安装部署_第4页
《基于新信息技术的Hadoop大数据技术》 课件 项目11 Sqoop安装部署_第5页
已阅读5页，还剩2页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

Hadoop大数据技术——Sqoop安装部署Sqoop概述

ApacheSqoop（SQL-to-Hadoop）项目旨在协助RDBMS与Hadoop之间进行高效的大数据迁移。用户可以在Sqoop的帮助下，轻松地将RDBMS中的数据导入到Hadoop或者与其相关的系统（如HBase和Hive）中；同时也可以将数据从Hadoop系统导出到RDBMS。因此，可以说Sqoop就是一个桥梁，连接了RDBMS与Hadoop。湖南软件职业技术大学Sqoop的优势湖南软件职业技术大学

Sqoop可以高效地、可控地利用资源，可以通过调整任务数来控制任务的并发度。另外它还可以配置数据库的访问时间。Sqoop可以自动地完成数据库与Hadoop系统中数据类型的映射与转换。Sqoop支持多种数据库，比如，MySQL、Oracle和PostgreSQL等数据库。Sqoop架构及工作机制湖南软件职业技术大学

Sqoop的架构是非常简单，它主要由3个部分组成：sqoop客户端、Hadoop平台和外部存储系统，如图所示:用户向sqoop发起一个命令之后，这个命令会转换为一个基于Map任务的MapReduce作业。Map任务会访问数据库的元数据信息，通过并行Map任务将RDBMS的数据读取出来，然后导入Hadoop中。当然也可以将Hadoop中的数据导入RDBMS中。它的核心思想就是通过基于Map任务（只有Map）的MapReduce作业来实现数据的并发复制和传输。SqoopImport流程湖南软件职业技术大学Sqoop数据导入流程是：首先用户输一条SqoopImport命令，Sqoop会从RDBMS中获取元数据信息，Sqoop获取这些信息之后会将命令转换为基于Map的MapReduce作业。MapReduce作业中有很多Map任务，每个Map任务从数据库中读取一片数据，多个Map任务实现并发复制，将整个数据快速复制到HDFS上。SqoopExport流程湖南软件职业技术大学

Sqoop数据局导出流程是：首先用户输入一条SqoopExport命令，Sqoop会获取RDBMS的元数据，建立Hadoop字段与数据库表字段的映射关系。然后将输入命令转换为基于Map的MapReduce作业，这样MapReduce作业中会

人人文库> 全部分类> 教育资料 > 课件下载

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论