大数据技术原理与应用林子雨版课后习题答案

上传人：灯*** IP属地：河北上传时间：2025-03-22 格式：PDF 页数：53 大小：12.92MB 积分：12 举报 版权申诉

已阅读5页，还剩48页未读，继续免费阅读

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

第二章

1.试述hadoop和谷歌的mapreduce、gfs等技术之间的关系

答：Hadoop的核心是分布式文件系统HDFS和MapReduce,HDFS是谷歌文件系

统GFS的开源实现，MapReduces是针对谷歌MapReduce的开源实现。

2.试述Hadoop具有哪些特性。

答：高可靠性，高效性，高可扩展性，高容错性，成本低，运行在Linux平台，

支持多种编程语言

3.试述Hadoop在各个领域的应用情况。

答：2007年，雅虎在Sunnyvale总部建立了M45---------个包含了4000个处理器

和1.5PB容量的Hadooop集群系统；

Facebook主要将Hadoop平台用于日志处理.，推荐系统和数据仓库等方面；

百度主要使用Hadoop于日志的存储和统计、网页数据的分析和挖掘、商业分析、

在线数据反馈、网页聚类等。

4.试述Hadoop的项目结构以及每个部分的具体功能。

答：

PigChukwaHiveHBase

MapReduceHDFSZookeeper

CommonAvro

Commeon是为Hadoop其他子项目提供支持的常用工具，主要包括文件系统、RPC

和串行化库

Avro是为Hadoop的子项目，用于数据序列化的系统，提供了丰富的数据结构类

型、快速可压缩的二进制数据格式、存储持续性数据的文件集、远程调用的功能

和简单的动态语言集成功能。

HDFS是lladoop项目的两个核心之一，它是针对谷歌文件系统的开源实现。

HBase是一个提高可靠性、高性能、可伸缩、实时读写、分布式的列式数据库,

一般采用HDFS作为其底层数据存储。

MapReduce是针对谷歌MapReduce的开源实现，月于大规模数据集的并行运算。

Zoookepper是针对谷歌Chubby的一个开源实现,是高效和可靠的协同匚作系统,

提供分布式锁之类的基本服务，用于构建分布式应用，减轻分布式应用程序所承

担的协调任务。

Hive是一，个基于Hadoop的数据仓库工具，可以用于对Hadoop文件中的数据集

进行数据整理、特殊查询和分布存储。

Pig是一种数据流语言和运行环境，适合于使用Eadoop和MapReducce平台上查

询大型半结构化数据集。

Sqoop可以改进数据的互操作性，主要用来在II大哦哦哦配合关系数据库之间交

换数据。

Chukwa是一个开源的、用于监控大型分布式系统的数据收集系统，可以将各种

类型的数据收集成适合Hadoop处理的文件，并保存在HDFS中供Hadoop进行各

种MapReduce操作。

第三章

1.试述分布式文件系统设计的需求。

设计需求含义HDFS的实现情况

透明性具备访问透明性、位置透只能提供一定程度的访

明性、性能、和伸缩透明问透明性，完全支持位置

性透明性、性能和伸缩透明

性

并发控制客户端对于文件的读写机制非常简单，任何时候

不应该影响其他客户端都只允许有一个程序写

对同一个文件的读写入某个文件

文件复制一个文件可以拥有不同HDFS采用了多副本机制

位置的多个副本

硬件和操作系统的异构可以在不同的操作系统采用Java语言开发，具

性和计算机上实现同样的有很好的跨平台能力

客户端和服务端程序

可伸缩性支持节点的动态加入或建立在大规模廉价机器

退出上的分布式文件系统集

群，具有很好的伸缩性

容错保证文件服务在客户端具有多副本机制和故障

或者服务端出现问题的自动检测、恢复机制

时候能正常使用

安全保证系统的安全性安全性较弱

2.分布式文件系统是如何实现较高水平扩展的？

分布式文件系统在物理结构上是由计算机集群中的多个节点构成的，这些节点分

为两类，一类叫“主节点”(MasterNode)或者也被称为“名称结点”(NameNode),

另一类叫“从节点”(SlaveNode)或者也被称为“数据节点”(DataNode)

3.试述HDFS中的块和普通文件系统中的块的区别。

答：在传统的文件系统中，为了提高磁盘读写效率，一般以数据块为单位，恶如

不是以字节为单位。

UDI'S中的块，默认一个块大小为64MB,而HDFS中的文件会被拆分成多个块,

每个块作为独立的单元进行存储。HDFS在块的大小的设计上明显要大于普通文

件系统。

4.试述HDFS中的名称节点和数据节点的具体功能。

答：名称节点负责管理分布式文件系统系统的命名空间，记录分布式文件系统中

的每个文件中各个块所在的数据节点的位置信息；

数据节点是分布式文件系统HDFS的工作节点，负责数据的存储和读取，会

根据客户端或者是名称节点的调度来进行数据的存储和检索，并向名称节点定期

发送自己所存储的块的列表。

hadoopfs-Is〈path〉显示＜path＞指定的文件的详细信息

hadoopfs-cat<path>将<path》指定的文件的内容输出到标准输出

hadoopfs-mkdir<path>创建〈path〉指定的文件夹

hadoopfs-get[-ignorecrc][-crc]<src><localdst>复制<src>指定的文件

到本地文件系统《loca】dst》指定的文件或文件夹。-ignorecrc选项复制CRC校

验失败的文件。使用-crc选项复制文件以及CRC信息。

hadoopfs-put<localsrc><dst>从本地文件系统中复制<localsrc》指定的单

个或多个源文件到<dst>指定的目标文件系统中。也支持从标准输入(stdin)中读

取输入写入目标文件系统。

hadoopfs-rmr<path>删除<path>指定的文件夹及其的所有文件

第四章

1-试述在Hadoop体系架构中HBase与其他组成部分的相互关系。

答：HBase利用HadoopM叩Reduce来处理HBase中的海量数据，实现高

性能计算；利用Zookeeper作为协同服务,实现稳定服务和失败恢复；使用

HDFS作为高可靠的底层存储，利用廉价集群提供海量数据存储能力;Sqoop为

HBase的底层数据导入功能,Pig和Hive为HBase提供了高层语言支持,HBase

是BigTable的开源实现。

2.请阐述HBase和BigTable的底层技术的对应关系

答：

项目BigTableHBase

文件存储系统GFSHDFS

海量数据处理M叩ReduceHadoopMapReduce

协同服务管理ChubbyZookeeper

3.请阐述HBase和传统关系数据库的区别

答：

区别传统关系数据库HBase

数据类型关系模型数据模型

数据操作插入、删除、更新、查询、插入、查询、删除、清空，

多表连接无法实现表与表之间关

联

存储模式基于行模式存储，兀组或基于列存储，每个列族都

行会被连续地存储在磁由几个文件保存，不同列

盘也中族的文件是分离的

数据索引针对不同列构建复杂的只有一个行键索引

多个索引

数据维护用最新的当前值去替换更新操作不会删除数据

记录中原来的旧值旧的版本，而是生成一个

新的版本

可伸缩性很难实现横向扩展，纵向轻易地通过在集群中增

扩展的空间也比较有限加或者减少硬件数量来

实现性能的伸缩

4.HBase有哪些类型的访问接口？

答:HBase提供了NativeJavaAPI,HBaseShell,ThriftGateway,REST

Gateway,Pig,Hive等访问接口。

5.请以实例说明HBase数据模型。

列限定符

答：

Info

NameMajorEmail

201505001LuoMinMathLuo@

201505002LiuJunMathliu@

201505003XieYouMathxie@

个个刁\1

you@163.com

单元格

行键单元格有两个时间戳tsi和ts2

每个时间戳对应一个数据版本

6.分别解释HBase中行键、列键和时间戳的概念

Q)行键是唯一的，在一个表里只出现一次，否则就是在更新同一行，行键可以

是任意的字节数组。

(2)列族需要在创建表的时候就定义好，数量也不宜过多。列族名必须由可打印

字符组成，创建表的时候不需要定义好列。

(3)时间戳,默认由系统指定,用户也可以显示设置。使用不同的时间戳来区分

不同的版本。

7.请举个实例来阐述HBase的概念视图和物理视图的不同

HBase数据概念视图

行键时间戳列族contents歹璇anchor

"n.wwwT5Anchorcnnsi.co

〃m="CNN"

T3Anchormy.look.

ca=z,CNN"

“n.wwwT3Content:html=

U"<html>...w

T2Content:html=

T1Content:html=

"<html>...w

HBase数据物理视图

行键时间戳列族anchor

"n.wwwT5Anchorcnnsi.co

〃m="CNN"

T4Anchonmy.look.

ca=HCNN"

行键时间戳列族contents

“n.wwwT3Content:html=

〃〃<html>../

T2Content:html=

〃<html>...w

T1Content:html=

在HBase的概念视图中，一个表可以视为一个稀疏、多维的映射关系。

在物理视图中，一个表会按照属于同一列族的数据保存在一起

8.试述HBase各功能组建及其作用

(1)库函数：链接到每个客户端；

(2)一个Master主服务器：主服务器Master主要负责表和Region的管理工

作；

(3)许多个Region服务器：Region服务器是HBase中最核心的模块，负责

维护分配给自己的Region,并响应用户的读写请求

9.请阐述HBase的数据分区机制。

答：HBase采用分区存储，一个大的表会被分拆许多个Region,这些Region

会被分发到不同的服务器上实现分布式存储。

10.HBase中的分区是如何定位的。

通过构建的映射表的每个条目包含两项内容，一个是Regionde标识符，另一

个是Region服务器标识,这个条目就标识Region和Region服务器之间的对

应关系，从而就可以知道某个Region被保存在哪个Region服务器中。

11.试述HBase的三层结构中各层次的名称和作用。

层次名称作用

第一层Zookeeper记录了-ROOT-表的位置信息

文件

第二层-ROOT-表记录了.META.表的Region位置信息

-ROOT-表只能有一个Region。通过-ROOT-表，就可以访

问.META.表中的数据

第三层.META.表记录了用户数据表的Region位置信息、，.META.表可以有多个

Region,保存了HBase中所有用户数据表的Region位置信息

12.请阐述HBase的三层结构下，客户端是如何访问到数据的。

答：首先访问Zookeeper,获取-ROOT表的位置信息，然后访问-Root-表，获

得.MATA.表的信息，接着访问.MATA.表，找到所需的Region具体位于哪个

Region服务器，最后才会到该Region服务器读取数据。

13.试述HBase系统基本架构以及每个组成部分的作用。

(1)客户端

客户端包含访问HBase的接口，同时在缓存中维护着已经访问过的Region

位置信息，用来加快后续数据访问过程

(2)Zookeeper月员务器

Zookeeper可以帮助选举出一个Master作为集群的总管，并保证在任何时

刻总有唯一一个Master在运行，这就避免了Master的〃单点失效"问题

(3)Master

主服务器Master主要负责表和Region的管理工作：管理用户对表的增加、

删除、修改、查询等操作；实现不同Region服务器之间的负载均衡；在Region

分裂或合并后，负责重新调整Region的分布;对发生故障失效的Region报务

器上的Region进行迁移

(4)Region服务器

Region服务器是HBase中最核心的模块，负责维护分配给自己的Region,

并响应用户的读写请求

14.请阐述Region服务器向HDFS文件系统中读写数据的基本原理

Region服务器内部管理一系列Region对象和一个HLog文件，其中，HLog

是磁盘上面的记录文件，它记录着所有的更新操作。每个Region对象又是由多

个Store组成的，每个Store对象了表中的一个列族的存储。每个Store又包含

了MemStore和若干个StoreFile,其中，MemStore是在内存中的缓存。

15.试述HStore的工作原理

每个Store对应了表中的一个列族的存储。每个Store包括一个MenStore缓

存和若干个StoreFile文件。MenStore是排序的内存缓冲区，当用户写入数据

时,系统首先把数据放入MenStore缓存，当MemStore缓存满时,就会刷新

到磁盘中的一个StoreFile文件中，当单个StoreFile文件大小超过一定阈值时,

就会触发文件分裂操作。

16.试述HLog的工作原理

答：HBase系统为每个Region服务器配置了一个HLog文件，它是一种预

写式日志(WriteAheadLog),用户更新数据必须首先写入日志后,才能写入

MemStore缓存，并且，直到MemStore缓存内容对应的日志已经写入磁盘，

该缓存内容才能被刷写到磁盘。

17.在HBase中，每个Region服务器维护一个HLog,而不是为每个Region

都单独维护一个HLog。请说明这种做法的优缺点。

优点：多个Region对象的更新操作所发生的日志修改，只需要不断把日

志记录追加到单个日志文件中，不需要同时打开、写入到多个日志文件中。

缺点：如果一个Region服务器发生故障，为了恢复其上次的Region对象,

需要将Region服务器上的对象，需要将Region服务器上的HLog按照其所属

的Region对象进行拆分，然后分发到其他Region服务器上执行恢复操作。

18.当一台Region服务器意外终止时，Master如何发现这种意外终止情况？

为了恢复这台发生意外的Region服务器上的Region,Master应该做出哪些处

理（包括如何使用HLog进行恢复）？

Zookeeper会实时监测每个Region服务器的状态，当某个Region服务器

发生故障时，会通知

ZookeeperMaster0

Master首先会处理该故障Region服务器上面遗留的HLog文件,这个遗

留的HLog文件中包含了来自多个Region对象的日志记录。

系统会根据每条日志记录所属的Region对象对HLog数据进行拆分,分别

放到相应Region对象的目录下，然后，再将失效的Region重新分配到可用的

Region服务器中，并把与该Region对象相关的HLog日志记录也发送给相应

的Region服务器。

Region服务器领取到分配给自己的Region对象以及与之相关的HLog日

志记录以后，会重新做一遍日志记录中的各种操作，把日志记录中的数据写入到

MemStore缓存中,然后，刷新到磁盘的StoreFile文件中,完成数据恢复。

第五章

1.如何准确理解NoSQL的含义？

NoSQL是一种不同于关系数据库的数据库管理系统设计方式，是对非关系型数据库的一类统

称，它采用的数据模型并非传统关系数据库的关系模型，而是类似键/值、列族、文档等非

关系模型。

2.试述关系数据库在哪些方面无法满族Web2.0应用的需求。

关系数据库已经无法满足Web2.0的需求。主要表现在以下几个方面：

（1）无法满足海量数据的管理需求

（2）无法满足数据高并发的需求

（3）无法满足高可•犷展性和高可用性的需求

3.请比较NoSQL数据库和关系数据库的优缺点。

比较标准RDBMSNoSQL备注

数据库原理完全支持部分支持RDBMS有关系代数

理论作为基础

NoSQL没有统一的理

论基础

数据规模大超大RDBMS很难实现横

向扩展，纵向扩展的

空间也比较有限，性

能会随着数据规模的

增大而降低

NoSQL可以很容易通

过添加更多设备求支

持更大规模的数据

数据库模式固定灵活RDBMS需要定义数

据库模式，严格遵守

数据定义和相关约束

条件

NoSQL不存在数据库

模式，可以自由灵活

定义并存储各种不同

类型的数据

杳询效率快可以实现高效的简单RDBMS借助于索引

查询，但是不具备高机制可以实现快速查

度结构化查询等特询（包括记录查询和

性，复杂查询的性能范围查询）

不尽人意

很多NoSQL数据库没

有面向复杂查询的索

弓1，虽然NoSQL可以

使用M叩Reduce来

加速查询，但是，在

复杂查询方面的性能

仍然不如RDBMS

一致性强一致性弱一致性RDBMS严格遵守事

务AQD模型，可以保

证事务强一致性

很多NoSQL数据库放

松了对事务ACID四

性的要求，而是遵守

BASE模型，只能保证

最终•致性

数据完整性容易实现很难实现任何一个RDBMS都

可以很容易实现数据

完整性，比如通过主

键或者非空约束来实

现实体完整性，通过

主键、外键来实现参

照完整性，通过约束

或者触发器来实现用

户自定义完整性

但是，在NoSQL数据

库却无法实现

扩展性•般好RDBMS很难实现横

向扩展，纵向扩展的

空间也比较有限

NoSQL在设计之初就

充分考虑了横向扩展

的需求，可以很容易

通过添加廉价设备实

现扩展

可用性好很好RDBMS在任何时候

都以保证数据一致性

为优先目标，其次才

是优化系统性能，随

着数据规模的增大，

RDBMS为了保证严

格的一致性，只能提

供相对较弱的可用性

大多数NoSQL都能提

供较高的可用性

标准化是否RDBMS已经标准化

(SQL)

NoSQL还没有行业标

准,不同的NoSQL数

据库都有自己的直询

语言，很难规范应用

程序接口

StoneBraker认为：

NoSQL缺乏统一查询

语言，将会花慢

NoSQL发展

技术支持高低RDBMS经过几十年

的发展，已经非常成

熟,Oracle等大型厂

商都可以提供很好的

技术支持

NoSQL在技术支持方

面仍然处于起步阶

段，还不成熟，缺乏

有力的技术支持

可维护性复杂复杂RDBMS需要专门的

数据库管理员(DBA)

维护

NoSQL数据库虽然没

有DBMS复杂,也难

以维护

5.试述NoSQL数据库的四大类型

答：键值数据库、列族数据库、文档数据库和图数据库

6.试述键值数据库、列族数据库、文档数据库和图数据库的适用场合和优缺点。

数据库适用场合优点缺点

键值数据库通过键而是通过值来扩展性好，灵活性好，无法存储结构化信

查的业务大量写操作时性能高息，条件查询效率较

低

列族数据库不需要AQD事务支查找速度快，可扩展功能较少，大都不支

持的情形性强，容易进行分布持强事务一致性

式扩展，复杂性低

文档数据库只在相同的文档上添性能好(高并发)，

加事务灵活性高，复杂性低，

缺乏统一的查询语法

数据结构灵活

提供嵌入式文档功

能，将经常查询的数

据存储在同一个文档

中

既可以根据键来构建

索引，也可以根据内

容构建索引

图形数据库具有高度相互关联关灵活性高，支持复杂复杂性高，只能支持

系的数据的图形算法，可用于一定的数据规模

构建复杂的关系图谱

7.试述CAP理论的具体含义。

答：所谓的CAP指的是:

C(Consistency)：一致性，是指任何一个读操作总是能够读到之前完成的写操作的结果，

也就是在分布式环境中，多点的数据是一致的，或者说，所有节点在同一时间具有相同的数

据

A:(Availability)：可用性，是指快速获取数据，可以在确定的时间内返回操作结果，保证

每个请求不管成功或者失败都有响应；

P(ToleranceofNetworkPartition)：分区容忍性，是指当出现网络分区的情况时(即系统

中的一部分节点无法和其他节点进行通信)，分离的系统也能够正常运行，也就是说，系统

中任意信息的丢失或失败不会影响系统的继续运作。

8.请举例说明不同产品在设计时是如何运用CAP理论的。

选择CP,放弃A

Neo4J,Bigtable,MongoDB,Hbase,Hypertable,Redis

9.试述数据库的ACID四性的含义

1.原子性(Atomicity)

指事务必须是原子工作单元，对于其数据修改，要么全都执行，要么全都不执行。

2.一致性(consistency)

指事务在完成时，必须使所有的数据都保持一致状态。

4.隔离性(Isolation)

指并发事务所做的修改必须与其他并发事务所做的修改隔离。

5.持久性(Durability)

指事务完成之后，它对于系统的影响是永久性的，该修改即使出现致命的系统故障也将

一直保持。

10.试述BASE的具体含义

BASE的基本含义是基本可用（BasicallyAvailble）＞软状态（Soft-state）和最终一致性

（Eventualconsistency）

11.请解释软状态、无状态、硬状态的具体含义。

“软状态（soft-state）”矩与"硬状态（hard-state）”相对应的一种提法。数据库保

存的数据是“硬状态”时，可以保证数据一致性，即保证数据一直是正确的。“软状态”是

指状态可以有一段时间不司步，具有一定的滞后性。

12.什么是最终一致性？

最终一致性根据更新数据后各进程访问到数据的时间和方式的不同，又可以区分为：

（1）会话一致性：它把访问存储系统的进程放到会话（session）的上下文中，只要会

话还存在，系统就保证“读己之所写”一致性。如果由于某些失败情形令会话终止，就要建

立新的会话，而且系统保证不会延续到新的会话；

（2）单调写一致性：系统保证来自同一个进程的写操作顺序执行。系统必须保证这种

程度的一致性，否则就非常难以编程了

（3）单调读一致性：如果进程已经看到过数据对象的某个值，那么任何后续访问都不

会返回在那个值之前的值

（4）因果一致性：如果进程A通知进程B它已更新了•个数据项，那么进程B的后续

访问将获得A写入的最新值。而与进程A无因果关系的进程C的访问，仍然遵守一般的最

终一致性规则

（5）“读己之所写”一致性：可以视为因果一致性的一个特例。当进程A自己执行一

个更新操作之后，它自己总是可以访问到更新过的值，绝不会看到旧值

13.试述不一致性窗口的含义。

所有后续的访问都可以读取到操作0P写入的最新值。从0P操作完成到后续访问可以最终

读取到0P写入的最新值，这之间的时间间隔称为“不一致性窗口”。

14最终一致性根据更新数据后各进程访问到数据的时间和方式的不同，乂可以分为哪些不

温馨提示

1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

大数据技术原理与应用林子雨版课后习题答案

文档简介

温馨提示

最新文档

评论

大数据技术原理与应用林子雨版课后习题答案

文档简介

温馨提示

最新文档

评论

相关文档