Hadoop分布式文件系统-架构和设计说明书_第1页
Hadoop分布式文件系统-架构和设计说明书_第2页
Hadoop分布式文件系统-架构和设计说明书_第3页
Hadoop分布式文件系统-架构和设计说明书_第4页
Hadoop分布式文件系统-架构和设计说明书_第5页
已阅读5页,还剩18页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

简单的一致性模型1四、文件系统的名字空间(namespace)3副本存放:最最开场的一步48.1磁盘数据错误、心跳检测和重新复制79.2Staging910.1DFSShell1010.2DFSAdmin10一、引言 二、前提和设计目标硬件错误2.2流式数据访问FS2.3大规模数据集体上高的数据传输带宽,能在一个集群里扩展到数百个节点。一个单一的HDFS2.4简单的一致性模型 “移动计算比移动数据更划算〞的时候更是如此。因为这样就能降低网络阻塞的影响,提高系统数据的吞吐量。规模数据应用平台的推广。三、Namenode和Datanode 四、文件系统的名字空间(namespace)HDFS支持传统的层次型文件组织构造。用户或者应用程序可以创立目录,户磁盘配额和访问权限控制,也不支持硬链接和软链接。但是HDFS架构并不排 e五、数据复制HDFS计成能够在一个大集群中跨机器可靠地存储超大文件。它将每个收心跳信号和块状态报告(Blockreport)。接收到心跳信号意味着该Datanode节点工作正常。块状态报告包含了一个该Datanode上所有数据块的列表。5.1副本存放:最最开场的一步 d一个简单但没有优化的策略就是将副本存放在不同的机架上。这样可以有效价。5.2副本选择5.3平安模式 六、文件系统元数据的持久化 七、通讯协议八、强健性HDFS要目标就是即使在出错的情况下也要保证数据存储的可靠性。常rtitions)。8.1磁盘数据错误、心跳检测和重新复制8.2集群均衡 8.3数据完整性8.4元数据磁盘错误8.5快照用快照,可以让HDFS在数据将来的版本进展支持。 九、数据组织9.1数据块9.2Staging9.3流水线复制设该文件的副本系数设置为3,当本地临时文件累积到一个数据块的大小时,客 十、可访问性h令创立一个名为/foodir的目录bin/hadoopdfs-mkdir/foodir删除名为/foodir/myfile.txt的文件Bin/hadoopdfs-rm/foodirmyfile.txtfoodir/myfile.txt的文件bin/hadoopdfs-cat/foodir/myfiDFSShell和文件系统进展交互的应用程序上。 令将集群置于平安模式bin/hadoopdfsadmin-safemodeenterbin/hadoopdfsadmin-reportbin/hadoopdfsadmin-decommissiondatanodename十一、存储空间回收 十二、参考资料HDFSJavaAPI:HDFS源代码:://hadoop.apache.o

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论