一、概述
背景和定义
1)HDFS产生背景
随着数据量越来越大,在一个操作系统存不下所有的数据,那么就分配到更多的操作系统管理的磁盘中,但是不方便管理和维护,迫切需要一种系统来管理多台机器上的文件,这就是分布式文件管理系统。HDFS只是分布式文件管理系统中的一种。
2)HDFS定义
HDFS(Hadoop Distributed File System),它是一个文件系统,用于存储文件,通过目录树来定位文件;其次,它是分布式的,由很多服务器联合起来实现其功能,集群中的服务器有各自的角色。
HDFS的使用场景:适合一次写入,多次读出的场景。一个文件经过创建、写入和关闭之后就不需要改变。
优缺点
HDFS优点
1)高容错性
- 数据自动保存多个副本。它通过增加副本的形式,提高容错性。
- 某一个副本丢失以后,它可以自动恢复。
2)适合处理大数据
- 数据规模:能够处理数据规模达到GB、TB、甚至PB级别的数据;
- 文件规模:能够处理百万规模以上的文件数量,数量相当之大。
3)可构建在廉价机器上,通过多副本机制,提高可靠性。
HDFS缺点
1)不适合低延时数据访问,比如毫秒级的存储数据,是无法实现的。
2)无法高效的对大量小文件进行存储。
- 存储大量小文件,会占用NameNode大量的内存来存储文件目录和块信息。
- 小文件存储的寻址时间会超过读取时间,违反了HDFS的设计目标。
3)不支持并发写入、文件随机修改。
- 一个文件只能有一个写,不允许多个线程同时写。
- 仅支持数据追加(append),不支持文件的随机修改。
组成
HDFS文件块大小
HDFS中的文件在物理上是分块存储(Block),块的大小可以通过配置参数(dfs.blocksize)来规定,默认大小在Hadoop2.x/3.x中是128M,1.x版本是64M。
二、Shell相关操作
基本语法
hadoop fs具体命令 或者 hdfs dfs命令,两个是完全相同的。
命令大全
准备命令
1)启动Hadoop集群
[root@node50 hadoop]# sbin/start-dfs.sh
[root@node50 hadoop]# sbin/start-yarn.sh
2)-help:输出命令参数
[root@node50 hadoop]# hadoop fs -help rm
3)创建文件夹
[root@node50 hadoop]# hadoop fs -mkdir /testM
上传
1)-moveFromLocal:从本地剪切粘贴到HDFS
[root@node50 hadoop]# hadoop fs -moveFromLocal ./wenjian.txt /testM
2)-copyFromLocal:从本地拷贝到HDFS
[root@node50 hadoop]# hadoop fs -copyFromLocal wenjian.txt /testM
3)-put:等同于copyFromLocal,生产环境更多使用put
[root@node50 hadoop]# hadoop fs -put wenjian.txt /testM
4)-appendToFile:追加一个文件到已经存在的文件末尾
[root@node50 hadoop]# hadoop fs -appendToFile appendFile.txt /testM/wenjian.txt
下载
1)-copyToLocal:从HDFS拷贝到本地
[root@node50 hadoop]# hadoop fs -copyToLocal /testM/wenjian.txt ./
2)-get:等同于copyToLocal,生产环境更多使用get
[root@node50 hadoop]# hadoop fs -get /testM/wenjian.txt ./
hdfs直接操作
1)-ls:显示目录信息
[root@node50 hadoop]# hadoop fs -ls /testM
2)-cat:显示文件内容
[root@node50 hadoop]# hadoop fs -cat /testM/wenjian.txt
3)-chgrp、-chmod、-chown:修改文件所属权限
[root@node50 hadoop]# hadoop fs -chmod 666 /testM/wenjian.txt
4)-mkdir:创建路径
[root@node50 hadoop]# hadoop fs -mkdir /newFile
5)-cp:从hdfs的一个路径拷贝到hdfs另一个路径
[root@node50 hadoop]# hadoop fs -cp /testM/wenjian.txt /newM
6)-mv:在hdfs中移动文件
[root@node50 hadoop]# hadoop fs -mv /testM/wenjian.txt /newFile
7)-tail:显示一个文件的末尾1kb的数据
[root@node50 hadoop]# hadoop fs -tail /testM/wenjian.txt
8)-rm:删除文件或文件夹
[root@node50 hadoop]# hadoop fs -rm /testM/wenjianDel.txt
9)-rm -r:递归删除目录及目录里面内容
[root@node50 hadoop]# hadoop fs -rm -r /newFile
10)-du统计文件夹的大小信息
[root@node50 hadoop]# hadoop fs -du -s -h /testM
22 81 /testM
说明:22表示文件大小;81表示27*3个副本;/testM表示查看的目录
11)-setrep:设置HDFS中文件的副本数量
[root@node50 hadoop]# hadoop fs -setrep 10 /testM/wenjian.txt
说明:这里设置的副本数只是记录在NameNode的元数据中,是否真的会有这么多副本,还得看DataNode的数量。因为目前只有3台设备,最多也就3个副本,只有节点数的增加到10台时,副本数才能达到10。
三、客户端API
数据的上传和下载
创建目录
文件上传
文件下载
文件删除
文件更名和移动
文件详情查看
文件和文件夹的判断
四、读写流程
写数据流程
(1)客户端通过Distributed FileSystem模块向NameNode请求上传文件,NameNode检查目标文件是否已存在,父目录是否存在。
(2)NameNode返回是否可以上传。
(3)客户端请求第一个Block上传到哪几个DataNode服务器上。
(4)NameNode返回3个DataNode节点,分别为dn1、dn2、dn3。
(5)客户端通过FSDataOutputStream模块请求dn1上传数据,dn1收到请求会继续调用dn2,然后dn2调用dn3,将这个通信管道建立完成。
(6)dn1、dn2、dn3逐级应答客户端。
(7)客户端开始往dn1上传第一个Block(先从磁盘读取数据放到一个本地内存缓存),以Packet为单位,dn1收到一个Packet就会传给dn2,dn2传给dn3;dn1每传一个packet会放入一个应答队列等待应答。
(8)当一个Block传输完成之后,客户端再次请求NameNode上传第二个Block的服务器。(重复执行3-7步)。
读数据流程
(1)客户端通过DistributedFileSystem向NameNode请求下载文件,NameNode通过查询元数据,找到文件块所在的DataNode地址。
(2)挑选一台DataNode(就近原则,然后随机)服务器,请求读取数据。
(3)DataNode开始传输数据给客户端(从磁盘里面读取数据输入流,以Packet为单位来做校验)。
(4)客户端以Packet为单位接收,先在本地缓存,然后写入目标文件。
五、NameNode和SecondaryNameNode
5.1 工作流程
1)第一阶段:NameNode启动
(1)第一次启动NameNode格式化后,创建Fsimage和Edits文件。如果不是第一次启动,直接加载编辑日志和镜像文件到内存。
(2)客户端对元数据进行增删改的请求。
(3)NameNode记录操作日志,更新滚动日志。
(4)NameNode在内存中对元数据进行增删改。
2)第二阶段:Secondary NameNode工作
(1)Secondary NameNode询问NameNode是否需要CheckPoint。直接带回NameNode是否检查结果。
(2)Secondary NameNode请求执行CheckPoint。
(3)NameNode滚动正在写的Edits日志。
(4)将滚动前的编辑日志和镜像文件拷贝到Secondary NameNode。
(5)Secondary NameNode加载编辑日志和镜像文件到内存,并合并。
(6)生成新的镜像文件fsimage.chkpoint。
(7)拷贝fsimage.chkpoint到NameNode。
(8)NameNode将fsimage.chkpoint重新命名成fsimage。
六、Datanode工作机制
(1)一个数据块在DataNode上以文件形式存储在磁盘上,包括两个文件,一个是数据本身,一个是元数据包括数据块的长度,块数据的校验和,以及时间戳。
(2)DataNode启动后向NameNode注册,通过后,周期性(6小时)的向NameNode上报所有的块信息
标签:HDFS,fs,文件,Hadoop,hadoop,NameNode,root,node50 From: https://blog.51cto.com/u_15926166/6251888