首页 > 其他分享 >HDFS基本架构与副本备份

HDFS基本架构与副本备份

时间:2022-09-23 15:44:14浏览次数:66  
标签:HDFS 副本 ACK 备份 传输 DataNode NameNode

HDFS官方架构图,清晰明了

主角色,要注意的是NameNode因为它的特性使得它是HDFS的唯一访问入口

主角色辅助角色,要注意的是SecondaryNameNode不是NameNode的备份,而是它的"秘书",协助其完成工作

DataNode职责
第三点有意思:NameNode不持久存储块的位置信息,而是在启动系统时,由DataNode汇报它所存储的文件的块位置
NameNode是hadoop集群中的单点故障点,意味着它一旦寄了,集群就都用不了,无法访问

Pipeline管道
数据备份传输中,使用管道传输,如同流水一般,高效快捷,而不是只由客户端一个一个的循环式的拓扑传输

ACK应答响应
在使用管道传输时,同时结点对传输的文件进行ACK检验,若有数据无确认信息,则传输发生损失,发送结点将接受丢失的数据的确认信息,重新发送此数据
即若DN1发送ABC,若DN2检测到只有AC,没有B,则DN1将重新发送B
需要注意的是,ACK校验是两两校验,两结点之间的校验

默认3副本存储
副本数一般等于DataNode数,即机器数

标签:HDFS,副本,ACK,备份,传输,DataNode,NameNode
From: https://www.cnblogs.com/lxl-233/p/16722957.html

相关文章

  • MongoDB数据库备份(mongodump)以及恢复(mongorestore)工具实践
    摘要mongodump备份工具mongodump能够在Mongodb运行时进行备份,它的工作原理是对运行的Mongodb做查询,然后将所有查到的文档写入磁盘。mongodump的参数与mongoexport的参......
  • Oracle数据库备份恢复
    数据库备份热备份(expdp/impdp导出/导入)通过expdp数据泵工具把老服务器数据导出到一个*.dmp文件中,然后在新服务器上通过impdp导入命令把dmp文件中的数据泵入到数据......
  • oracle备份数据库
    oracle备份数据库 1.连接远程数据库打开cmd执行sqlplus/nolog执行connect用户名/密码@IP:端口/服务名例:connectsystem/[email protected]:1521/ETYY2.创......
  • BigData——HDFS操作
    HDFSshell操作配置hadoop环境变量vi/etc/profileexportHADOOP_HOME=/usr/local/soft/hadoop-2.6.0exportPATH=.:\$JAVA_HOME/bin:\$HADOOP_HOME/bin:$PATH然后执......
  • ElasticSearch 快照 备份、恢复数据
    ElasticSearch设置备份文件地址 在elasticsearch.yml新增path.repo:["/home/es/snapshot"]注册快照存储库PUT_snapshot/ecopherebbs{"type":"fs",......
  • 我眼中的大数据(二)——HDFS
    Hadoop的第一个产品是HDFS,可以说分布式文件存储是分布式计算的基础,也可见分布式文件存储的重要性。如果我们将大数据计算比作烹饪,那么数据就是食材,而Hadoop分布式文件系统H......
  • MySql 数据备份
    相关命令的执行都在windows服务器下,且工作目录就是mysqlserver的bin目录下.1、mysqldump全备份mysqldump-h127.0.0.1-u用户名-p"密码"数据库名称有表的话写表......
  • MYSQL备份(直接拷贝数据库文件
    目的:把A机中的库转移到B机中。1、停止mysql服务,在A机mysql安装目录下,找到my.ini文件打开,在此文件中找到datadir,把这个路径下的数据文件:ibdata1以及所有文件夹拷贝到B机中d......
  • linux系统管理类-备份策略
    1.如果一个系统没有任何的备份策略,请写出一个较为全面合理的备份方案!通用的系统数据目录-必须要备份的1.如果是数据库服务器:需要备份这些差异备份好处是,原始文件大......
  • xtrabackup 8.0 备份恢复与原理介绍
    https://www.modb.pro/db/102109 1.备份工具特性对比2.工作过程PerconaXtraBackup是基于InnoDB的崩溃恢复功能的,它复制InnoDB数据文件,这导致数据内部不一致;然后,它对......