首页 > 其他分享 >HDFS 安全模式

HDFS 安全模式

时间:2024-03-18 13:55:58浏览次数:15  
标签:HDFS 副本 模式 安全 safemode namenode

HDFS 安全模式

安全模式概述:

安全模式是HDFS所处的一种特殊状态,在这种状态下,文件系统只接受读数据请求,而不接受删除、修改等变更请求,是一种保护机制,用于保证集群中的数据块的安全性。

在NameNode主节点启动时,HDFS首先进入安全模式,集群会开始检查数据块的完整性。DataNode在启动的时候会向namenode汇报可用的block信息,当整个系统达到安全标准时,HDFS自动离开安全模式。

假设我们设置的副本数(即参数dfs.replication)是5,那么在Datanode上就应该有5个副本存在,假设只存在3个副本,那么比例就是3/5=0.6。在配置文件hdfs-default.xml中定义了一个最小的副本的副本率(即参数dfs.namenode.safemode.threshold-pct)0.999。

我们的副本率0.6明显小于0.99,因此系统会自动的复制副本到其他的DataNode,使得副本率不小于0.999.如果系统中有8个副本,超过我们设定的5个副本,那么系统也会删除多余的3个副本。

如果HDFS处于安全模式下,不允许HDFS客户端进行任何修改文件的操作,包括上传文件,删除文件,重命名,创建文件夹,修改副本数等操作。

安全模式配置

与安全模式相关主要配置在hdfs-site.xml文件中,主要有下面几个属性:

dfs.namenode.replication.min: 每个数据块最小副本数量,默认为1. 在上传文件时,达到最小副本数,就认为上传是成功的。

dfs.namenode.safemode.threshold-pct: 达到最小副本数的数据块的百分比。默认为0.999f。当小于这个比例,那就将系统切换成安全模式,对数据块进行复制;当大于该比例时,就离开安全模式,说明系统有足够的数据块副本数,可以对外提供服务。小于等于0意味不进入安全模式,大于1意味一直处于安全模式。

dfs.namenode.safemode.min.datanodes: 离开安全模式的最小可用datanode数量要求,默认为0.也就是即使所有datanode都不可用,仍然可以离开安全模式。

dfs.namenode.safemode.extension: 当集群可用block比例,可用datanode都达到要求之后,如果在extension配置的时间段之后依然能满足要求,此时集群才离开安全模式。单位为毫秒,默认为30000.也就是当满足条件并且能够维持30秒之后,离开安全模式。 这个配置主要是对集群稳定程度做进一步的确认。避免达到要求后马上又不符合安全标准。

总结一下,要离开安全模式,需要满足以下条件:

1)达到副本数量要求的block比例满足要求; (默认0.999f)

2)可用的datanode节点数满足配置的数量要求;(默认存活的DataNode数量为0)

3) 1、2 两个条件满足后维持的时间达到配置的要求

安全模式命令

手动进入安全模式(对于集群维护或者升级的时候非常有用,因为这时候HDFS的数据是只读的)

hdfs dfsadmin -safemode enter 

手动进入安全模式对于集群维护或者升级的时候非常有用,因为这时候HDFS上的数据是只读的。手动退出安全模式可以用下面命令:

 hdfs dfsadmin -safemode leave  

如果你想获取到集群是否处于安全模式,可以用下面的命令获取:

hdfs dfsadmin -safemode get

标签:HDFS,副本,模式,安全,safemode,namenode
From: https://www.cnblogs.com/luoluoange/p/18080247

相关文章

  • 采用设备认证、通信安全、系统安全三大机制,全方位为业务出海保驾护航
    中国联通推出了创新的跨境物联网产品解决方案,通过一卡双IMSI技术实现无感知切换,为企业海外业务提供了一站式的管理和快速部署能力。一、一卡双IMSI,实现无感知切换中国联通跨境物联网产品解决方案的核心亮点在于其采用的一卡双IMSI技术。这种技术使得物联网设备在跨国使用时,无需......
  • 数据可视化如何为食品安全保驾护航?
    在当今食品安全日益受到关注的背景下,数据可视化技术成为保障食品安全的重要利器。通过数据可视化,我们能够实时监测食品生产、加工、运输和销售等环节,及时发现和解决食品安全问题,保障公众健康。数据可视化如何为食品安全保驾护航?下面我就以可视化从业者的角度,简单聊聊这个话题。......
  • mysql安全模式下创建账号
    1.首先停止mysql数据库服务2.进入mysql数据库的bin目录下,打开cmd,以--skip-grant-tables模式登录数据库,执行如下指令3.安全模式启动MYSQL数据库服务后,在MYSQL数据库的bin目录下打开第二个cmd4.以root账号登录mysql数据库:mysql-uroot5.查看数据库,执行SHOWDATABASES;6.......
  • 来自通义千问的观察者模式的实现
    Spring相关的实现BusinessProcessEvent.javapackagecom.example.demo.event;importorg.springframework.context.ApplicationEvent;publicclassBusinessProcessEventextendsApplicationEvent{privateStringinstanceId;privateStringoperationType;......
  • MS17_010 漏洞利用与安全加固
    文章目录环境说明1MS17_010简介2MS17_010复现过程3MS17_010安全加固环境说明渗透机操作系统:kali-linux-2024.1-installer-amd64漏洞复现操作系统:cn_windows_7_professional_with_sp1_x64_dvd_u_6770311MS17_010简介MS17_010漏洞后门利用程序EternalB......
  • 数据安全与个人隐私:美国人的焦虑与变化
    PrimiHub一款由密码学专家团队打造的开源隐私计算平台,专注于分享数据安全、密码学、联邦学习、同态加密等隐私计算领域的技术和内容。在这个每一次点击、轻敲或按键都留下数字踪迹的时代,美国人对个人数据安全的焦虑与日俱增。他们感觉对数据的使用几乎没有任何掌控权。政府数......
  • 怎样保障内外网数据单向导入导出的效率和安全?
    金融、证券、税务、海关、军工、国央企、生物医药等涉密行业,为了保护内部的核心数据,都会将网络进行物理隔离,网络物理隔离主要是采用隔离硬件设备,在人工或者软件的控制下,进行内外网的切换和数据交换。传统的内外网数据单向导入导出方式主要都是依赖于人工操作,主要包括以下几种:1......
  • 研发安全(一)——研发人员必须掌握的安全开发常识
    研发安全(一)研发人员必须掌握的安全开发常识1引言随着信息技术的不断发展,软件安全问题逐渐凸显,成为了软件研发过程中不可忽视的重要方面。作为研发人员,掌握安全开发常识,不仅有助于提升软件产品的安全性,还能够有效预防潜在的安全风险。本文将讲述研发人员必须掌握的安全......
  • 计算机等级考试:信息安全技术 知识点十二
    1、在SQL注入程序中,入侵者通常将未授权的数据库语句插入或注入有洞的SQL数据信道中。通常情况下,攻击所针对的数据信道包括存储过程和Web应用程序输入参数。然后这些注入的语句被传递到数据库中并在数据库中热行。使用SQL注入,攻击者可以不受限制地访问整个数据库:利用程序对用户......
  • 安全原则
    安全设计原则软件开发和系统架构设计中,安全设计原则是一组指导方针,旨在帮助开发者和设计师构建更安全的系统。这些原则可以减少系统的脆弱性,提高对抗潜在威胁的能力。安全原则列表层次防护原则(LayeredDefense)内容:在安全系统中实施多层防护措施,以确保即使一层失败,其他层也......