首页 > 编程语言 >Hadoop集群的高可用（HA）：NameNode和resourcemanager高可用的搭建

Hadoop集群的高可用（HA）：NameNode和resourcemanager高可用的搭建

时间：2024-09-30 11:19:03浏览次数：13  
标签：hdfs resourcemanager 可用 hadoop yarn Hadoop dfs namenode

文章目录

一、NameNode高可用的搭建

1、免密配置

2、三个节点都需要安装psmisc

yum install -y psmisc

3、检查三个节点是否都安装jdk以及zk

4、检查是否安装了hadoop集群

如果以前安装过了，则需要清空数据：

1.先停止集群：

stop-all.sh

2.清理集群中的data数据：

rm -rf /opt/installs/hadoop/tmp/ /opt/installs/hadoop/logs/

5、修改hadoop-env.sh

export JAVA_HOME=/opt/installs/jdk/ 

export HDFS_NAMENODE_USER=root
export HDFS_DATANODE_USER=root
export HDFS_SECONDARYNAMENODE_USER=root
export YARN_RESOURCEMANAGER_USER=root
export YARN_NODEMANAGER_USER=root

export HDFS_JOURNALNODE_USER=root
export HDFS_ZKFC_USER=root

6、修改core-site.xml

<!--覆盖-->
<configuration>
  <!--hdfs入口，设置虚拟地址，具体地址后面配置-->
  <property>
    <name>fs.defaultFS</name>
    <value>hdfs://hdfs-cluster</value>
  </property>
  <!--hdfs集群的文件位置-->
  <property>
    <name>hadoop.tmp.dir</name>
    <value>/opt/installs/hadoop/tmp</value>
  </property>
  <!--hdfs要访问zookeeper集群-->
  <property>
    <name>ha.zookeeper.quorum</name>
    <value>node01:2181,node02:2181,node03:2181</value>
  </property>
</configuration>

7、修改hdfs-site.xml

<!--覆盖-->
<configuration>
    <!-- 副本数 -->
    <property>
        <name>dfs.replication</name>
        <value>3</value>
    </property>
    <!-- 定义dhfs入口的命名服务 -->
    <property>
        <name>dfs.nameservices</name>
        <value>hdfs-cluster</value>
    </property>
    <!-- 定义hdfs入口的命名服务下虚拟ip-->
    <property>
        <name>dfs.ha.namenodes.hdfs-cluster</name>
        <value>nn1,nn2</value>
    </property>
    <!-- 虚拟ip地址1 RPC入口 -->
    <property>
        <name>dfs.namenode.rpc-address.hdfs-cluster.nn1</name>
        <value>node01:9820</value>
    </property>
    <!-- 虚拟ip地址1 HTTP入口 -->
    <property>
        <name>dfs.namenode.http-address.hdfs-cluster.nn1</name>
        <value>node01:9870</value>
    </property>
    <!-- 虚拟ip地址2 PRC入口 -->
    <property>
        <name>dfs.namenode.rpc-address.hdfs-cluster.nn2</name>
        <value>node02:9820</value>
    </property>
    <!-- 虚拟ip地址1 HTTP入口 -->
    <property>
        <name>dfs.namenode.http-address.hdfs-cluster.nn2</name>
        <value>node02:9870</value>
    </property>
    
    <!-- 定义QJN在linux中保存文件磁盘目录 -->
    <property>
        <!-- Journal Edit Files 的存储目录:() -->
        <name>dfs.journalnode.edits.dir</name>
        <value>/opt/installs/journalnode/data/</value>
    </property>
    <property>
        <name>dfs.namenode.shared.edits.dir</name>
        <value>qjournal://node01:8485;node02:8485;node03:8485/hdfs-cluster</value>
    </property>
    
    
    <!-- 是否开启故障切换 -->
    <property>
        <name>dfs.ha.automatic-failover.enabled</name>
        <value>true</value>
    </property>
    
    
    <!-- 基于zookeeper的故障切换的代码类 -->
    <property>
        <name>dfs.client.failover.proxy.provider.hdfs-cluster</name>
  <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
    </property>
    
    
    <!-- 远程杀死namenode方式(防止namenode假死，导致双主出现) -->
    <property>
        <name>dfs.ha.fencing.methods</name>
        <value>sshfence</value>
    </property>
    <!-- 指定私钥的文件目录，使用免密登录杀死NN进程 -->
    <property>
        <name>dfs.ha.fencing.ssh.private-key-files</name>
        <value>/root/.ssh/id_rsa</value>
    </property>

    <!-- 可以在hdfs上点击结果查看-->
    <property>
      <name>dfs.webhdfs.enabled</name>
      <value>true</value>
    </property>
</configuration>

8、检查workers 文件是否为三台服务

9、分发给其他两个节点

分发脚本编写地址：脚本编写链接

cd /opt/installs/hadoop/etc/hadoop

xsync.sh hadoop-env.sh core-site.xml hdfs-site.xml

10、初始化ZKFC在zk中的Znode信息

1.先启动zk

zk.sh start

2.在主节点进行即可

hdfs zkfc -formatZK

11、在三台服务器上启动journalnode

hadoop-daemon.sh start journalnode

12、对集群进行namenode的格式化

hdfs namenode -format

13、启动hdfs

14、启动第二个namenode

1.第一次需要运行如下命令，以后不需要：

hdfs namenode -bootstrapStandby

2.接着，启动第二个namenode:

hadoop-daemon.sh start namenode

15、第二次只需要正常启动zk和hadoop即可

需要先启动zk，再启动hadoop
namenode的web界面：node01:9870

二、resourcemanager高可用搭建

1、检查mapred-site.xml

里面只有yarn配置和historyServer的配置，不需要修改

2、修改yarn-site.xml

以前配置的yarn以及日志服务的配置不动，添加ha的相关配置即可:

<configuration>

  <!--配置resourcemanager的HA-->
  <property>
    <name>yarn.resourcemanager.ha.enabled</name>
    <value>true</value>
  </property>
  <!-- RM 集群标识 -->
  <property>
    <name>yarn.resourcemanager.cluster-id</name>
    <value>yarn-cluster</value>
  </property> 
  <!-- RM 的逻辑 ID 列表 -->
  <property>
    <name>yarn.resourcemanager.ha.rm-ids</name>
    <value>rm1,rm2</value>
  </property> 
  <!-- RM1 的主机地址 -->
  <property>
    <name>yarn.resourcemanager.hostname.rm1</name>
    <value>node01</value>
  </property>
  <!-- RM1 的主机web管理界面地址 --> 
  <property>
    <name>yarn.resourcemanager.webapp.address.rm1</name>
    <value>node01:8088</value>
  </property>
  <!-- RM2 的主机地址 -->
  <property>
    <name>yarn.resourcemanager.hostname.rm2</name>
    <value>node02</value>
  </property> 
  <!-- RM2 的主机web管理界面地址 -->  
  <property>
    <name>yarn.resourcemanager.webapp.address.rm2</name>
    <value>node02:8088</value>
  </property>
  <!-- ZooKeeper 集群的地址 -->  
  <property>
    <name>yarn.resourcemanager.zk-address</name>
    <value>node01:2181,node02:2181,node03:2181</value>
  </property> 
  <!-- 启用自动恢复 --> 
  <property>
    <name>yarn.resourcemanager.recovery.enabled</name>
    <value>true</value>
  </property> 
  <!-- 用于yarn故障转移持久化zk的类 -->
  <property>
    <name>yarn.resourcemanager.store.class</name>
    <value>org.apache.hadoop.yarn.server.resourcemanager.recovery.ZKRMStateStore</value>
</property> 

<!-- 关闭虚拟内存检查 -->
<property>
    <name>yarn.nodemanager.vmem-check-enabled</name>
    <value>false</value>
 </property>

</configuration>

3、分发

cd /opt/installs/hadoop/etc/hadoop/

# 只需要同步一个，因为另一个根本没有修改。
xsync.sh yarn-site.xml

4、启动yarn

5、查看是否配置成功

yarn rmadmin -getAllServiceState

resourcemanager的web界面：node01：8088

6、遇到的问题

假如你在启动过程中，发现resourcemanager有两个，但是都是standby，有可能是版本兼容问题：
hadoop3.1.6 需要兼容 zookeeper 3.4.10 hadoop3.3.1 需要兼容 zookeeper 3.6.4 ，否则就会有问题。
namenode 高可用没问题，resourcemanager的高可用有问题。

标签：hdfs,resourcemanager,可用,hadoop,yarn,Hadoop,dfs,namenode
From： https://blog.csdn.net/lzhlizihang/article/details/142652892

相关文章

  • 2024 最新 Navicat Premium 17.0.13 简体中文版（亲测可用）
    步骤如下：一、官网下载安装包：https://www.navicat.com.cn/download/navicat-premium  二、安装NavicatPremium17  注意：安装完后不要打开已打开自行退出三、补丁下载关注后发送“navicat17”即可获取补丁下载地址，无套路。 四、安装补丁先将下载下来的压缩包里面......
  • 高可用集群 KEEPALIVED ubuntu使用
    1Keepalived架构和安装2.1Keepalived架构 Keepalived进程树Keepalived<--Parentprocessmonitoringchildren\_Keepalived<--VRRPchild\_Keepalived<--Healthcheckingchild2.2Keepalived环境准备#环境准备#两台keepalive机器分别配一个单独网卡......
  • Hadoop三大组件之YARN（一）
    YARN架构与任务提交流程详解1.YARN的组成架构YARN（YetAnotherResourceNegotiator）是Hadoop生态系统中的一个重要组成部分，主要用于资源管理和调度。YARN的架构主要由以下几个关键组件构成：1.1ResourceManager（RM）ResourceManager是YARN的核心组件，负责整个集群的资源管理......
  • pbootcms中可用的自动计算日期的代码
    <script> window.onload=function(){ functioncalculateDays(){ varcurrentDate=newDate('2020-02-21'); varnextYearDate=newDate(currentDate.getFullYear()+5,currentDate.getMonth(),currentDate.getDate()); document.ge......
  • 【可用】【一眼就会】Access-Control-Allow-Origin （CORS 头缺少 'Access-Control-Allo
    解决跨域问题有多种方式，很多文章都是千篇一律。没有实质性，没有给出具体解决方法。更可悲的是，官方给出的解决方案就是提示，解释是：“对于允许所有源的情况，可以设置Access-Control-Allow-Origin:*。如果要限制到特定的源，可以设置具体的域名，例如Access-Control-Allow-Origin:https:......
  • 基于springboot+vue的校园外卖配送系统-可用于计算机毕设-课程设计-练手学习
    博主简介：......
  • keepalived+nginx实现高可用的案例详解（主主模式）
    文章目录前言keepalived主备模式和主主模式有什么区别1.主备模式（Master-BackupMode）2.主主模式（Active-ActiveMode或DualMasterMode）主备模式vs主主模式的区别总结：环境案例实现具体步骤ngx1ngx2验证前言keepalived主备模式和主主模式有什么区别Keepali......
  • 手动搭建高可用的 kubernetes 集群(v1.31)
    手动搭建高可用的kubernetes集群(v1.31)目录1、环境准备1.1集群规划（节约资源，可按需配置）1.2安装依赖包（双节点执行）1.3配置映射（双节点执行）1.4免密登录（master节点执行）1.5环境准备（双节点执行）2、安装containerd（双节点执行）3、安装Kubernetes3.1安装Kubernetes组件（双节点执行）3.2......
  • Serilog文档翻译系列（六） - 可用的接收器、增强器、格式化输出
    01、提供的接收器Serilog使用接收器将日志事件以各种格式写入存储。许多接收器由更广泛的Serilog社区开发和支持；可以通过在NuGet上搜索serilog标签找到。02、增强器日志事件可以通过多种方式增强属性。通过NuGet提供了一些预构建的增强器：Install-PackageSerilog.En......
  • 禁用QQ自动升级（实测可用）
    事件起因：某客户电脑QQ从怀旧版（9.7）自动升级到NT版本（9.9）版本，新版本由于消息通知功能不能直接查看，老版本右下角消息闪烁，鼠标放上去便可以看到有几个联系人的消息，因此客户强烈要求版本回退到9.7版本，于是帮客户卸载重装；没两天，客户又来报修说是QQ又自动升级到了9.9版本，确定QQ设置......

赞助商

阅读排行

网站主页关于我们联系我们网站地图

本网站内容转载自其他媒体，侵权联系[admin##ips99.com]。

Copyright © 2020-2023 IPS99 版权所有 IPS99