首页 > 编程语言 >多次重新初始化hadoop namenode -format后,DataNode或NameNode没有启动

多次重新初始化hadoop namenode -format后,DataNode或NameNode没有启动

时间:2023-05-13 14:13:43浏览次数:50  
标签:opt xml format app hadoop site DataNode 2.7

多次重新初始化hadoop namenode -format后,DataNode或NameNode没有启动

在搭建完hadoop集群后,需要对主节点进行初始化(格式化)

其本质是清理和做一些准备工作,因为此时的HDFS在物理上还是存在的。

而且主节点格式化操作只能进行一次。

当我们不小心多次初始化,会导致启动hadoop集群时,主节点DataNode或NameNode无法启动

[root@node01 hadoop]# jps
6628 SecondaryNameNode
7412 Jps
6901 ResourceManager
7066 NodeManager

解决方法如下:

在重新初始化(格式化)前,

  • 先在主节点上运行 stop-all.sh终止所有进程 (可以使用jps查看)

  • 删除配置文件core-site.xml 和hdfs-site.xml中指定目录下的文件

    查找方法:查看配置文件里面是如何写的

    image-20230405140150628

    示例:

    $hadoop_home = /opt/app/hadoop-2.7.7
    
    1. 首先找到指定目录

    查看hdfs-site.xml文件

    示例: $hadoop_home/etc/hadoop/hdfs-site.xml

<configuration> 
    .
    .
    .
  <property> 
    <name>dfs.namenode.dir</name>
    <value>file:/opt/app/hadoop-2.7.7/name</value>
  </property> 
    
  <property>
    <name>dfs.datanode.dir</name>
    <value>file:/opt/app/hadoop-2.7.7/data</value>
  </property> 
    .
    .
    .

</configuration>

查看core--site.xml

示例:$hadoop_home/etc/hadoop/core--site.xml

<configuration> 
    .
    .
    .
    
  <property>
    <name>dfs.tmp.dir</name>
    <value>file:/opt/app/hadoop-2.7.7/tmp</value>
  </property> 
    .
    .
    .

</configuration>
  1. cd /opt/app/hadoop-2.7.7去看有哪些内容

20230401180327

  1. 删除 dfs.namenode.dir和dfs.datanode.dir所指目录里的文件
  • rm -rf name

  • rm -rf data

  1. 删除logs日志文件和tmp缓存文件
  • rm -rf logs
  • rm -rf tmp
  1. 最后重新初始化(格式化) hadoop namenode - format

!!!注意:每个结点上都需要删除相应文件

废弃命令(不要执行):

cd /opt/app/hadoop-2.7.7
cat /etc/hadoop/hdfs-site.xml
rm -rf /opt/app/hadoop-2.7.7/data
rm -rf /opt/app/hadoop-2.7.7/name

标签:opt,xml,format,app,hadoop,site,DataNode,2.7
From: https://www.cnblogs.com/Oraer/p/17397251.html

相关文章

  • Ubuntu: 格式化USB How to format a USB flash drive?
    1-byDiskutility//simplestway youcanuseDisksit'sinstalledbydefaultandeasytouse. 1st:ClickontheDashicon2nd:Searchfor"Disks"3rd:ClickonDisks Theapplicationwillshowsup: 1st:ChoosetheUSBflashdrive2nd:Click......
  • google-java-format 插件
    GoogleJavaStyleGuidegoogle-java-formatgoogle-java-format插件可用于重新格式化Java源代码,。启用后,它将替换通常的ReformatCode操作。该操作可以通过Code->ReformatCode触发,也可以使用Ctrl+Alt+L触发。IDEA中使用google-java-format插件在File->Settings->Pl......
  • day3 Hadoop安装与使用-Hadoop安装篇【上】
    【os】因为最近没有带大数据实验那本书,这几篇使用的都是大数据原教材-大数据技术原理运用(第三版)。其实两本内容差不多,但是实验那本教材安装过程更详细一点。 【正文】2.Hadoop安装【Hadoop单机安装】Hadoop使用版本:3.1.3下载地址:https://archive.apache.org/dist/hadoop/co......
  • hadoop基础(二)
    JAVA客户端环境搭建创建Maven项目,添加Hadoop依赖.<dependencies><!--https://mvnrepository.com/artifact/mysql/mysql-connector-java--><dependency><groupId>mysql</groupId><artifactId>mysql-co......
  • Hadoop API使用 大坑
      这几天一直在困扰我pycurl版本和本机的版本不符合他连接又连接的自己自带的版本与系统不相同低级也会报错 https://blog.csdn.net/u010910682/article/details/89496550/?ops_request_misc=&request_id=&biz_id=102&utm_term=pycurl7.45.2%20%E6%90%AD%E9%85%8Dlibcu......
  • Customising claims transformation in ASP.NET Core Identity
    I’vebeentestingoutthenewversionofASP.NETIdentityandhadtheneedtoincludeadditionalclaimsinthe ClaimIdentity generatedwhenauserisauthenticated.TransformingClaimsIdentityASP.NETCoresupportsClaimsTransformationoutofthebox.J......
  • hadoop启动脚本
    if(($#<1));thenechonoargsinput,exit.exit1ficase$1instart)echo[INFO]startingdfs...start-dfs.shecho[INFO]done.echo[INFO]startingyarnoncentos002...sshcentos002start-yarn.shecho[INFO]done.echo[IN......
  • Hadoop的运行模式
    Hadoop官方网站http://hadoop.apache.org/Hadoop运行模式本地模式:单机运行,只是用来演示一下官方案例。生产环境不用。伪分布式模式:也是单机运行,但是具备Hadoop集群的所有功能,一台服务器模拟一个分布式的环境。个别缺钱的公司用来测试,生产环境不用。完全分布式模式:多......
  • 【论文解读】(拼音+字形+字三种信息的中文BERT)ChineseBERT: Chinese Pretraining Enhan
    文章目录1.相关信息2.论文内容3.论文模型3.1GlyphEmbedding3.2PinyinEmbedding4.实验与结论5.模型使用方式1.相关信息论文年份:2021论文地址:https://aclanthology.org/2021.acl-long.161.pdf论文代码(官方):https://github.com/ShannonAI/ChineseBertHuggingFace:Shan......
  • hadoop前期环境搭建
    主机名ipssh免密登陆#修改主机名hostnamectlset-hostnamenode1#修改ip地址vim/etc/sysconfig/network-scripts/ifcfg-ens33#node1IPADDR="192.168.88.101"NETMASK="225.225.225.0"GATEWAY="192.168.88.2"DNS1="192.168.88.2"#重启网卡......