首页 > 其他分享 >HDFS相关问题处理

HDFS相关问题处理

时间:2022-10-21 15:01:43浏览次数:55  
标签:HDFS java hdfs 处理 server datanode org apache 相关

机房搬迁后datanode启动失败,报错如下:

2022-10-21 10:28:40,551 INFO org.apache.hadoop.hdfs.server.common.Storage: Lock on /HDATA/1/dfs/local/in_use.lock acquired by nodename 65767@cnsz20pl5889
2022-10-21 10:28:40,552 WARN org.apache.hadoop.hdfs.server.common.Storage: Failed to add storage directory [DISK]file:/HDATA/1/dfs/local/
java.io.IOException: Incompatible clusterIDs in /HDATA/1/dfs/local: namenode clusterID = CID-b0d96057-03f8-4956-ab02-6e7f9167e90a; datanode clusterID = CID-1c3bc57f-7928-4e6d-a2f1-81530f0497f9
        at org.apache.hadoop.hdfs.server.datanode.DataStorage.doTransition(DataStorage.java:775)
        at org.apache.hadoop.hdfs.server.datanode.DataStorage.loadStorageDirectory(DataStorage.java:300)
        at org.apache.hadoop.hdfs.server.datanode.DataStorage.loadDataStorage(DataStorage.java:416)
        at org.apache.hadoop.hdfs.server.datanode.DataStorage.addStorageLocations(DataStorage.java:395)
        at org.apache.hadoop.hdfs.server.datanode.DataStorage.recoverTransitionRead(DataStorage.java:573)
        at org.apache.hadoop.hdfs.server.datanode.DataNode.initStorage(DataNode.java:1362)
        at org.apache.hadoop.hdfs.server.datanode.DataNode.initBlockPool(DataNode.java:1327)
        at org.apache.hadoop.hdfs.server.datanode.BPOfferService.verifyAndSetNamespaceInfo(BPOfferService.java:317)
        at org.apache.hadoop.hdfs.server.datanode.BPServiceActor.connectToNNAndHandshake(BPServiceActor.java:223)
        at org.apache.hadoop.hdfs.server.datanode.BPServiceActor.run(BPServiceActor.java:802)
        at java.lang.Thread.run(Thread.java:745)
2022-10-21 10:28:40,552 FATAL org.apache.hadoop.hdfs.server.datanode.DataNode: Initialization failed for Block pool <registering> (Datanode Uuid unassigned) service to cnsz20pl2298/10.153.16.14:8020. Exiting.
java.io.IOException: All specified directories are failed to load.
        at org.apache.hadoop.hdfs.server.datanode.DataStorage.recoverTransitionRead(DataStorage.java:574)
        at org.apache.hadoop.hdfs.server.datanode.DataNode.initStorage(DataNode.java:1362)
        at org.apache.hadoop.hdfs.server.datanode.DataNode.initBlockPool(DataNode.java:1327)
        at org.apache.hadoop.hdfs.server.datanode.BPOfferService.verifyAndSetNamespaceInfo(BPOfferService.java:317)
        at org.apache.hadoop.hdfs.server.datanode.BPServiceActor.connectToNNAndHandshake(BPServiceActor.java:223)
        at org.apache.hadoop.hdfs.server.datanode.BPServiceActor.run(BPServiceActor.java:802)
        at java.lang.Thread.run(Thread.java:745)
2022-10-21 10:28:40,552 FATAL org.apache.hadoop.hdfs.server.datanode.DataNode: Initialization failed for Block pool <registering> (Datanode Uuid unassigned) service to cnsz20pl3906/10.153.16.24:8020. Exiting.
java.io.IOException: All specified directories are failed to load.
        at org.apache.hadoop.hdfs.server.datanode.DataStorage.recoverTransitionRead(DataStorage.java:574)
        at org.apache.hadoop.hdfs.server.datanode.DataNode.initStorage(DataNode.java:1362)
        at org.apache.hadoop.hdfs.server.datanode.DataNode.initBlockPool(DataNode.java:1327)
        at org.apache.hadoop.hdfs.server.datanode.BPOfferService.verifyAndSetNamespaceInfo(BPOfferService.java:317)
        at org.apache.hadoop.hdfs.server.datanode.BPServiceActor.connectToNNAndHandshake(BPServiceActor.java:223)
        at org.apache.hadoop.hdfs.server.datanode.BPServiceActor.run(BPServiceActor.java:802)
        at java.lang.Thread.run(Thread.java:745)

已知的原因 1):由于这批机器是机房搬迁的,之前有部署过datanode, 搬迁后没有清理对应 dfs.datanode.data.dir 配置的目录,导致目录下面current/VERSION记录的clusterID还是之前集群的,与当前集群冲突。

解决方法:删除dfs.datanode.data.dir配置的路径下所有dfs/路径下面的文件及文件夹,然后重启datanode

 

标签:HDFS,java,hdfs,处理,server,datanode,org,apache,相关
From: https://www.cnblogs.com/weizaiyan/p/16813472.html

相关文章

  • 面试题vue组件的相关问题
    面试题vue组件的相关问题什么是组件什么是组件:组件(Component)是Vue.js最强大的功能之一。组件可以扩展HTML元素,封装可重用的代码。一个页面可以由多个组件构成,......
  • 文档相关注解
    说明注释允许你在程序中嵌入关于程序的信息。你可以使用javadoc工具软件来生成信息,并输出到HTML文件中说明注释,是你更加方便的记录你的程序信息。文档注释我们一般使用在......
  • MQTT云台如何助力分布式农村污水处理的远程管理
    随着城市化进程的推进,农村污水治理是新农村建设的重要内容。未经处理的农村生活污水排放到生态水环境中将会造成污染,进而影响居民身体健康。然而,在污水处理的实时应用,存在管......
  • 自然语言处理学习笔记-lecture5-语言模型03
    词语表示一种典型方法是符号表示法,\(w_1w_2\cdotsw_m\)等等,等价的表示方法是one-hot表示法,此时有多少个词向量就有多少维,且没有办法表示词之间的相似性,基于连续语义空间......
  • 核心交换机相关技术参数详解
    核心交换机一般指三层交换机。三层交换机就是具有部分路由器功能的交换机,工作在OSI网络标准模型的第三层:网络层。三层交换机的最重要目的是加快大型局域网内部的数据交换,所......
  • Redis处理秒杀并发
     一、现公司解决秒杀方案:1. 利用Redis原子性自增接口incr2. Redis缓存+异步同步数据到数据库优点:解决超卖问题,库存读写都在内存中,故同时解决性能问题。缺点:由于......
  • Kuix 错误处理机制
    Kuix错误处理机制最近在做手机软件,暂时选定JavaME作为开发语言,而Kuix作为界面开发框架。总体来说,使用Kuix做出来的界面还是很漂亮的,兼容性也不错。项目进入......
  • 关于服务器项目日志的一个便捷处理
        发现运维同事的项目日志处理比较便利,值得借鉴。即使在开发环境中,这样处理也是不错的。    比如项目rtp部署在了/home/www/......
  • ISP(图像信号处理)之Bayer Raw 简介
    ISP(图像信号处理)之BayerRaw简介ISP(图像信号处理)之BayerRaw简介_乐正倩彦的博客-CSDN博客_bayerraw 置顶乐正倩彦于 2019-11-0519:33:58 发布10176 收藏......
  • vue 处理打包后加载慢的问题
    在开发项目时引入过多的插件时,容易导致项目打包后chunk-vendors.js文件过大,导致浏览器加载慢的问题,目前有两种解决方式方式一:由于:chunk-vendors文件过大、js没有压缩、服......