首页 > 其他分享 >0637-5.16.1-CDH集群中var目录占用空间大问题分析

0637-5.16.1-CDH集群中var目录占用空间大问题分析

时间:2022-10-04 12:03:07浏览次数:54  
标签:CM CDH 默认 节点 0637 5.16 var 集群 目录

作者:唐辉


1

文档编写目的


Fayson今天在观察集群的时候,发现CM节点/var目录使用空间异常的大,使用率达到93% ,为防止目录空间使用满,导致CM界面告警。于是对该目录进行详细分析


  • 测试环境

1.CM和CDH版本为CDH 5.16.1

2.操作系统版本为RedHat 7.2


2

问题描述


在CM 节点使用df -h 命令查看,发现/var 目录空间为50G,但是使用率到达93%,于是进入到/var 目录一层层查看,最后找到/var/lib/cloudera-scm-server/commands 目录占用达到惊人的41G

df -h
du -sh *


0637-5.16.1-CDH集群中var目录占用空间大问题分析_cloudera


3

问题分析


首先说下/var/lib/cloudera-scm-server/commands 目录的用途,该目录是用来存放了一些CM的历史执行的命令,以及产生的结果集。而该目录默认保存时长为2年,也就是说,如果2年内执行的历史执行命令和结果集够多,特别是集群够大的时候,那么可能会撑满整个/var 目录,那么如何修改这个目录的默认地址呢和保存时长呢?


如果你使用的浏览器默认是中文,那么在CM >管理>设置>搜索本地数据存储目录可以对默认的目录进行修改,或者在设置中选中高级,可以查看到


0637-5.16.1-CDH集群中var目录占用空间大问题分析_搜索_02


如果你使用的浏览器默认是英文,那么在CM >adminstration > Settings> 搜索Local Data Storage Directory 对默认的目录修改或者在设置中选中Advanced


0637-5.16.1-CDH集群中var目录占用空间大问题分析_cloudera_03


4

总结


为了防止集群的各节点日志目录占用空间过大,除上述描述的参数外, Fayson建议在使用过程中根据自己的集群情况通过CM对节点的各类型的日志目录配置和保留日志的大小或者时长进行合理配置。

标签:CM,CDH,默认,节点,0637,5.16,var,集群,目录
From: https://blog.51cto.com/u_14049791/5731169

相关文章

  • 0805-CDH5中的Parquet迁移至CDP中兼容性验证
    文档编写目的因为CDH5中的Parquet版本为1.5,而CDP7中的Parquet版本为1.10,我们在从CDH5升级到CDP7后,无论是原地升级还是迁移升级,都可能会碰到一个问题,以前在CDH5中使用Hive/Im......
  • 安装cdh hadoop时丢包通不过
    一、现像:  二、处理过程第一时间找网工,更换光纤线和模块,交换机换为核心交换机,仍然这样,我一共购买了某擎四台服务器,前后所有的都是这样。网工怀疑这批光纤线有问题,只......
  • cdh环境:hue集成kerberos无法启动ktr问题处理过程
    cdh版本:ClouderaExpress6.1.0报错现象:Ifthe'renewuntil'dateisthesameasthe'validstarting'date,theticketcannotberenewed.PleasecheckyourKDCco......
  • hadoop-3.0.0-cdh6.3.2源码编译实践
    1.编译过程参考:https://blog.mygallop.cn/2020/10/centos/hadoop-cdh6-compile/2.问题记录CDH6.3.2Hadoop源码位置发生变化,新地址为https://github.com/cloudera/hado......
  • CDH + 摸坑
    https://blog.csdn.net/wt334502157/article/details/120290580https://www.cnblogs.com/students/p/10060017.html......
  • CDH开启高可用后,NameNode主备节点切换
    获取NamenodeID查看nn1的状态hdfshaadmin-getServiceStatenamenode30#standbyhdfshaadmin-getServiceStatenamenode37#active修改nn2为standby状态hdf......
  • 编译适合CDH6.3.2的spark3.3.2
    1、版本对应编译环境:jdk:1.8.0_181maven:3.6.3scala2.12.0配置环境变量#jdkexportJAVA_HOME=/usr/java/jdk1.8.0_181-amd64exp......