首页 > 其他分享 >Hadoop健康检查脚本

Hadoop健康检查脚本

时间:2024-07-25 09:25:11浏览次数:13  
标签:脚本 info hdfs Hadoop echo FILE OUTPUT 健康检查

#!/bin/bash

# 设置Hadoop连接信息
HADOOP_USER="hdfs"
HADOOP_HOME="/opt/cloudera/parcels/CDH-6.1.1-1.cdh6.1.1.p0.875250/lib/"
OUTPUT_FILE="/var/lib/hadoop-hdfs/back/output.log"

# 巡检开始时间
start_time=$(date +"%Y-%m-%d %H:%M:%S")
echo "Start Time:" $start_time > $OUTPUT_FILE
echo "" >> $OUTPUT_FILE

# 检查Hadoop版本
version_info=$($HADOOP_HOME/hadoop/bin/hadoop version | grep Hadoop)
echo "Hadoop Version:" $version_info >> $OUTPUT_FILE
echo "" >> $OUTPUT_FILE

# 检查HDFS健康状态
hdfs_health_info=$(hdfs dfsadmin -report)
echo "HDFS Health Report:" >> $OUTPUT_FILE
echo "$hdfs_health_info" >> $OUTPUT_FILE
echo "" >> $OUTPUT_FILE

# 检查集群节点信息
nodes_info=$(hdfs dfsadmin -metasave)
echo "Cluster Nodes Information:" >> $OUTPUT_FILE
echo "$nodes_info" >> $OUTPUT_FILE
echo "" >> $OUTPUT_FILE

# 检查YARN应用程序信息
yarn_app_info=$(yarn application -list)
echo "YARN Application Information:" >> $OUTPUT_FILE
echo "$yarn_app_info" >> $OUTPUT_FILE
echo "" >> $OUTPUT_FILE

# 检查YARN节点信息
yarn_nodes_info=$(yarn node -list)
echo "YARN Node Information:" >> $OUTPUT_FILE
echo "$yarn_nodes_info" >> $OUTPUT_FILE
echo "" >> $OUTPUT_FILE

# 巡检结束时间
end_time=$(date +"%Y-%m-%d %H:%M:%S")
echo "End Time:" $end_time >> $OUTPUT_FILE

echo "Hadoop inspection completed. Please check the output file: $OUTPUT_FILE"

标签:脚本,info,hdfs,Hadoop,echo,FILE,OUTPUT,健康检查
From: https://blog.csdn.net/weixin_43566162/article/details/140680562

相关文章

  • docker容器操作脚本
    #1.创建目录cd$HOME&&mkdir-P.mine/bin&&cd.mine/bin&&touchd-usegeditd-use#将下面内容复制到d-use中#2.加入环境变量vim~/.bashrcexportPATH=.mine/bin:$PATH#将.mine/bin目录加入环境变量source~/.bashrc#然后就可以使用d-use命令d-use容器号/......
  • Windows 任务计划程序:在不打开窗口的情况下运行 .py 脚本
    我被要求从Windows任务计划程序运行一个python脚本。在我的python脚本中,我将大量使用看门狗库来实例化并运行一个观察者,该观察者将监视特定目录路径中的文件更改file_handlers.pyimporttimeimportloggingfromwatchdog.observersimportObserverfro......
  • 用于打印脚本输出的 Python 实用程序
    我可以发誓有一个实用程序可以打印一个python脚本,其输出交织在一起。例如,给定一个脚本:a=2b=3print(a+b)print(a*b)该实用程序将输出a=2b=3print(a+b)#>5print(a*b)#>6有人知道该实用程序的名称吗?我最难找到它。谢谢你!描述的实用程序没有标......
  • hadoop学习
    Hadoop是一种用于存储和处理大数据的开源软件框架,它采用分布式文件系统和MapReduce编程模型,可以有效地处理海量数据。在学习Hadoop的过程中,我掌握了许多重要的知识和技能,以下是我的Hadoop学习总结:首先,我学会了Hadoop的核心概念和架构。Hadoop由HDFS(分布式文件系统)和MapReduce组成......
  • 密码学-RSA基础题解题脚本-Python
    importgmpy2#计算大整数模块importlibnumimportrsafromCrypto.PublicKeyimportRSA#安装时安装pycryptodome模块#已知:p,q,e,cdefknown_p_q_e_c():p=int(input('请输入一个素数p:'))q=int(input('请输入另一个素数q:'))e=int(input('请输入公钥e:'))......
  • Liunx-Shell脚本
    shell可以理解为对命令行的一个解释器,命令行输入命令,shell执行,linux系统输出结果1、shell脚本格式开头:#!/bin/bash#!告诉系统其后路径所指定的程序即是解释此脚本文件的Shell程序举例:#!/bin/bashecho"HelloWorld!"echo输出文本命令运行shell脚本必须给其脚本执行......
  • 如何使用 Python 脚本从客户账单电子邮件中获取订单 ID - WooCommerce API
    我想创建一个python脚本,返回只知道客户的账单电子邮件的订单。我尝试这样做,但返回所有最近的订单:fromwoocommerceimportAPIwcapi=API(url="https://siteexample.com",consumer_key="ck_xxx",consumer_secret="cs_xxx",version="wc/v3")......
  • 一个文件打包归档脚本
    一个文件打包归档脚本 #!/bin/bash#检查是否提供了归档文件名的参数if["$#"-ne1];thenecho"错误:请提供一个归档文件的名称作为参数。"exit1fi#获取归档文件的名称(不包括.tar.gz扩展名)ARCHIVE_NAME="$1"#设置归档文件的......
  • Ubuntu 中开机自动执行脚本的两种方法
    方法1:rc.local脚本是一个ubuntu开机后会自动执行的脚本,我们可以在该脚本内添加命令行指令。方法2:建立自己的脚本,例如:#!/bin/bashcd/home/ubuntu/undertow-server/sudomvnexec:java保存为run_server.sh修改脚本执行权限:chmod+xrun_server.sh将脚本......
  • solaris10 for sparc 编译安装expect 实现sftp 脚本交互
    0、先设置root的环境变量:exportPATH=/usr/sfw/bin:/usr/ccs/bin:$PATH1、安装tcl下载tcl8.6.13-src.tar.gz文件下载网站:gunziptcl8.6.13-src.tar.gztar-xvftcl8.6.13-src.tarcdtcl8.6.13/unixmkdirsolariscdsolaris/../configure--prefix=/data/expect_local--e......