首页 > 其他分享 >实验一:通过界面监控大数据平台运行状态

实验一:通过界面监控大数据平台运行状态

时间:2023-07-06 18:48:21浏览次数:42  
标签:状态 界面 查看 hadoop Hadoop 实验 监控 master hbase

实验一:通过界面监控大数据平台运行状态

1.实验任务一:通过界面查看大数据平台状态

通过大数据平台 Hadoop 的用户界面可以查看平台的计算资源和存储资源。

打开 http://master:8088/cluster/nodes 页面,可以查看大数据平台的状态汇总信息.

image-20230506101208636

2.实验任务二:通过界面查看 Hadoop 状态

大数据平台 Hadoop 提供了一个简单的 web 访问接口,网址是 http://master:50070, 可以查看 Hadoop 的运行状态,主菜单包含状态总览、数据节点、挂载失败节点、快照、日 记等状态,

image-20230506101439074

(1)Overview(总览),查看 Hadoop 启动时间、版本号、命名节点日志状态、命名节 点存储状态等信息;

(2)Datanodes(数据节点),查看正在运行、停止运行的数据节点信息;

(3)DataNode Volume Failures(数据节点挂载失败),查看挂载失败的数据节点;

(4)Snapshot(快照),查看快照建立、删除的信息;

(5)Startup Progress(启动进程),查看启动进程信息;

(6)Browse The File System(文件系统浏览),查看 HDFS 中的文件和文件夹;

(7)Logs(日记),查看 Hadoop 的命名节点、资源管理等日志

image-20230506101540666

Summary(概要)

在 Summary 中的结果显示,Security(安全状态)和 SafeMode(安全模式)处于关闭状 态;HDFS 的 Configured Capacity(存储空间配置)容量为 73.95GB,空闲空间(DFS Remaining) 为 68.96 GB;还显示了名称节点日志状态(Journal Manager State)和名称节点存储 (NameNode Storage)的具体路径等

实验二 通过界面监控大数据平台资源状态

1.实验任务一:通过界面监控 YARN 的状态

在配置好 Hadoop 集群之后,可以通过浏览器登录“http://master:8088”,查询 YARN 的状态

image-20230506103002535

从上图可以获知 YARN 的内存总额 16GB、虚拟核心 16 个、活动节点 2 个等相关信息。

在大数据平台 Hadoop 中查看 MapReduce 运行日志,登录 http://master:8088/logs/,

image-20230506103347265

注意:查看 mapreduce 日志需要先启动 jobhistory 进程

[hadoop@master ~]$ cd /usr/local/src/hadoop/sbin
[hadoop@master sbin]$  ./mr-jobhistory-daemon.sh start historyserver
starting historyserver, logging to /usr/local/src/hadoop/logs/mapred-hadoop-historyserver-master.out

查看 MapReduce 运行状态,登录 http://master:8088/cluster,

image-20230506103519720

选择其中一个任务,查看任务状态,

image-20230506103538016

2.实验任务二:通过界面监控 HDFS 状态

在配置好 Hadoop 集群之后,可以通过浏览器登录“http://master:50070”访问 HDFS 文件系统,点击 Utilities-->Browse The File Systerm,

image-20230506103700182

从上图中可以看到 HDFS 目录中的文件夹和文件,并显示文件属性、大小、和修改日期 等信息。

HDFS 文件夹打开和文件下载操作如下:

1.打开文件夹

image-20230506103748567

2.下载 HDFS 中的文件 点击需要下载的文件,如 hbase.id 文件,

image-20230506103846312

3.实验任务三:通过界面监控 HBase 的状态

安装部署好 HBase 后,可以通过用户界面来访问 HBase 的状态、日记等相关信息。访问 Web 用户界面地址分别为:master:60010 ;slave1:60010 ;slave2:60010 。

[hadoop@master ~]$ cd 
ZooKeeper JMX enabled by default
Using config: /usr/local/src/zookeeper/bin/../conf/zoo.cfg
Starting zookeeper ... STARTED
[hadoop@master ~]$ start-hbase.sh
master: starting zookeeper, logging to /usr/local/src/hbase/logs/hbase-hadoop-zookeeper-master.out
slave1: starting zookeeper, logging to /usr/local/src/hbase/bin/../logs/hbase-hadoop-zookeeper-slave1.out
slave2: starting zookeeper, logging to /usr/local/src/hbase/bin/../logs/hbase-hadoop-zookeeper-slave2.out
starting master, logging to /usr/local/src/hbase/logs/hbase-hadoop-master-master.out
slave2: starting regionserver, logging to /usr/local/src/hbase/bin/../logs/hbase-hadoop-regionserver-slave2.out
slave1: starting regionserver, logging to /usr/local/src/hbase/bin/../logs/hbase-hadoop-regionserver-slave1.out
[hadoop@master ~]$ jps
2546 Jps
2340 HMaster
1991 QuorumPeerMain
1545 SecondaryNameNode
1706 ResourceManager
2236 HQuorumPeer
1343 NameNode

1.HBase 用户界面主页

HBase 的主页访问地址为 http://master:60010

HBase 的用户主界面菜单有 Table Details(表信息)、Local Logs(本地日志)、Log Level(日记等级)、Debug Dump(调试转储)、Metrics Dump(指标转储)、HBase Configuration (HBase 配置)。

Region Servers(区域服务器群)中可以查看主机状态、内存、请求、存 储文件和压缩情况等;列表中共有三台主机,主机名分别为 master、slave1 和 slave2,如 点击 master 主机,可以查看该主机详细指标信息

标签:状态,界面,查看,hadoop,Hadoop,实验,监控,master,hbase
From: https://www.cnblogs.com/shuangmu668/p/17533009.html

相关文章

  • 搭建hwi和告警和日志信息监控
    搭建hwi1.通过网址https://archive.apache.org/dist/hive/hive-2.0.0/安装hive/hive-2.0.0包[hadoop@master~]$wgethttps://archive.apache.org/dist/hive/hive-2.0.0/apache-hive-2.0.0-src.tar.gz[hadoop@masteropt]$lsapache-hive-2.0.0-src.tar.gzhadoop-2.7.1.tar......
  • 计算机组成原理-运算器实验(1)
    实验2运算器实验(1)学号:    姓名:一、 实验目的1.掌握开源数字电路模拟软件Logisim的使用;2.掌握有符号数加减运算溢出检测的基本方法;3.掌握运算器的组成及其工作原理;4.验证4位函数发生器74181的组合功能。 二、实验设备EL-JY-II型计算机组成原理实验系统一套,排线若......
  • 记ios的input框获取焦点之后界面放大问题
    在移动端开发项目中,发现页面在使用iPhone访问的时候,点击input和textarea等文本输入框聚焦focus()时,页面会整体放大,而且失去焦点之后页面不能返回原来的样子。检查了下功能上没有什么大问题,但是页面会整体放大,而且失去焦点之后页面不能返回原来的样子。对于用户体验不是很......
  • 如何实现Python线性回归模型的实验报告的具体操作步骤
    Python线性回归模型的实验报告简介线性回归是一种常用的机器学习模型,用于预测一个或多个自变量与因变量之间的线性关系。它是一种简单但强大的模型,被广泛应用于各个领域。本实验报告将介绍如何使用Python实现线性回归模型,并进行实验验证其预测能力。数据集首先,我们需要准备一......
  • MySQL各指标监控查询
    对于当前数据库的监控方式有很多,分为数据库自带、商用、开源三大类,每一种都有各自的特色;而对于mysql数据库由于其有很高的社区活跃度,监控方式更是多种多样,不管哪种监控方式最核心的就是监控数据,获取得到全面的监控数据后就是灵活的展示部分。那我们今天就介绍一下完全采用mysql......
  • 解决Android监控通话状态的具体操作步骤
    实现Android监控通话状态概述在Android开发中,我们可以通过监听系统的电话状态来实现监控通话状态的功能。本文将向刚入行的小白介绍实现该功能的步骤和相应的代码。流程下面是实现Android监控通话状态的整个流程:步骤描述1.获取电话管理器实例通过获取系统的电话管......
  • 正点原子内存管理实验室,keil mdk 和stm32cubeide gcc的函数替换
    https://www.cnblogs.com/RegressionWorldLine/p/11968467.html转载记录下 STM32.ld链接文件分析及一次bug解决过程问题描述原子板的代码中含有一个关于使用外部SRAM的功能,由于本人的开发板的SRAM只有512K,因此稍微修改了一下代码,同时使用GCC进行编译,但是这里却报错了,源码如......
  • flex垂直居中当界面空间不足时显示不全
    代码示例如下<divid="a"style="display:flex;justify-content:center;align-items:center;width:200px;height:100%;background:skyblue"><divid="b"style="height:400px;background:pink;width:100px">&l......
  • 汇编语言(王爽)实验10.2
    assumecs:codecodesegmentstart:movax,4240Hmovdx,000FHmovcx,0AHcalldivdwmovax,4c00hint21hdivdw:movbx,ax;X的低16位暂存在bx中movax,dxmovdx,0divcxmovsi,ax......
  • eNSP 实验一
    目录一、1.布局2.配置3.测试连通性二、1.布局2.测试连通性三、1.布局2.测试连通性3.配置一、1.布局在eNSP中,新建一个拓扑图,在左侧直接移一个路由器和两台主机,设置第一台主机的IP地址为192.168.1.1,子网掩码为255.255.255.0,网关为192.168.1.254;设置第二台主机的IP地址为192.168.2......