首页 > 其他分享 >实战教程!Zabbix 监控 Spark 中间件配置教程

实战教程!Zabbix 监控 Spark 中间件配置教程

时间:2024-09-26 11:23:03浏览次数:10  
标签:教程 jmxclient jar 中间件 JMX cmdline Zabbix 监控 Spark

本文将介绍以JMX方式监控Spark中间件。JMX具有跨平台、灵活性强、监控能力强、易于集成与扩展、图形化界面支持以及安全性与可配置性等多方面的优势,是监控Spark等复杂Java应用程序的重要工具之一。

Apache Spark 是一个开源的大数据处理框架,它提供了快速、通用和可扩展的数据处理能力,适用于执行大规模的数据处理和分析任务,特别是在批处理、实时流处理、机器学习和图计算等领域。

JMX(Java Management Extensions)作为Java平台标准的一部分,提供了一种标准化的机制,用于监控和管理应用程序、系统对象、设备和服务。JMX技术可以跨越不同的操作系统、体系结构和网络传输协议,灵活地开发无缝集成的系统、网络和服务管理应用。

JMX可以被用于多种管理任务,包括:

  • 系统监控:监控系统的CPU使用率、内存消耗、线程数等指标。
  • 性能调优:获取应用程序的性能数据,如方法执行时间、请求响应时间等,帮助开发者找出性能瓶颈并进行优化。
  • 故障排查:当系统出现故障时,通过JMX快速定位问题所在,如查看日志、监控线程状态等。
  • 安全管理:实现系统的安全控制,如用户认证、访问控制等。
  • 服务管理:对于分布式系统,监控服务状态、管理服务实例,提高系统的可用性和可维护性。

二、Spark配置开启JMX服务

1、编写Spark配置文件:

在安装的spark服务里找到名称为“spark-env.sh”的配置文件,进行编辑修改。

2、在Spark配置文件里启用JMX:

输入命令:vi spark-env.sh 打开配置文件,并在文件中添加以下参数来开启JMX并设置JMX的监听端口。

export SPARK_DAEMON_JAVA_OPTS="$SPARK_DAEMON_JAVA_OPTS -Dcom.sun.management.jmxremote -Dcom.sun.management.jmxremote.port=7099 -Dcom.sun.management.jmxremote.authenticate=false -Dcom.sun.management.jmxremote.ssl=false"

解析:开启JMX服务并设置端口为7099。

3、重启Spark服务:

根据自身所搭建的Spark模式来重启Spark,以便Spark服务应用添加这些参数的更改

三、下载测试工具cmdline-jmxclient-0.10.3.jar包进行连通性测试

1、下载测试工具cmdline-jmxclient-0.10.3.jar包

cmdline-jmxclient-0.10.3.jar为一个测试工具,可用来测试JMX是否配置正确,下载cmdline-jmxclient-0.10.3.jar(下载到任意目录)。

wget http://crawler.archive.org/cmdline-jmxclient/cmdline-jmxclient-0.10.3.jar

2、测试JAR包,注意IP地址与JMX端口需与配置文件一致

java -jar cmdline-jmxclient-0.10.3.jar - 192.168.3.34:7099

3、测试成功效果图

 

测试成功则证明可以成功连接并且返回数据。

四、如何进行监控项添加监控

1、需要使用windows的jconsole控制台制作监控项,安装方式可以自行去搜索对应教程进行安装。

2、运用方式:

(1)【win+r】---【输入jconsole】

 

(2)选择远程进程,输入IP:JMX端口来进行登录

 

(3)添加监控项

下图是关于Spark JMX形式的监控项例子

 

以上就是本次对Spark中间监控的配置教程,更多zabbix技术问题可以持续关注乐维社区

 

标签:教程,jmxclient,jar,中间件,JMX,cmdline,Zabbix,监控,Spark
From: https://www.cnblogs.com/lwops/p/18433114

相关文章

  • 一键去水印小程序源码系统 下载无水印的高清图片 带完整的安装代码包以及搭建部署教程
    系统概述一键去水印小程序源码系统是一款专为图片去水印设计的软件开发包(SDK),它集成了先进的图像处理技术和智能识别算法,能够自动识别并去除图片中的水印,同时保持图片的高清画质不受损。该系统支持多种图片格式,包括但不限于JPEG、PNG、GIF等,广泛适用于电商、设计、教育、自媒体......
  • 家庭医生上门服务小程序源码系统 带完整的安装代码包以及搭建部署教程
    系统概述家庭医生上门服务小程序源码系统是一款专为医疗机构、健康服务平台及有意愿涉足健康服务领域的创业者设计的一站式解决方案。该系统集成了预约挂号、在线问诊、健康档案管理、药品配送、健康资讯推送等多种功能于一体,旨在通过移动互联网技术,打破传统医疗服务的时空限......
  • DevExpress WPF中文教程:如何解决编辑单元格值的常见问题?
    DevExpressWPF拥有120+个控件和库,将帮助您交付满足甚至超出企业需求的高性能业务应用程序。通过DevExpressWPF能创建有着强大互动功能的XAML基础应用程序,这些应用程序专注于当代客户的需求和构建未来新一代支持触摸的解决方案。无论是Office办公软件的衍伸产品,还是以数据为中心......
  • 【保姆式】linux nginx安装及配置教程+防火墙设置
    linux版本:CentOS-7-x86_64-DVD-1708文章目录1.换个源先1.前置准备(看过前两博客可以直接跳过)2.步骤二:对系统本身的yum源进行备份3.步骤三:下载阿里云CentOS7镜像源配置文件4.步骤四:删除除阿里及备份外的所有cent源文件5.步骤五:清除旧的YUM缓存6.步骤六:创建新......
  • 神仙级AI大模型入门教程,从入门到精通非常详细,只看这一篇就够了!!!
    2024最新全套大模型学习资料:大模型学习成长路线、书籍&学习文档、视频教程、项目实战、面试题汇总等,免费分享~有需要的同学可以通过【微信扫描下方二维码】,即可免费领取!!!一、大模型学习成长路线学习新技能,方向至关重要。正确的学习路线图可以为你节省时间,少走弯路;方向不......
  • 红米ac2100路由器刷breed和openwrt教程
    刷入Breed参考教程:https://www.right.com.cn/forum/forum.php?mod=viewthread&tid=4066963&highlight=ˢbreedhttps://www.bilibili.com/video/BV1114y1X7TA/?vd_source=4866b7cfde4a08de2ba06a6ef4c96869固件以及资源下载:https://yecss.lanzoul.com/i1N0H2aup7te正文:1.事......
  • 软考中项第3版新教程变化,2张表格看到底
    ......
  • .NET Core 微服务文档教程说明
    说明包含新建微服务工程、注册和发现、熔断、降级、API网关、身份认证、授权、配置中心、分布式事务、事件总线、链路监控、日志中心相关示例代码及架构图。下载地址:点击下载01、新建微服务工程02、注册和发现03、熔断、降级04、API网关05、身份认证、授权06......
  • Navicat Premium16下载安装教程(亲测可用)
    概述NavicatPremium16是一套可创建多个连接的数据库开发工具,让你从单一应用程序中同时连接MySQL、PostgreSQL、MongoDB、MariaDB、SQLServer、Oracle、SQLite和Redis。它与GaussDB、OceanBase、PolarDB数据库及AmazonRDS、AmazonAurora、AmazonRedshift、Amazon......
  • Android 移动应用开发基础案例教程——Activity的跳转
    一、Activity的创建1、创建一个新项目点击Flie--New--NewProject点击EmptyViewsActivity点击Next根据需要可修改项目名称,这里我重命名为CycActivity,然后点击Finish即可完成创建新项目。2、SecondActivity的创建点击java--->com.example.cycactivity,右键new--->A......