首页 > 其他分享 >KAFKA EAGLE 监控MRS kafka之操作实践

KAFKA EAGLE 监控MRS kafka之操作实践

时间:2022-12-08 10:46:24浏览次数:64  
标签:EAGLE jmx efak kafka efka 3.0 MRS KAFKA

本文分享自华为云社区《KAFKA EAGLE 监控MRS kafka之操作实践》,作者: 啊喔YeYe 。

1.Kafka Eagle简介

Kafka eagle 是一款分布式、高可用的kafka监控软件,提供丰富的kafka监控指标,例如:Kafka集群的Broker数、Topic数、Consumer数、Topic LogSize Top10、Topic Capacity Top10、Lag挤压,CPU/Memory监控等。

Eagle新版本中改名为EFAK,基于版本3.0.1对接监控MRS 3.1.0(普通集群)中的kafka集群。

2. Eagle安装步骤

2.1 修改MRS kafka jmx服务的ip,重启生效

MRS manager进入kafka配置页面,输入JMX搜索,修改KAFKA_JMX_IP为 ${BROKER_IP}
image.png

2.2 把efak安装包放到集群目录下,然后解压

tar –xvf kafka-eagle-bin-3.0.1.tar.gz
cd kafka-eagle-bin-3.0.1
tar –xvf efka-web-3.0.1-bin.tar.gz

2.3 在opt目录下新建efak目录

把efka-web-3.0.1复制到/opt/efka目录下

2.4 新建环境变量

vim /etc/profile
export KE_HOME=/opt/efka/efka-web-3.0.1
PATH变量后面添加:$KE_HOME/bin

例如:

image.png
source /etc/profile

2.5 修改/opt/efka/efka-web-3.0.1/conf/system-config.properties配置文件

cluster1.zk.list的值改为kafka服务的metrics.reporter.zookeeper.url配置项的值
image.png
efak.zk.cluster.alias只保留一个cluster
efak.zk.cluster.alias=cluster1
cluster1.zk.list=XXX:2181,XXX:2181,XXX:2181/kafka
#cluster2.zk.list=xdn10:2181,xdn11:2181,xdn12:2181

修改kafka jmx uri的配置

cluster1.efak.jmx.uri=service:jmx:rmi:///jndi/rmi://%s/kafka

修改kafka mysql jdbc driver address数据库相关的配置

efak.driver=com.mysql.cj.jdbc.Driver
efak.url=jdbc:mysql://127.0.0.1:3306/ke?useUnicode=true&characterEncoding=UTF-8&zeroDateTimeBehavior=convertToNull
efak.username=root
efak.password=XXX

2.6 启动efka服务

sh /opt/efak/efak-web-3.0.1/bin/ke.sh start

如下启动ok
image.png

2.7 访问EFKA Webui 默认用户密码:admin/123456

kafka集群监控
image.png
Topic监控
image.png
Consumer监控
image.png

3. 常见问题

问题:无法获取kafka cpu与内存监控信息日志提示:

java.io.IOException cannot be cast to javax.management.remote.JMXConnector

image.png

原因:jmx地址配置错误,默认jmx地址为:

cluster1.efak.jmx.uri=service:jmx:rmi:///jndi/rmi://%s/jmxrmi

MRS内kafka jmx名称为kafka,需要设置为:

cluster1.efak.jmx.uri=service:jmx:rmi:///jndi/rmi://%s/kafka

点击关注,第一时间了解华为云新鲜技术~

 

标签:EAGLE,jmx,efak,kafka,efka,3.0,MRS,KAFKA
From: https://www.cnblogs.com/huaweiyun/p/16965415.html

相关文章

  • Kafka 为什么那么快?
    有人说:他曾在一台配置较好的机子上对 ​​Kafka​​ 进行性能压测,压测结果是 ​​Kafka​​ 单个节点的极限处理能力接近每秒 ​​2000万​​ 条消息,吞吐量达到每秒 ......
  • kafka 简介与应用场景(一)
    kafka简介与应用场景(一)标签(空格分隔):kafka系列一:kafka简介二:kafka的相关组建三:kafka的架构四:kafka的应用场景一:kafka的简介:1.1kafka的简介Kafka是一......
  • Kafka 日志保留策略(Log Retention Policy)
    Kafka日志保留策略(LogRetentionPolicy)前言一两周前测试kafka,创建了topic:data-time,发布了一部分数据,测试kafka的发布和订阅均正常。一两周后,也就是现在,再次取订阅to......
  • kafka基础原理
    kafka基础原理1.topicKafka学习了数据库里面的设计,在里面设计了Topic(主题),这个东西类似于关系型数据库的表: 此时我需要获取CM的数据,那就直接监听TopicA即可。......
  • 实时数仓原来如此:Kafka+Flink+Hudi
    原来使用kafka消费者直接进行mysql数据同步,现在发现当时只考虑了数据的同步,对于后续数据的存储和使用没有考虑全面。面对大量流式数据,面向的是应用,数据同步之后,数据如何存......
  • Centos7 Kafka初次安装部署
    Centos7Kafka初次安装部署环境:虚拟机,centos7系统。步骤:一、安装JDK1.8以上版本​此处略过二、zookeeper环境搭建1、下载Zookeeper并解压到制定的目录(或者提......
  • Kafka集群部署(Linux环境)
    Kafka集群部署运行环境:❤操作系统:CentOS7.6x64❤kafka版本:kafka_2.13-3.3.1.tgz❤JDK环境:JDK11(Kafka2.8版本才开始自带了Zookeeper,所以注意下载版本)一、zookee......
  • flink sql 程序消费kafka数据到mysql设置参数connector.url问题汇总
    1.问题现象:使用flinksql程序消费kafka数据写入mysql时,使用TVF表值函数,START_ENENT_TIME和END_ENENT_TIME始终比消费时间小大约13小时。解决办法在写入mysql的sink......
  • Kafka连接配置(win)
    1、首先需要更改host映射文件地址:C:\Windows\System32\drivers\etc\hosts1)未更改时会报错1.Causedbyjava.nio.channels.UnresolvedAddressExceptionnull2.org.apa......
  • 服务器上kafka单机版安装以及shell简单测试
    在Kafka2.8之后,引入了基于Raft协议的KRaft模式,支持取消对Zookeeper的依赖。在此模式下,一部分KafkaBroker被指定为Controller,另一部分则为Broker。这些Controller的作用就......