首页 > 其他分享 >zabbix监控kafka消费

zabbix监控kafka消费

时间:2022-11-18 11:34:51浏览次数:74  
标签:name kafka topic zabbix sh 监控 home

 

正文

回到顶部

一、Kafka监控的几个指标

1、lag:多少消息没有消费 lag=logsize-offset

2、logsize:Kafka存的消息总数
3、offset:已经消费的消息
Kafka管理工具 介绍:  https://www.iteblog.com/archives/1605.html   回到顶部

二、查看zookeeper配置

cat /home/app/zookeeper/zookeeper/conf/zoo.cfg | egrep -v "^$|^#"
clientPort=2181
  回到顶部

三、查看kafka配置

cat /home/app/kafka/kafka/config/server.properties | egrep -v "^$|^#"
port=9092
host.name=192.168.0.11
zookeeper.connect=192.168.0.11:2181,192.168.0.12:2181,192.168.0.13:2181
  回到顶部

四、查看kafka的group name

cd /home/app/zookeeper/zookeeper/bin
./zkCli.sh -server 192.168.0.11:2181
ls /consumers/
lijieGroup
quit
  回到顶部

五、查看kafka的topic_name

/home/app/kafka/kafka/bin/kafka-run-class.sh kafka.tools.ConsumerOffsetChecker --group=lijieGroup --zookeeper=192.168.0.11:2181
  回到顶部

六、修改zabbix配置文件

因为zabbix用户不能调用kafka的脚本,需要root用户启动zabbix_agent

vim /opt/zabbix/zabbix_agentd.conf
AllowRoot=1
User=root
Include=/opt/zabbix/zabbix_agentd.conf.d/

vim /opt/zabbix/zabbix_agentd.conf.d/kafka_status.conf
UserParameter=kafka.lag[*],/home/zabbix_scripts/kafka_mon.sh $1 $2 lag
UserParameter=kafka.offset[*],/home/zabbix_scripts/kafka_mon.sh $1 $2 offset
UserParameter=kafka.logsize[*],/home/zabbix_scripts/kafka_mon.sh $1 $2 logsize

chown -R zabbix:zabbix /opt/zabbix/zabbix_agentd.conf.d/kafka_status.conf
chmod -R 777 /opt/zabbix/zabbix_agentd.conf.d/kafka_status.conf
  回到顶部

七、创建监控脚本

mkdir -pv /home/zabbix_scripts/
vim /home/zabbix_scripts/kafka_mon.sh
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 #!/bin/bash   kafka_ip="127.0.0.1" kafka_port=2181 topic_name=$1 group_id=$2 pn=$3 /usr/local/kafka_2.11-0.11.0.0/bin/kafka-run-class.sh kafka.tools.ConsumerOffsetChecker --topic=$topic_name --group=$group_id --zookeeper=$kafka_ip:$kafka_port | grep -v Offset > /tmp/kafka-tp-${topic_name}-${group_id}.info   Offset=0 logSize=0 Lag=0 while read line do     Offset=$((${Offset}+`echo $line |awk '{print $4}'`))     logSize=$((${logSize}+`echo $line |awk '{print $5}'`))     Lag=$(($Lag+`echo $line |awk '{print $6}'`)) done </tmp/kafka-tp-${topic_name}-${group_id}.info   case $pn in      offset|Offset)      echo $Offset      ;;      logsize|logSize)      echo $logSize      ;; lag|Lag)      echo $Lag      ;;      *)      echo Error      ;;  esac

  

 

  

 
  回到顶部

八、给脚本和对应文件权限

chown -R zabbix:zabbix /home/zabbix_scripts/kafka_mon.sh
chmod -R 777 /home/zabbix_scripts/kafka_mon.sh

touch /tmp/kafka-tp-RouterOnOfflineStateChange-lijieGroup.info
chmod 777 /tmp/kafka-tp-RouterOnOfflineStateChange-lijieGroup.info
chown zabbix:zabbix /tmp/kafka-tp-RouterOnOfflineStateChange-lijieGroup.info

chmod 777  /home/app/kafka/kafka/bin/kafka-run-class.sh
  回到顶部

九、重启zabbix

/etc/init.d/zabbix-agent restart
  回到顶部

十、监控上增加3个键值

kafka.offset[topic_data,obdGroup]
kafka.logsize[topic_data,obdGroup]
kafka.lag[topic_data,obdGroup]
  转自https://www.cnblogs.com/lvcisco/p/10957357.html                             Copyright © 2022 夜空守望者2020
Powered by .NET 7.0 on Kubernetes

标签:name,kafka,topic,zabbix,sh,监控,home
From: https://www.cnblogs.com/MoDian/p/16902652.html

相关文章

  • windows 监控指标采集
    windowbatcmd获取cpu利用率(使用率)跟性能计数器一致,方式收集1.typeperf(1秒一输出)typeperf"processor(_total)\%processortime"若是只要执行一次,末尾添加 ......
  • bat curl 发送http请求 监控网站
    定时发送http请求监控网站,还有日志输出记录@echooffcolor1ftitlebig-keyboardsetINTERVAL=60:lookHttpecho%date%%time%curl-shttps://www.cnblogs.com......
  • Kafka 常见问题
    Kafka常见问题一年将尽夜,万里未归人。1、Kafka简介ApacheKafka是一个分布式发布-订阅消息系统和一个强大的队列,可以处理大量的数据,并使您能够将消息从......
  • python windows psutil获取基本监控指标
    #++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++#@auhorbyruiy####pipinstallparamiko-ihttps://pypi.tuna.tsinghua.edu.cn/simple##p......
  • kafka报错:Exception in thread “main“ joptsimple.UnrecognizedOptionException: zo
    kafka创建主题topic报错:Exceptioninthread"main"joptsimple.UnrecognizedOptionException:zookeeperisnotarecogn如图: 原因:kafka最新版本创建主题topic方式已......
  • 如何在CentOS 7上安装Apache Kafka
    介绍ApacheKafka是一种流行的分布式消息代理,旨在有效处理大量实时数据。Kafka集群不仅具有高度可扩展性和容错性,而且与其他消息代理(如ActiveMQ和RabbitMQ相比,它还具有更......
  • Kafka启动报错:/bin/kafka-run-class.sh: line 258: exec: java: not found
    Kafka启动报错处理:/opt/module/kafka/bin/kafka-run-class.sh:第258行:exec:java:未找到今天在安装kafka后启动的时候出现了报错:/software/kafka_2.11-0.11.0.0/bin......
  • 7-数据监控分析与基础
    一、分析过滤数据二、三、四、......
  • WindowsAPI示例-C#版_监控usb设备插拔
    1、Winform代码:publicpartialclassUSBDeviceMode:Form{publicUSBDeviceMode(){InitializeComponent();UsbN......
  • 14_Kafka高级_生产者ISR
    生产者数据的可靠性保证。刚才已经讲完了,数据发到哪个分区,但是,数据生产者已经发过去了,但是kafka有没有接到,那就是另一个问题。现在就准备讲,生产者数据的可靠性保证怎么实现......