首页 > 其他分享 >kafka集群压力测试

kafka集群压力测试

时间:2022-11-18 16:15:34浏览次数:71  
标签:ms MB -- 9092 Kafka 集群 测试 kafka

1)Kafka压测

用Kafka官方自带的脚本,对Kafka进行压测。Kafka压测时,可以查看到哪个地方出现了瓶颈(CPU,内存,网络IO)。一般都是网络IO达到瓶颈。

kafka-consumer-perf-test.sh

kafka-producer-perf-test.sh

2)Kafka Producer压力测试

(1)在/opt/module/kafka/bin目录下面有这两个文件。我们来测试一下

bin/kafka-producer-perf-test.sh --topic test --record-size 100 --num-records 100000 --throughput -1 --producer-props bootstrap.servers=hadoop102:9092,hadoop103:9092,hadoop104:9092
说明:

record-size是一条信息有多大,单位是字节。

num-records是总共发送多少条信息。

throughput 是每秒多少条信息,设成-1,表示不限流,可测出生产者最大吞吐量。

(2)Kafka会打印下面的信息

100000 records sent, 149253.731343 records/sec (14.23 MB/sec), 112.02 ms avg latency, 207.00 ms max latency, 97 ms 50th, 190 ms 95th, 206 ms 99th, 207 ms 99.9th.
参数解析:本例中一共写入10w条消息,吞吐量为14.23 MB/sec,每次写入的平均延迟为112.02毫秒,最大的延迟为207毫秒。

3)Kafka Consumer压力测试

Consumer的测试,如果这四个指标(IO,CPU,内存,网络)都不能改变,考虑增加分区数来提升性能。

kafka-consumer-perf-test.sh --broker-list hadoop102:9092,hadoop103:9092,hadoop104:9092 --topic test --fetch-size 10000 --messages 10000000 --threads 1 --timeout 60000

参数说明:

--zookeeper 指定zookeeper的链接信息

--topic 指定topic的名称

--fetch-size 指定每次fetch的数据的大小

--messages 总共要消费的消息个数

--timeout 超时时间

测试结果说明:

start.time, end.time, data.consumed.in.MB, MB.sec, data.consumed.in.nMsg, nMsg.sec
2020-03-10 03:18:51:773, 2020-03-10 03:18:53:815, 19.0735, 9.3406, 200000, 97943.192

开始测试时间,测试结束数据,共消费数据19.0735MB,吞吐量9.3406MB/s,共消费200000条,平均每秒消费97943.192条。
————————————————
版权声明:本文为CSDN博主「asd623444055」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
原文链接:https://blog.csdn.net/asd623444055/article/details/123829460

标签:ms,MB,--,9092,Kafka,集群,测试,kafka
From: https://www.cnblogs.com/qds1401744017/p/16903573.html

相关文章

  • golang分层测试之http接口测试入门教程
    前言前几话主要讲解关于使用golang进行单元测试,在单元测试的上一层就是接口测试,本节主要讲使用golang进行接口测试,其中主要以http协议的接口测试来讲解golang中的http请......
  • 肖sir__车载测试__车机影音娱乐系统的语音唤醒交互测试
    车机影音娱乐系统的语音唤醒交互测试随着多屏联动、语音识别、手势控制、增强现实、云交互等新技术的涌现,智能座舱功能交互越来越丰富、越来越复杂。 下面我们就来讲讲......
  • 接口自动化测试实践指导(上):接口自动化需要做哪些准备工作
    为什么做接口自动化什么是接口测试?接口测试是测试系统组件间接口的一种测试。接口测试主要用于检测外部系统与系统之间以及内部各个子系统之间的交互点。测试的重点是要......
  • LVS负载均衡集群--DR模式
    一、LVS-DR集群介绍LVS-DR(LinuxVirtualServerDirectorServer)工作模式,是生产环境中最常用的一种工作模式。1、LVS-DR工作原理LVS-DR模式,DirectorServer作为群......
  • 软件测试——软件安全质量的保证
    软件测试——软件安全质量的保证软件在社会生产生活等诸多方面均有广泛应用,给人们创造了很多便利条件,在未来其将会有更宽阔的发展前景。软件质量安全是社会公众高度重视......
  • 软件测试——软件安全质量的保证
    软件在社会生产生活等诸多方面均有广泛应用,给人们创造了很多便利条件,在未来其将会有更宽阔的发展前景。软件质量安全是社会公众高度重视的问题,合理应用软件测试技术有很大......
  • DTOJ-2022-11-10-测试-题解
    题目链接ABCA这个套路已经出现了很多次了就是两条线之间的网格图路径数,做法呢就是容斥题意求满足以下条件的\(n\timesm\)的矩阵的个数对\(10^9+7\)取模对于......
  • kafka集群启动脚本失效
    问题描述:之前写的kafka集群启动脚本,今天重启服务器后失效了,只启动了本地的kafka1,另一台虚拟机上的kafka2没启动也没有日志#!/bin/bashcase$1in"start"){......
  • zabbix监控kafka消费
    目录一、Kafka监控的几个指标二、查看zookeeper配置三、查看kafka配置四、查看kafka的groupname五、查看kafka的topic_name六、修改zabbix配置文件......
  • NOIP训练测试2(2017081502)
    唔,这是今天第二场训练测试。上一轮不够难,现在来一波更简单的。【滑稽】注意时间!测试时间:3小时题目一:​​​Cantor表​​​题目二:​​​回文数​​​题目三:​​......