首页 > 其他分享 >kafka常用命令(详细)

kafka常用命令(详细)

时间:2024-06-17 09:57:26浏览次数:6  
标签:bin -- kafka topic sh 详细 常用命令 test

目录

一、KAFKA启停命令

1. 前台启动

2. 后台启动

3. 停止命令

二、Topic 相关命令

2.1. 创建 Topic

2.2. 查询 Topic 列表

2.3. 查询 Topic 详情

2.4. 增加 Topic 的 partition 数

2.5. 查看 topic 指定分区 offset 的最大值或最小值

2.6. 删除Topic

三、消息 相关命令

3.1. 发送消息

3.2. 消费消息(从头开始)

3.3. 消费消息(从尾开始)

3.4. 消费消息(从尾开始指定分区)

3.5. 消费消息(指定分区指定偏移量)

3.6. 指定分组->消费消息

3.7. 取指定个数

四、消费者 Group

4.1. 指定 Group

4.2. 消费者 Group 列表

4.3. 查看 Group 详情

五、补充命令

5.1.平衡 leader

5.2. 自带压测工具

一、KAFKA启停命令
1. 前台启动

kafka 前台启动命令:

bin/kafka-server-start.sh config/server.properties

2. 后台启动

kafka 后台启动命令:
后台常驻方式,带上参数 -daemon,如:

bin/kafka-server-start.sh -daemon config/server.properties

或者

nohup bin/kafka-server-start.sh config/server.properties &

指定 JMX port 端口启动,指定 jmx,可以方便监控 Kafka 集群

JMX_PORT=9991 /usr/local/kafka/bin/kafka-server-start.sh -daemon /usr/local/kafka/config/server.properties
3. 停止命令

kafka 停止命令:

bin/kafka-server-stop.sh
二、Topic 相关命令
2.1. 创建 Topic

参数 --topic 指定 Topic 名,–partitions 指定分区数,–replication-factor 指定备份(副本)数

创建名为 test_kafka_topic 的 Topic

bin/kafka-topics.sh -zookeeper localhost:2181 --create --partitions 5 --replication-factor 1 --topic test_kafka_topic

注意,如果配置文件 server.properties 指定了 Kafka 在 zookeeper 上的目录,则参数也要指定,否则会报无可用的 brokers(下面部分命令也有同样的情况),如:

/usr/local/kafka/bin/kafka-topics.sh --create --zookeeper localhost:2181/kafka --replication-factor 1 --partitions 1 --topic test
2.2. 查询 Topic 列表

列出所有 Topic

bin/kafka-topics.sh --list --zookeeper localhost:2181
2.3. 查询 Topic 详情

查询 Topic 的详细信息

bin/kafka-topics.sh --describe --zookeeper localhost:2181 --topic test_kafka_topic 

说明:如果未指定 topic 则输出所有 topic 的信息

2.4. 增加 Topic 的 partition 数
bin/kafka-topics.sh --zookeeper localhost:2181 --alter --topic test_kafka_topic --partitions 5 
2.5. 查看 topic 指定分区 offset 的最大值或最小值

time 为 -1 时表示最大值,为 -2 时表示最小值:

bin/kafka-run-class.sh kafka.tools.GetOffsetShell --topic test_kafka_topic --time -1 --broker-list 127.0.0.1:9092 --partitions 0 
2.6. 删除Topic

删除名为 test_kafka_topic 的 Topic

bin/kafka-topics.sh --delete --zookeeper localhost:2181 --topic test_kafka_topic

说明:在${KAFKA_HOME}/config/server.properties中配置 delete.topic.enable 为 true,这样才能生效,删除指定的 topic主题

三、消息 相关命令
3.1. 发送消息

生产者发送消息

bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test_kafka_topic 
3.2. 消费消息(从头开始)

消费者查询消息

bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --from-beginning --topic test_kafka_topic 
3.3. 消费消息(从尾开始)

从尾部开始取数据

bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test_kafka_topic --offset latest
3.4. 消费消息(从尾开始指定分区)

从尾部开始取数据,指定分区消费:

bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test_kafka_topic --offset latest --partition 0 
3.5. 消费消息(指定分区指定偏移量)

–partition 指定起始偏移量消费–offset:

bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test_kafka_topic --partition 0 --offset 100 
3.6. 指定分组->消费消息

消费者消费消息(指定分组)
注意给客户端命名之后,如果之前有过消费,那么–from-beginning就不会再从头消费了

bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --from-beginning --topic test_kafka_topic --group t1

说明:
–from-beginning:表示从头开始接收数据
–group:指定消费者组

3.7. 取指定个数
bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test_kafka_topic --offset latest --partition 0 --max-messages 1
四、消费者 Group
4.1. 指定 Group

指定分组从头开始消费消息(应该会指定偏移量)

/usr/local/kafka/bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test -group test_group --from-beginning 
4.2. 消费者 Group 列表
bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 --list
4.3. 查看 Group 详情
bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 --group test_group --describe 

输出日志:

Consumer group 'test_group' has no active members.

TOPIC           PARTITION  CURRENT-OFFSET  LOG-END-OFFSET  LAG             CONSUMER-ID     HOST            CLIENT-ID
test            0          5               5               0               -               -               -

# CURRENT-OFFSET: 当前消费者群组最近提交的 offset,也就是消费者分区里读取的当前位置
# LOG-END-OFFSET: 当前最高水位偏移量,也就是最近一个读取消息的偏移量,同时也是最近一个提交到集群的偏移量
# LAG:消费者的 CURRENT-OFFSET 与 broker 的 LOG-END-OFFSET 之间的差距
五、补充命令
5.1.平衡 leader
bin/kafka-preferred-replica-election.sh --bootstrap-server localhost:9092 
5.2. 自带压测工具
bin/kafka-producer-perf-test.sh --topic test --num-records 100 --record-size 1 --throughput 100 --producer-props bootstrap.servers=localhost:9092 

标签:bin,--,kafka,topic,sh,详细,常用命令,test
From: https://blog.csdn.net/2401_82767224/article/details/139716606

相关文章

  • 使用SpringBoot对接Kafka
    Kafka是什么,以及如何使用SpringBoot对接Kafka一、Kafka与流处理我们先来看看比较正式的介绍:Kafka是一种流处理平台,由LinkedIn公司创建,现在是Apache下的开源项目。Kafka通过发布/订阅机制实现消息的异步传输和处理。它具有高吞吐量、低延迟、可伸缩性和可靠性等优点,使其成为......
  • Go Goroutine 究竟可以开多少?(详细介绍)
    GoGoroutine究竟可以开多少?Go语言因其高效的并发处理能力而备受欢迎,而Goroutine则是Go语言实现并发编程的核心。Goroutine比传统的线程更加轻量,允许开发者轻松地处理大量并发任务。那么,Go语言中的Goroutine究竟可以开多少呢?在回答这个问题之前,我们需要先了解两个关键问题......
  • React 使用 Zustand 详细教程
    前言Redux、MobX和ContextAPI等技术的存在,使得管理大型应用的状态变得更加可行。本教程要深入探讨的是Zustand——一个极简且高效的状态管理库,详细介绍如何在React项目中使用Zustand来管理状态。什么是Zustand?Zustand是一个简单、小体积(只有不到1kB)且性能优......
  • Parallels DeskTop 19软件最新版下载【安装详细图文教程】
    ParallelsDesktop是一款专为Mac设计的虚拟机软件,它允许用户在Mac上同时运行Windows、Linux等多个操作系统,而无需额外的硬件设备。通过ParallelsDesktop,Mac用户可以轻松地在同一台电脑上体验不同操作系统的功能和应用程序。​安装包获取地址:ParallelsDesktopfor......
  • Trusty qemu + android环境搭建详细步骤
    下载源码mkdirtrustycdtrustyrepoinit-uhttps://android.googlesource.com/trusty/manifest-bmasterreposync-j32编译./trusty/vendor/google/aosp/scripts/build.pygeneric-arm64查看编译结果lsbuild-root/build-generic-arm64/lk.bin安装运行依赖sud......
  • 学生管理系统(超详细教程+源码)
    学生管理系统1.前言1.1项目地址本项目共有前后两端地址(使用Docker部署,也可以自己部署到本地)。前端:SSE-DZH/MS-Vue:MS前端vue(github.com)后端:SSE-DZH/MS-Spring:MS后端(github.com)2.开发环境2.1基础环境JDK版本:17MySQL版本:8.0.36Redis版本:3.2.100......
  • GPU版PyTorch安装、GPU版TensorFlow安装(详细教程)
    目录一、介绍PyTorch、TensorFlow 1. PyTorch2.TensorFlow二、GPU版PyTorch安装1.确定CUDA版本2.确定python版本3.安装PyTorch3.1使用官网命令安装(速度慢)3.2本地安装(速度快)4.检验是否安装成功三、GPU版TensorFlow安装1.确定CUDA版本2.确定TensorFlow版本3.安......
  • 史上最详细的轨迹优化教程-机器人避障及轨迹平滑实现(干货满满)
    有一些朋友问我到底如何用优化方法实现轨迹优化(避障+轨迹平滑等),今天就出一个干货满满的教程,绝对是面向很多工业化场景的讲解,为了便于理解,我选用二维平面并给出详细代码实现,三维空间原理相似。本教程禁止转载,主要是有问题可以联系我探讨,我的邮箱[email protected]下面......
  • CMU最新论文:机器人智慧流畅的躲避障碍物论文详细讲解
    CMU华人博士生TairanHe最新论文:AgileButSafe:LearningCollision-FreeHigh-SpeedLeggedLocomotion代码开源:Code:https://github.com/LeCAR-Lab/ABSB站实际效果展示视频地址:bilibili效果地址我会详细解读论文的内容,让我们开始吧。敏捷且安全:学习无碰撞的高速腿......
  • Noisee 和 Suno创作十二生肖震撼视频 – 有详细的实操步骤
    历史文章日赚800,利用淘宝/闲鱼进行AI音乐售卖实操如何让AI生成自己喜欢的歌曲-AI音乐创作的正确方式抖音主播/电商人员有福了,利用Suno创作产品宣传,让产品动起来-小米Su7用sunoAI写粤语歌的方法,博主已经亲自实践可行五音不全也浪漫,521清华学霸为爱人写歌Suno秘籍:音乐高......