首页 > 其他分享 >kafka存储结构和查看方式

kafka存储结构和查看方式

时间:2023-08-16 09:12:36浏览次数:52  
标签:存储 查看 topics kafka version brokers leader

kafka存储结构和查看方式

参考文档

http://www.taodudu.cc/news/show-4453314.html?action=onClick

https://blog.csdn.net/weixin_42073629/article/details/108906817

img

1.连接zookeeper
/usr/local/zookeeper-3.4.14/bin/zkCli.sh

ls /: 显示zookeeper根目录下的子节点
有一个节点是:isr_change_notification. 在Kafka 中, Leader 和Follower 的数据同步遵循的是"最终一致"原则, 也就是数据同步会有延迟, 但保证最终数据的一致性.

isr 是'in-sync' replicas 的缩写, 代表的是与Leader 数据已经通过过的replica, 它会作为重选Leader 时作为判断依据.

ls2 /: 显示该节点的子节点信息和属性信息
2.查看brokers
ls /brokers
[ids, topics, seqid]
3.查看有哪些brokers. (1,2,3为server.properties中配置的broker.id值)
ls /brokers/ids
[1, 2, 3]
4.查看broker 1
get /brokers/ids/1
{"listener_security_protocol_map":{"PLAINTEXT":"PLAINTEXT"},"endpoints":["PLAINTEXT://10.255.60.141:9092"],"jmx_port":-1,"host":"10.255.60.141","timestamp":"1684826883931","port":9092,"version":4}
说明:
"jmx_port": jmx端口号,当值为-1表示该broker没有设置JMX_PORT
"timestamp": kafka broker初始启动时的时间戳
"host": 主机名或ip地址
"version": 版本编号默认为1
"port": kafka broker的服务端端口号,由server.properties中参数port确定
5.查看controller, 数据显示broker 3 为controller
get /controller
{"version":1,"brokerid":3,"timestamp":"1684826880151"}
说明:
Controller 是一个特殊的Broker, 其负责所有Partition 的leader/follower 关系.
Zookeeper 负责从Broker 中选举出一个作为Controller, 并确保其唯一性. 同时, 当Controller 宕机时, 选举一个新的.
6.查看kafka集群的id
get /cluster/id
{"version":"1","id":"4WVBIm5jSLmINtbQKsH1Ng"}
7.查看有哪些topics
ls /brokers/topics
8.查看topic下有哪些partitions
[zk: localhost:2181(CONNECTED) 1] ls /brokers/topics/__consumer_offsets/partitions
[44, 45, 46, 47, 48, 49, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43]
9.查看partition 0的状态
get /brokers/topics/__consumer_offsets/partitions/0/state       
{"controller_epoch":59,"leader":1,"version":1,"leader_epoch":68,"isr":[3,2,1]}
10.获取指定topic主题的值
get /brokers/topics/mat_realdata_hcl_line_5min
{"version":2,"partitions":{"2":[3,2,1],"1":[2,1,3],"0":[1,3,2]},"adding_replicas":{},"removing_replicas":{}}
说明:
以"2":[3,2,1]为例,前面的"2"表示partiionId编号,后面的数组表示同步副本组brokerId列表
11.获取指定topic partition的信息
get /brokers/topics/lzdt-itp-trip-pair/partitions/0/state
{"controller_epoch":57,"leader":3,"version":1,"leader_epoch":5,"isr":[3]}
 而且当前状态都是isr(也就是已处于最新状态). 同时, 
说明:
"controller_epoch":表示kafka集群中的中央控制器选举次数
"leader": 表示该partition选举leader的brokerId,当前的Leader是Broker 3.
"leader_epoch": 该partition leader选举次数
"isr": [同步副本组brokerId列表]
"version": 版本编号默认为1,

12.删除数据
例如:【rmr /brokers/topics/test】:删除test主题
13.consumer注册信息
/consumers/[groupId]/ids/[consumerIdString]
可以ls /consumers查看下

标签:存储,查看,topics,kafka,version,brokers,leader
From: https://www.cnblogs.com/regit/p/17632993.html

相关文章

  • kafka常用命令
    kafka常用命令http://681314.com/A/h9nfEtAOIVhttps://zhuanlan.zhihu.com/p/103915259https://www.cnblogs.com/wushaoyu/p/11486551.htmlhttps://blog.csdn.net/u010634066/article/details/119670405一.topic相关命令1.查看所有topic./kafka-topics.sh--zookeeper127......
  • C语言数据的存储
    目录类型的基本归类整形在内存中的存储原码、反码、补码大小端介绍练习浮点型在内存中的存储浮点数存储的例子浮点数存储规则类型的基本归类整形家族:charunsignedcharsignedcharshortunsignedshort[int]signedshort[int]intunsignedint......
  • 大数据分布式存储
    为什么需要分布式存储?数据量太大,单机存储能力有上限,需要靠数量来解决问题数量的提升带来的是网络传输、磁盘读写、CPU、内存等各方面的综合提升。分布式组合在一起可以达到1+1>2的效果1.分布式系统常见的组织形式?去中心化模式:没有明确中心,大家协调工作中心化模式:有明确的中......
  • 安防视频监控有哪些存储方式?哪种存储方式最优?
    视频监控系统涉及到大量的视频数据,需要对这些数据进行存储,以备日后查看或备份。视频监控的存储需求需要根据场所的实际情况进行选择,以保证监控数据的有效存储和日后的调阅、回溯。当前视频监控的存储方式,通常有以下几种:1)硬盘录像机(DVR)存储:DVR利用硬盘来储存视频数据,具有成本低、......
  • 视频集中存储安防监控平台EasyCVR优化AI硬件接入时的通道显示异常问题
    安防视频监控平台视频集中存储EasyCVR可拓展性强、视频能力灵活、部署轻快,可支持的主流标准协议有国标GB28181、RTSP/Onvif、RTMP等,以及支持厂家私有协议与SDK接入,包括海康Ehome、海大宇等设备的SDK等。安防监控视频云存储平台EasyCVR既具备传统安防视频监控的能力,比如:视频监控......
  • Mysql中使用存储过程插入decimal和时间数据递增的模拟数据
    场景Mysql插入数据从指定选项中随机选择、插入时间从指定范围随机生成、Navicat使用存储过程模拟插入测试数据:https://blog.csdn.net/BADAO_LIUMANG_QIZHI/article/details/129179745在上面的基础上,如何使用存储过程构造坐标数据规律递增以及时间递增的模拟数据。表结构如下......
  • 安防视频监控有哪些存储方式?哪种存储方式最优?
    视频监控系统涉及到大量的视频数据,需要对这些数据进行存储,以备日后查看或备份。视频监控的存储需求需要根据场所的实际情况进行选择,以保证监控数据的有效存储和日后的调阅、回溯。当前视频监控的存储方式,通常有以下几种:1)硬盘录像机(DVR)存储:DVR利用硬盘来储存视频数据,具有成本低、容......
  • oracle查看所有用户_Oracle实用命令查看共用一个表空间的所有用户
    oracle查看所有用户_Oracle实用命令查看共用一个表空间的所有用户news2023/8/1413:13:55概述有朋友问到如何查出表空间都被哪些用户使用的一些方法,因为有几种情况需要考虑,也顺便做个总结。需求:如何查看共用一个表空间的所有用户查看某表空间下表的所有者使用dba用户......
  • 服务器数据恢复-EqualLogic存储RAID5硬盘坏道导致存储崩溃的数据恢复案例
    服务器数据恢复环境:一台DELLEqualLogic存储中有一组由16块SAS硬盘组建的RAID5阵列。存储存放虚拟机文件,采用VMFS文件系统,划分了4个lun。服务器故障&检测&分析:存储设备上有两个硬盘指示灯显示黄色,存储不可用。存储设备已经过保。对故障存储中的16块硬盘做硬件故障检测,发现其中......
  • MySQL存储过程
    1.什么是存储过程是一组为了完成特定功能的sql语句集合经编译后保存在数据库中通过指定存储过程的名字并给出参数的值可带参数,也可返回结果可包含数据操纵语句、变量、逻辑控制语句等使数据库引擎更加灵活和强大2.使用存储过程的目的提高性能:存储过程将一组sql语句封装在一个单元中......