首页 > 其他分享 >kafka使用教程

kafka使用教程

时间:2022-12-20 11:23:09浏览次数:51  
标签:教程 副本 分区 broker kafka topic 使用 leader

kafka概述

kafka架构基础

名称
producer 向 kafka broker 发消息的客户端
consumer 向 kafka broker 取消息的客户端
consumer group 组内每个消费者消费不同的分区,一个分区只能由一个组内消费者消费。所有消费者都属于某个组,即消费者是逻辑上的订阅者
broker 一台 Kafka 服务器就是一个 broker。一个集群由多个 broker 组成。一个 broker 可以容纳多个 topic。
topic 可以理解为一个队列,生产者和消费者面向的都是一个 topic。
partition 为了实现拓展性,一个非常大的 topic 可以分布到多个 broker(即服务器)上,一个 topic 可以分为多个 Partition,每个 partition 都是一个有序的队列。
replication 副本,为保证集群中某个节点发生故障时,该节点上的 partition 数据不丢失,且 Kafka 仍然可以继续工作,Kafka 提供了副本机制,一个 topic 的每个分区都有若干个副本,一个 leader 和若干个 follower
leader 每个分区多个副本的 ” 主 “,生产者发送数据的对象,以及消费者消费数据时的对象都是 leader
follower 每个分区多个副本的 “从”,实时从 leader 中同步数据,保持和 leader 数据的同步。leader 发生故障时,某个 follower 会成为新的 leader。

测试kafka

创建一个名为test1的topic测试

标签:教程,副本,分区,broker,kafka,topic,使用,leader
From: https://www.cnblogs.com/braveman1021/p/16993801.html

相关文章

  • gem使用代理安装ruby-debug-base19
    gem使用代理的两种方式:方式一:>>SEThttp_proxy=http://ip_or_host:PORT>>geminstallthe_package_name方式二:>>gemlist-phttp://user:passwd@ip_or_host:8080-r安装ru......
  • MySQL使用--存储过程篇
    查看存储过程:select`name`frommysql.procwheredb='your_db_name'and`type`='PROCEDURE'SHOWprocedurestatus;查看存储过程的创建代......
  • MySQL使用--通用操作篇
    服务启动:netstartmysql(windows启动)"/etc/rc.d/init.d/mysqldstart"(linux启动)用户登录:mysql[mydb]-h127.0.0.1-uroot-ppassword;常用统计......
  • MySQL使用--表操作篇
    查看表描述:DESCRIBEMYTABLE;创建表:CREATETABLE[IFNOTEXISTS]表名称(列名称1数据类型[属性][索引],列名称2数据类型[属性][索引],列名称......
  • python中telnetlib模块的使用
    python下能支持telnet的模块telnetlib是内置模块,直接import就可以了,其基本的使用方法也是比较简单的。 #encoding=utf-8defdo_telnet(Host,username,password,finish,......
  • py2exe简单使用
    前提条件:需要安装easy-install模块,这是一个python的模块打包工具。py2exe模块安装:​​​http://prdownloads.sourceforge.net/py2exe下载对应版本的安装包。​​​样例......
  • MySQL使用--内建函数篇
    一.字符串类:CHARSET(str)//返回字串字符集CONCAT(string2[,...])//连接字串INSTR(string,substring)//返回substring首次在string中出现的......
  • 使用 expdp导入导出oracle 数据库
    expdp用户名/密码@afspdbTABLES=table1dumpfile=/yfq/expdp_a11.dmp(1)执行之后报错了;expdp TNScouldnotresolvetheconnectidentifierspecified查了下是......
  • 使用宝塔面板部署项目注意事项
    使用宝塔面板部署项目注意事项Noinputfilespecified解决方法......
  • 如何使用word的公式插入
    步骤:1、点击顶部导航栏的插入2、点击右上角出现的公式3、点击顶部中央导航栏出现的公式如果你有更多的问题和想法,欢迎交流 ......