首页 > 其他分享 >kafka之单节点多Broker部署及使用

kafka之单节点多Broker部署及使用

时间:2022-09-22 09:45:52浏览次数:36  
标签:-- Broker server topic 2181 之单 kafka properties


(1)单节点建立多Broker的集群

多个server.properties文件表示多个Broker,一个server.properties文件对应一个Broker

cp server.properties server-1.properties (复制一个文件1)

vim server-1.properties

将 broker.id=1 (每个server-1.properties文件中的broker.id都不一样 )
listeners=PlAINTEXT://:9093(端口号也不一致)
log.dir=/kbb/install/kafka/log_data/kafka-logs-1


cp server.properties server-2.properties (复制一个文件2)

vim server-2.properties

将 broker.id=2 (每个server-1.properties文件中的broker.id都不一样 )
listeners=PlAINTEXT://:9094(端口号也不一致)
log.dir=/kbb/install/kafka/log_data/kafka-logs-2


(2).启动

cd /kbb/install/kafka

bin/kafka-server-start.sh -daemon config/server-1.properties &
bin/kafka-server-start.sh -daemon config/server-2.properties &
bin/kafka-server-start.sh -daemon config/server-3.properties &


(3).创建topic(因为创建了两个broker,所以创建两个副本replication-factor 2)

kafka-topics.sh --create --zookeeper node01:2181/kafka --replication-factor 2 --partitions 1 --topic Twotopic

 

(4).查看所有topic

(因为server.properties文件中的zookeeper.connect=node01:2181,node02:2181,node03:2181/kafka,所以查看时要在后面加/kafka)
kafka-topics.sh --list --zookeeper node01:2181/kafka


(5).查看指定topic具体信息(test_topic是要查看topic的名字)

kafka-topics.sh --describe -zookeeper node01:2181/kafka --topic test_topic

 

(6).创建生产者发送消息:broker

(在服务器上打开一个生产者,然后把输入的每行数据发送到kafka中的命令)
cd /kbb/install/kafka
bin/kafka-console-producer.sh --broker-list node01:9093,node01:9094 --topic Twotopic


(因为server.properties文件中的zookeeper.connect=node01:2181,node02:2181,node03:2181/kafka,所以查看时要在后面加/kafka)


(7).打开一个消费者来消费消息:zookeeper


克隆两个窗口,打开两个消费者
cd /kbb/install/kafka

bin/kafka-console-consumer.sh --zookeeper node01:2181/kafka --topic Twotopic --from-beginning


(8).查看记录的日志

/kbb/install/kafka/log_data/kafka-logs-1


(9).关闭Kafka


cd /kbb/install/kafka
bin/kafka-server-stop.sh

标签:--,Broker,server,topic,2181,之单,kafka,properties
From: https://www.cnblogs.com/Lizhichengweidashen/p/16718082.html

相关文章

  • Kafka单节点单broker部署及使用
    1.Kafka单节点单broker部署及使用(1)配置Kafka的config目录下的server.properties文件进入$KAFKA_HOME/config/serverpropertiesvim serverproperties主要......
  • Kafka概述
    1、Kafka概述:和消息系统类似(1)特性:1)发布和订阅 2)实时处理数据流 3)分布式存储(2)功能:构建实时数据管道和实时数据流处理,横向扩展(通过增加机器的方式......
  • 【转】Windows安装运行Kafka
    在Windows安装运行Kafka原文地址:https://www.cnblogs.com/flower1990/p/7466882.html一、安装JAVAJDK1、下载安装包http://www.oracle.com/technetwork/java/javase......
  • 设计模式-创建型模式之单例
    1、元类实现1classSingleton(type):2def__init__(self,*args,**kwargs):3super().__init__(*args,**kwargs)4self._instance=Non......
  • springboot+Flink(读取kafka并存入Mysql)20220921
    1、mysql数据库test 2、kafka创建主题student  3、pom.xml<properties><java.version>1.8</java.version><project.build.sourceEncod......
  • 如何确保kafka topic已经删除
    问题描述TopicExistsException:Topic'xxx'ismarkedfordeletion.在写kafka工具时,有两个方法:批量创建topic和批量删除topic。运维操作一般是,批量删除一堆topic,然......
  • 5种kafka消费端性能优化方法
    摘要:带你了解基于FusionInsightHD&MRS的5种kafka消费端性能优化方法。本文分享自华为云社区《FusionInsightHD&MRSkafka消费端性能优化方法》,作者:穿夹克的坏猴子。kaf......
  • Kafka开启SASL认证 【windowe详细版】
    一、JAAS配置Zookeeper配置JAASzookeeper环境下新增一个配置文件,如zk_server_jass.conf,内容如下:Server{ org.apache.kafka.common.security.plain.PlainLoginModule......
  • Flink-状态一致性(如何保证exactly-once、flink+kafka端到端保证exactly-once)
    当在分布式系统中引入状态时,自然也引入了一致性问题。一致性实际上是"正确性级别"的另一种说法,也就是说在成功处理故障并恢复之后得到的结果,与没有发生任何故障时得到的结......
  • Kafka本地单实例安装
    下载安装从国内镜像站点下载并安装Kafka安装包,以下载并安装v3.2.3版本为例。$tar-xzfkafka_2.12-3.2.3.tgz$cdkafka_2.12-3.2.3启动服务如下命令均在Kafka安装......