首页 > 其他分享 >kafka单机版+zookeeper单机版部署

kafka单机版+zookeeper单机版部署

时间:2023-08-12 14:34:54浏览次数:71  
标签:bin 单机版 SSL -- zookeeper kafka PLAINTEXT

部署zookeeper

官网下载zookeeper二进制包

wget https://dlcdn.apache.org/zookeeper/zookeeper-3.8.2/apache-zookeeper-3.8.2-bin.tar.gz

解压

tar zxvf apache-zookeeper-3.8.2-bin.tar.gz

修改配置文件

cd apache-zookeeper-3.8.2-bin/conf
mv zoo_sample.cfg zoo.cfg
[root@riverxyz conf]# grep -Ev "^$|#" zoo.cfg
tickTime=2000
initLimit=10
syncLimit=5
dataDir=/usr/local/apache-zookeeper-3.8.2-bin/data
clientPort=2181

启动

cd ..
bin/zkServer.sh start

部署kafka

官网下载二进制包

wget https://downloads.apache.org/kafka/3.5.1/kafka_2.13-3.5.1.tgz

解压

tar zxvf https://downloads.apache.org/kafka/3.5.1/kafka_2.13-3.5.1.tgz

修改配置文件

cd kafka_2.13-3.5.1/conf
[root@riverxyz kafka_2.13-3.5.1]# grep -Ev "^$|#" config/server.properties 
broker.id=0
listeners=PLAINTEXT://:9092
listener.security.protocol.map=PLAINTEXT:PLAINTEXT,SSL:SSL,SASL_PLAINTEXT:SASL_PLAINTEXT,SASL_SSL:SASL_SSL
num.network.threads=3
num.io.threads=8
socket.send.buffer.bytes=102400
socket.receive.buffer.bytes=102400
socket.request.max.bytes=104857600
log.dirs=/tmp/kafka-logs
num.partitions=1
num.recovery.threads.per.data.dir=1
offsets.topic.replication.factor=1
transaction.state.log.replication.factor=1
transaction.state.log.min.isr=1
log.retention.hours=168
log.retention.check.interval.ms=300000
zookeeper.connect=10.10.10.103:2181
zookeeper.connection.timeout.ms=18000
group.initial.rebalance.delay.ms=0

主要是以下这三个位置 listeners=PLAINTEXT://:9092 listener.security.protocol.map=PLAINTEXT:PLAINTEXT,SSL:SSL,SASL_PLAINTEXT:SASL_PLAINTEXT,SASL_SSL:SASL_SSL zookeeper.connect=10.10.10.103:2181 启动

bin/kafka-server-start.sh -daemon config/server.properties

创建测试Topic

bin/kafka-topics.sh --create --topic testTopic --replication-factor 1 --partitions 1 --bootstrap-server 10.10.10.103:9092
Created topic testTopic

查看Topic

bin/kafka-topics.sh --bootstrap-server 10.10.10.103:9092 --list
__consumer_offsets
my-new-topic
testTopic
topicname

从Topic生产消息

运行生产者后从>后面输入信息

bin/kafka-console-producer.sh --broker-list 10.10.10.103:9092 --topic testTopic
>this is a TestTopic

消费Topic

运行消费得后会输出前面生产者输入的信息

bin/kafka-console-consumer.sh --bootstrap-server 10.10.10.103:9092 --topic testTopic
this is a TestTopic

标签:bin,单机版,SSL,--,zookeeper,kafka,PLAINTEXT
From: https://blog.51cto.com/riverxyz/7058526

相关文章

  • Kafka深度解析
    背景介绍Kafka简介Kafka是一种分布式的,基于发布/订阅的消息系统。主要设计目标如下:以时间复杂度为O(1)的方式提供消息持久化能力,即使对TB级以上数据也能保证常数时间的访问性能高吞吐率。即使在非常廉价的商用机器上也能做到单机支持每秒100K条消息的传输支持KafkaServer间的......
  • ZooKeeper(外部)实例 + SolrCloud(tomcat)实例
    Solr学习(三)单独ZooKeeper(外部)实例+SolrCloud(tomcat)实例博客分类: JavaSolrLucenesolr4.2.0ZooKeeperSolrSolrCloud 开场白:简单讲述如何配置独立的外部ZooKeeper集群管理组件来管理solr集群(多实例solr)本章建立在 Solr学习(一)  、Soer学习(二)基础上......
  • KubeSphere 部署 Zookeeper 实战教程
    前言知识点定级:入门级如何利用AI助手辅助运维工作单节点Zookeeper安装部署集群模式Zookeeper安装部署开源应用选型思想实战服务器配置(架构1:1复刻小规模生产环境,配置略有不同)主机名IPCPU内存系统盘数据盘用途ks-master-0192.168.9.9148501......
  • 分布式服务框架 Zookeeper -- 管理分布式环境中的数据
    简介:Zookeeper分布式服务框架是ApacheHadoop的一个子项目,它主要是用来解决分布式应用中经常遇到的一些数据管理问题,如:统一命名服务、状态同步服务、集群管理、分布式应用配置项的管理等。本文将从使用者角度详细介绍Zookeeper的安装和配置文件中各个配置项的意义,以及分析Zo......
  • 使用 Kafka Tools(现已更名为 Offeset Exploer)无法连接虚拟机的 Kafka 集群,报错error c
    发生缘由学习Kafka的使用,结果发现使用KafkaTools(现已更名为OffesetExploer)无法连接虚拟机的Kafka集群,报错信息:errorconnectingtothecluster.unabletoconnecttozookeeperserverxxx.xxx.xxx.xxx2181withtimeoutof10000ms运行环境电脑系统版本:Windows1......
  • Kafka学习
    1.kafka适用场景 2Mq作用 ......
  • kafka客户端实现---java版本
    下载jar包maven版本的直接找到相关的pom配置即可。https://mvnrepository.com/artifact/org.apache.kafka/kafka-clients/2.0.0我们这里使用的是2.0.0版本如下:<!--https://mvnrepository.com/artifact/org.apache.kafka/kafka-clients--><dependency><groupId>org.apac......
  • Springboot集成使用阿里云kafka详细步骤
    明确连接认证类型首先要明确使用哪种连接认证类型Ons模式参考https://github.com/AliwareMQ/aliware-kafka-demos/tree/master/kafka-java-demo/betaOns模式的conf内容KafkaClient{com.aliyun.openservices.ons.sasl.client.OnsLoginModulerequiredAccessKey="......
  • golang之操作kafka
     安装第三方包:gogetgithub.com/IBM/sarama 生产者实例:packagemainimport("fmt""github.com/IBM/sarama")funcmain(){//1.生产者配置config:=sarama.NewConfig()config.Producer.RequiredAcks=sarama.WaitForAll/......
  • 监控Kafka的关键指标
    Kafka架构上面绿色部分PRODUCER(生产者)和下面紫色部分CONSUMER(消费者)是业务程序,通常由研发人员埋点解决监控问题,如果是Java客户端也会暴露JMX指标。组件运维监控层面着重关注蓝色部分的BROKER(Kafka节点)和红色部分的ZOOKEEPER。ZooKeeper也是Java语言写的,监控相对简单,另......