首页 > 其他分享 >Kafka 单机部署搭建及其基本使用

Kafka 单机部署搭建及其基本使用

时间:2023-06-06 20:35:47浏览次数:31  
标签:bin 单机 -- zookeeper kafka sh Kafka 2.5 搭建

最近在搞Flink 框架 其中数据源需要模拟kafka取数据 ,于是自己搭建了一套单机的kafka环境,以便用于测试。现整理如下的笔记,发上来和大家分享。后续还会有kafka的相关笔记,会与大家继续分享!

当前文档所部署服务器 IP地址为192.168.118.218 hostname 为web

一、 kafka环境搭建
下载kafka很简单,可以使用源码的方式和安装包的方式安装。这里使用安装包的方式进行安装,只需要进行解压运行即可。
源码下载地址:https://archive.apache.org/dist/kafka/2.5.0/kafka-2.5.0-src.tgz
安装包下载地址:https://archive.apache.org/dist/kafka/2.5.0/kafka_2.12-2.5.0.tgz

(1)、解压kafka_2.12-2.5.0.tgz,得到 "kafka_2.12-2.5.0 " 文件夹。

tar -zxvf kafka_2.12-2.5.0.tgz


(2)、kafka需要安装zookeeper使用,但kafka集成zookeeper,在单机搭建时可直接使用。使用需配置kafka_2.12-2.5.0/config 下的“zookeeper.properties”

cd kafka_2.12-2.5.0/config
注:经过部署发现 kafka必须配置zookeeper 否则无法启动 无论是单机还是集群,必须,必须,必须开启

 

(3)、配置"zookeeper.properties"。修改dataDir和clientPort。前者是快照存放地址(自己随意配置),后者是客户端连接zookeeper服务的端口。默认端口2181 最好默认不修改

vim kafka_2.12-2.5.0/config/zookeeper.properties


(4)、配置kafka_2.12-2.5.0/config下的“server.properties”,修改log.dirs和zookeeper.connect。前者是日志存放文件夹,后者是zookeeper连接地址(端口和clientPort保持一致)。

vim kafka_2.12-2.5.0/config/server.properties


注:这里的web 为服务器的hostname 能不能写ip呢?大家可以试试,我这里写的是我的hostname

 

注:若需要外部访问 一定需要配置listeners 默认为本机IP 端口默认9092 如图:

 

到此,kafka的单机环境就搭建成功了。

二 kafka的相关命令
(1) 开启kafka自带zookeeper

前台运行:

./bin/zookeeper-server-start.sh ./config/zookeeper.properties
后台运行:

./bin/zookeeper-server-start.sh -daemon ./config/zookeeper.properties
(2) 开启kafka

前台运行:

bin/kafka-server-start.sh config/server.properties
后台运行:

./bin/kafka-server-start.sh -daemon ./config/server.properties
使用jps命令查看是否正常了

[root@web config]# jps
10978 QuorumPeerMain
31613 ConsoleConsumer
31150 Kafka
41839 Jps
(3)创建kafka主题:

topic为test

./bin/kafka-topics.sh --create --zookeeper 192.168.118.128:2181 --replication-factor 1 --partitions 1 --topic test

#也可以使用下面命令 与上面命令等效
./bin/kafka-topics.sh --create --zookeeper web:2181 --replication-factor 1 --partitions 1 --topic test
其中zookeeper 可以使用hostname 也可以使用IP,若使用hostname,请注意hosts 即/etc/hosts 与hostname最好保持一致!

(4)显示kafka所有主题:

./bin/kafka-topics.sh --list --zookeeper 192.168.118.128:2181

#也可以使用下面命令 与上面命令等效
./bin/kafka-topics.sh --list --zookeeper web:2181




[root@web kafka_2.12-2.5.0]# ./bin/kafka-topics.sh --list --zookeeper 192.168.118.128:2181
__consumer_offsets
test
test1
test2

(5)查看某个主题的详细信息:

./bin/kafka-topics.sh --zookeeper 192.168.118.128:2181 --describe --topic test2


Topic: test2 PartitionCount: 2 ReplicationFactor: 1 Configs:
Topic: test2 Partition: 0 Leader: 0 Replicas: 0 Isr: 0
Topic: test2 Partition: 1 Leader: 0 Replicas: 0 Isr: 0
(6)创建kafka生产者:

./bin/kafka-console-producer.sh --broker-list 192.168.118.128:9092 --topic test2
(7)创建kafka消费者

./bin/kafka-console-consumer.sh --bootstrap-server 192.168.118.128:9092 --topic test2 --from-beginning
--from-beginning 是从头开始消费

如下图所示:

 

解释:

--zookeeper:后面接的是你配置的zookeeper地址

--broker-list:默认端口为9092.可自行更改


————————————————
版权声明:本文为CSDN博主「树下水月」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
原文链接:https://blog.csdn.net/u013416034/article/details/123875299

标签:bin,单机,--,zookeeper,kafka,sh,Kafka,2.5,搭建
From: https://www.cnblogs.com/gaoyanbing/p/17461617.html

相关文章

  • git服务器搭建
    参考来源:https://www.runoob.com/git/git-server.html#安装gitpipinstallgitgit--version#创建一个git用户组和用户,用来运行git服务#创建证书登录收集所有需要登录的用户的公钥,公钥位于id_rsa.pub文件中,把我们的公钥导入到/home/git/.ssh/authorized_keys文件里,一行一......
  • 第三天:环境变量搭建和运行HelloWord程序
    java开发环境搭建配置环境变量我的电脑-->右键属性点击高级系统设置选择环境变量选择系统变量,新建--》JAVA_HOME配置path变量测试是否安装成功打开cmd输入命令java-version目录含义bin:存放一些可执行程序include:JDK是由C和C++编写启动时......
  • 网关服务Kong、Konga搭建记录
    安装使用docker-compose安装是最方便的在/opt/目录下创建kong文件夹,然后创建一个docker-compose.yml文件并编辑cd/optmkdirkongcdkongvidocker-compose.yml在docker-compose.yml添加如下配置(20220528亲测可用)version:'3'services:kong-database:imag......
  • 阿里云虚拟主机搭建多个网站的方法
    阿里云虚拟主机搭建多个网站,需要用到伪静态文件.htaccess文件具体步骤如下:比如说你先在已经搭建了一个A网站www.a.com,想再搭建一个B网站www.b.com那么需要先在A网站的根目录下,新建一个文件夹,比如名字叫做B_file然后再A网站的根目录下,新建一个.htaccess文件,内容如下:RewriteE......
  • kafka
    1.消息的模式主要两种,第一种点对点,消费完就删掉。第二种主流的,发布订阅,一对多,消费之后不会删掉。2.卡夫卡的主要结构:生产者--broker--消费者,broker里有很多partation,实际上一个broker就是一台服务器,partation类似于es的分片,也有主分区从分区之分,只不过读写都是对主分区做的,从分区......
  • 直播平台搭建源码,调用系统相册实现多选图片上传
    直播平台搭建源码,调用系统相册实现多选图片上传1、首先需要给webview的WebChromeClient设置以下代码,才可以实现h5与Android交互选取图片 privateValueCallback<Uri>mValueCallbackUri;privateValueCallback<Uri[]>mValueCallbackUris;this.setWebChromeClient(newWebChro......
  • 直播系统搭建,编辑下拉框、日期时,会层级不够有遮蒙层问题
    直播系统搭建,编辑下拉框、日期时,会层级不够有遮蒙层问题加样式代码如下(示例):  下拉框的样式: .vxe-select--panel{  z-index:9997!important; }​日期的样式: .vxe-input--panel.type--date,.vxe-input--panel.type--month,.vxe-input--panel.type--week,.vx......
  • TI平台搭建(Radar)
    零、运行环境一、工具安装二、代码生成三、代码编译四、刷机五、调试 零、运行环境Windows11 笔记本64位32G  i7-1165G7 一、工具安装进行TI开发之前,需要安装一下工具:mmwave_mcuplus_sdk_04_03_00_01-Windows-x86-Install.execcs_setup_12.1.......
  • RocketMQ:一个纯java的开源消息中间件--开发测试环境搭建
    一、简介  RocketMQ的前身是Metaq,当 Metaq 3.0发布时,产品名称改为RocketMQ    MetaQ2.x版本由于依赖了alibaba公司内部其他系统,对于公司外部用户使用不够友好,推荐使用3.0版本。   项目地址: https://github.com/alibaba/RocketMQ二、安装RocketMQ   安装Rocket......
  • 智能呼叫中心解决方案:搭建智能呼叫中心系统
    什么是呼叫中心智能化?呼叫中心智能化是指利用人工智能(AI)技术,以实现自动化和优化呼叫中心的业务流程,提高工作效率和用户满意度,降低运营成本。主要涉及的技术和应用有:智能语音机器人:利用语音识别和自然语言处理技术,自动与客户进行交互,处理简单的查询或问题,或预处理并转接到人工座席。......