首页 > 系统相关 >Centos7 Kafka初次安装部署

Centos7 Kafka初次安装部署

时间:2022-12-06 22:13:56浏览次数:80  
标签:exporter -- zookeeper kafka Centos7 2181 初次 Kafka 目录

Centos7 Kafka初次安装部署

环境:虚拟机,centos7系统。

步骤:

一、安装JDK1.8以上版本

​ 此处略过

二、zookeeper环境搭建

1、下载Zookeeper并解压到制定的目录(或者提前进入到 cd /opt/目录下,创建文件夹zookeeper mkdir zookeeper)

$ wget http://mirror.bit.edu.cn/apache/zookeeper/zookeeper-3.5.7/apache-zookeeper-3.5.7-bin.tar.gz

$ tar -zxvf zookeeper-3.5.7.tar.gz -c /opt/zookeeper

2、进入到zookeeper目录下的conf

$ cd /opt/zookeeper/conf

3、拷贝zoo_sample.cfg文件重命名为zoo.cfg,然后修改dataDir属性

# 数据的存放目录 dataDir=/home/hadoop/zkdata(根据个人需求自定义)

# 端口,默认就是2181 clientPort=2181

4、配置环境:vi /etc/profile/

在最后加上

export ZOOKEEPER_HOME=/opt/zookeeper (此处根据自己存放的目录,和配置jdk是类似的方法)

export PATH=$PATH:$ZOOKEEPER_HOME/bin

写好之后按ESC,:wq保存退出!

使环境变量生效命令:source /etc/profile

5、至此,zookeeper安装完成,检查是否正确安装

在zookeeper的bin目录下执行命令:

$ zkServer.sh start (启动)

img

安装完Zookeeper后,输入命令启动后,命令jps,看有没有QuorumPeerMain进程,有就是启动成功。

没有的话,进入Zookeeper的log目录下查看日志,有可能是端口被占用或者是其他原因,这一块就需要各位童鞋后续发现了。

$ zkServer.sh stop(停止)

三、kafka单节点环境部署

1、下载kafka并解压到制定的目录

$ wget http://mirrors.tuna.tsinghua.edu.cn/apache/kafka/2.1.1/kafka_2.12-2.1.1.tgz

$ tar -zxvf kafka_2.12-2.1.1.tgz -c /opt/kafka

2、进入kafka的config目录下,有一个server.properties,添加如下配置

# broker的全局唯一编号,不能重复 broker.id=0

# 监听 listeners=PLAINTEXT:192.168.7.33//:9092

# 日志目录 log.dirs=/home/kafka/kafka-logs(用户自定义)

# 配置zookeeper的连接(如果不是本机,需要该为ip或主机名) zookeeper.connect=localhost:2181(默认端口2181)

3、当时我看其他文档的时候没有这一步,导致一直启动不了,就是环境配置!和之前配置jdk和zookeeper一样,在后面加上

export KAFKA_HOME=/opt/kafka (路径要根据自己的路径来)

export PATH=$PATH:$KAFKA_HOME/bin

4、在kafka的bin目录下启动:

kafka-server-start.sh $KAFKA_HOME/config/server.properties

启动正常话会出现大概一两页的代码。

之后用jps命令检查进程,会看到有kafka 和 zookeeper的线程

5、最好再自己创建topic 确保已经搭建好

$ kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test

参数说明:

–zookeeper:指定kafka连接zk的连接url,该值和server.properties文件中的配置项{zookeeper.connect}一样

–replication-factor:指定副本数量

–partitions:指定分区数量

–topic:主题名称

查看所有topic

$ kafka-topics.sh --list --zookeeper localhost:2181 test

启动生产者

$ kafka-console-producer.sh --broker-list localhost:9092 --topic test

启动消费者。(在kafka的bin目录下启动)

$ kafka-console-consumer.sh --zookeeper localhost:2181 --topic test --from-beginning

四、kafka_exporter组件安装

github地址:https://github.com/danielqsj/kafka_exporter。可以下载软件后安装。

操作 wget https://github.com/danielqsj/kafka_exporter/releases/download/v1.2.0/kafka_exporter-1.2.0.linux-amd64.tar.gz 解压缩到/usr/local 目录 重命名为 kafka_exporter
启动 ./kafka_exporter --kafka.server=kafkaIP或者域名:9092 &ss -tunl
确认 lsof -i: 9308注:9308是kafka_exporter的端口

标签:exporter,--,zookeeper,kafka,Centos7,2181,初次,Kafka,目录
From: https://www.cnblogs.com/cmmnhm/p/16960723.html

相关文章

  • docker 容器安装 centos7 部署程序打包成镜像
    1、安装dockeryum install dockerecho"{"registry-mirrors":["https://01sy6s7g.mirror.aliyuncs.com"]}" >  /etc/docker/daemon.jsonsystemctl restart ......
  • Linux学习之VMware安装CentOS7
    CentOS版本:7.9VMware版本:16安装主要就是下一步,下一步,有几个注意事项:第一就是网卡的设置,因为CentOS7默认网卡名字不是ethX样式.然后就是安装软件的选择,学习Linux,......
  • Kafka集群部署(Linux环境)
    Kafka集群部署运行环境:❤操作系统:CentOS7.6x64❤kafka版本:kafka_2.13-3.3.1.tgz❤JDK环境:JDK11(Kafka2.8版本才开始自带了Zookeeper,所以注意下载版本)一、zookee......
  • flink sql 程序消费kafka数据到mysql设置参数connector.url问题汇总
    1.问题现象:使用flinksql程序消费kafka数据写入mysql时,使用TVF表值函数,START_ENENT_TIME和END_ENENT_TIME始终比消费时间小大约13小时。解决办法在写入mysql的sink......
  • CentOS7 安装 Docker
    1、Docker简介Docker是一个开源的应用容器引擎,让开发者可以打包他们的应用以及依赖包到一个可移植的容器中,然后发布到任何流行的Linux机器或Windows机器上,也可以实现......
  • Kafka连接配置(win)
    1、首先需要更改host映射文件地址:C:\Windows\System32\drivers\etc\hosts1)未更改时会报错1.Causedbyjava.nio.channels.UnresolvedAddressExceptionnull2.org.apa......
  • 服务器上kafka单机版安装以及shell简单测试
    在Kafka2.8之后,引入了基于Raft协议的KRaft模式,支持取消对Zookeeper的依赖。在此模式下,一部分KafkaBroker被指定为Controller,另一部分则为Broker。这些Controller的作用就......
  • k8s笔记9(集群外beat->kafka集群:OK)
    1、helmupgrade后kibana采集不到数据,需要删除后重新INSTALL然后测试。这里打开了externalAccess参数。#helmupgradekafka-nlogging.#helm-nloggingdeletekafka......
  • centos7 离线(内网环境无外网) 安装docker
    1.环境1.centos7内网环境无外网连接,yum安装会失效,采用离线安装包方式安装docker 2.下载安装包1.百度网盘:链接:https://pan.baidu.com/s/1ArPt-NhjtdKTBW3I4BE-......
  • centos7安装varnish
    1、下载安装包官网地址:http://varnish-cache.org/wgethttp://varnish-cache.org/downloads/varnish-7.2.1.tgz2、在线安装依赖工具yum-yinstallgccreadline-de......