首页 > 其他分享 >Kafka 安装步骤

Kafka 安装步骤

时间:2024-04-08 13:58:57浏览次数:28  
标签:-- 步骤 ZooKeeper server kafka Kafka 安装

安装Apache Kafka通常涉及到以下几个步骤,下面提供一个通用的安装指南。请注意,具体的安装步骤可能会因操作系统类型(如Linux、Windows)、Kafka版本、依赖项版本以及具体环境要求(如是否使用ZooKeeper)等因素有所不同。这里以在Linux环境下安装Kafka为例,假设您已经安装了Java运行环境(JRE或JDK):

步骤一:下载Kafka

  1. 访问Apache Kafka的官方下载页面(如:http://kafka.apache.org/downloads),选择适合您的操作系统和Scala版本的稳定发行版。

  2. 下载最新版本的Kafka压缩包(通常为.tgz.zip格式)。例如,文件名可能是类似kafka_2.13-<version>.tgz的形式,其中2.13代表Scala版本,<version>代表Kafka的具体版本号。

步骤二:解压安装包

  1. 将下载的压缩包上传至您希望部署Kafka的Linux服务器。

  2. 使用命令行工具解压文件到指定目录,如 /opt。假设您已经将压缩包上传至 /opt 目录下,且文件名为 kafka_2.13-<version>.tgz,可以使用以下命令解压:

    cd /opt
    tar -xzf kafka_2.13-<version>.tgz
    

    解压后,会创建一个与Kafka版本对应的目录,如 /opt/kafka_<version>

步骤三:(可选)安装并配置ZooKeeper

  1. (仅对早期版本或特定配置需要) 如果您的Kafka版本或配置要求使用独立的ZooKeeper集群,需先安装并配置ZooKeeper。按照ZooKeeper的官方文档进行安装,确保其服务正常运行。

步骤四:配置Kafka

  1. 进入Kafka解压后的配置目录,通常是 /opt/kafka_<version>/config

  2. 编辑 server.properties 文件,根据实际需求调整以下主要配置项(仅为示例,具体参数应根据实际情况设定):

    • broker.id: 设置为唯一的整数,标识集群中的每个Broker。
    • listeners: 设置Broker监听的接口和协议,如 PLAINTEXT://:9092 表示监听所有网络接口的9092端口。
    • log.dirs: 指定Kafka数据日志存放的目录,如 /var/kafka/data,确保该目录存在且可写。
    • (可选)zookeeper.connect: 如果使用ZooKeeper,设置ZooKeeper集群的连接字符串,如 localhost:2181zk1.example.com:2181,zk2.example.com:2181,zk3.example.com:2181
  3. (可选)配置其他高级选项,如日志清理策略、消息保留时间、副本设置、安全认证等,根据实际需求参照官方文档进行配置。

步骤五:启动Kafka

  1. (可选)启动ZooKeeper,如果您的环境中需要独立运行ZooKeeper服务,请确保其已启动并运行正常。

  2. 启动Kafka Broker,进入Kafka的bin目录(如 /opt/kafka_<version>/bin),执行以下命令启动服务:

    ./kafka-server-start.sh ../config/server.properties
    

    如果一切正常,Kafka Broker将开始监听指定端口,准备接受消息生产和消费请求。

步骤六:验证安装

  1. 创建Topic,在Kafka的bin目录下,执行以下命令创建一个测试Topic:

    ./kafka-topics.sh --create --bootstrap-server localhost:9092 --replication-factor 1 --partitions 1 --topic test-topic
    
  2. 查看Topic列表,确认新创建的Topic已存在:

    ./kafka-topics.sh --list --bootstrap-server localhost:9092
    
  3. 生产测试消息,使用以下命令发送一些消息到测试Topic:

    ./kafka-console-producer.sh --bootstrap-server localhost:9092 --topic test-topic
    

    在打开的终端中输入一些文本消息,然后按Ctrl+C退出。

  4. 消费测试消息,打开另一个终端,执行以下命令订阅并消费测试Topic的消息:

    ./kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test-topic --from-beginning
    

    如果看到刚才在生产者终端输入的文本消息被正确输出,说明Kafka安装、配置和启动成功。

(可选)配置服务管理

  1. 将Kafka作为系统服务运行,您可以使用systemd、init.d脚本或第三方服务管理工具(如Supervisor)将Kafka配置为系统服务,以便进行自动启动、停止和状态监控。

至此,您已经在Linux环境中完成了Apache Kafka的基本安装和验证。后续可根据实际应用场景进行更深入的配置优化、集群扩展、安全设置等。如果您需要在Windows环境下安装Kafka,过程大致相似,但需要注意路径分隔符、启动脚本的执行方式等Windows特有的细节。

标签:--,步骤,ZooKeeper,server,kafka,Kafka,安装
From: https://blog.csdn.net/qq_33240556/article/details/137496730

相关文章

  • Kafka 与Spark的集成
    ApacheKafka与ApacheSpark可以进行深度集成,实现从Kafka中读取实时流数据,并利用Spark的分布式计算能力进行高效的数据处理和分析。以下是如何将Kafka与Spark(特别是SparkStreaming或StructuredStreaming)进行集成的示例:1.SparkStreaming与Kafka集成对于Spark2.x之前的......
  • centos 安装 rocketmq
    本文用到的安装包和可视化,链接:百度云或者去官网自行下载,注:官网的可视化需要添加pom.xml依赖,我贴在下方了。安装包可视化<dependency><groupId>javax.xml.bind</groupId><artifactId>jaxb-api</artifactId><version>2.3.0</vers......
  • 运维系列(创建windows服务,亲测有效):Windows 安装Redis(图文详解)
    Windows安装Redis(图文详解)Windows安装Redis(图文详解)一、Redis是什么数据库?二、安装Redis1、下载地址2、安装过程2.1将下载的压缩包解压到一个文件夹中:2.2打开cmd指令窗口,进入到解压的那个文件夹里:2.3输入redis-serverredis.windows.conf:2.4部署Redis在windows下的......
  • 使用未安装的自定义字体
    默认宋体效果:使用程序目录下未安装的自定义字体“华文琥珀”:PrivateSubButton1_Click(senderAsObject,eAsEventArgs)HandlesButton1.ClickDimPFCAsNewDrawing.Text.PrivateFontCollection()PFC.AddFontFile(AppDomain.CurrentDomain.Base......
  • 【操作系统】CentOS7入门级安装
    下载镜像CentOS镜像下载Download(centos.org)我们选择第一个X86_64CentOSMirrorsList版本描述X86_X64带64位的32位扩展版(一般安装这个)ARM64(aarch64)嵌入式。适用于微端(树莓派、机械臂、机械中控)IBMPower(ppc64le)专用于IBMPOWER服务器选择一个合适的链接......
  • webpack-dev-server安装
    D:\1234\工作交接\web版继电器测试工具>npmrundev>atianapp@1.0.0dev>webpack-dev-server--inline--progress--configbuild/webpack.dev.conf.js'webpack-dev-server'不是内部或外部命令,也不是可运行的程序或批处理文件。D:\1234\工作交接\web版继电器测试工具>npminst......
  • keycloak~网站对接到Keycloak的步骤
    新网站对接到KC的部署kc的环境向kc申请自己的客户端kc的登录接口通过code换token接口刷新token接口kc的用户信息接口kc的jwttoken说明1.kc的环境测试环境:https://test-kc.xxx.com预发布环境:https://pre-kc.xxx.com生产环境:https://kc.xxx.com2.向kc申请自己的客......
  • Python3.8-安装pip-autoremove
    pip-autoremove是一个Python第三方包管理工具扩展,它的作用是在移除指定Python包的同时,自动清理掉因该包而安装但目前已不再被任何其他包依赖的无用依赖项。pipinstallpip-autoremovepip-autoremovepyside2注意:需要将python安装目录的Scripts文件夹中的pip-autor......
  • node.js 安装及配置环境变量只看此文
    转发:https://blog.csdn.net/u014212540/article/details/1302606791.node.js安装2.Node.js环境变量配置3.国内镜像网站配置4.npm、yarn、pnpm、nrm常用命令4.1nrm常用命令:4.2npm常用指令:4.3yarn常用命令:5.常规上传至npm公共注册表方法(npmpublish/yarnpublish)......
  • SharePoint or Office 打补丁或产品安装遇到问题
    一、Anerroroccurredwhilerunningdetection问题,错误信息截图如下。 解决方案:1.执行ROIScan.vbs和OPUtil_DetectOnly.vbs(https://files.cnblogs.com/files/dxmdiy/ROIScan.vbs.zip?t=1712543279&download=true),ROIScan版本是1.9.1不支持扫描Office2019/2021生成一......