首页 > 系统相关 >Linux安装Kafka

Linux安装Kafka

时间:2023-05-17 15:56:20浏览次数:36  
标签:安装 kafka usr Linux 2.1 Kafka local 2.10

1.Kafka简介

Kafka也是开源与Apache开源基金会的项目,由Scala和Java编写。Kafka是一种高吞吐量的分布式发布订阅消息系统。

在百度百科是这样介绍的:

Kafka是由Apache软件基金会开发的一个开源流处理平台,由Scala和Java编写。Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者规模的网站中的所有动作流数据。 这种动作(网页浏览,搜索和其他用户的行动)是在现代网络上的许多社会功能的一个关键因素。 这些数据通常是由于吞吐量的要求而通过处理日志和日志聚合来解决。 对于像Hadoop的一样的日志数据和离线分析系统,但又要求实时处理的限制,这是一个可行的解决方案。Kafka的目的是通过Hadoop的并行加载机制来统一线上和离线的消息处理,也是为了通过集群来提供实时的消息。

Kafka官网地址为:kafka.apache.org/,感兴趣的可以多多查看官网文档。

2.准备工作

2.1 安装环境

本文所安装的Kafka为2.10版本,Linux系统版本为CentOS 7.2,使用Zookeeper是Kafka自带的,安装目录为/usr/local/software/。

2.2 准备工具

1.Java

Kafka是依赖Java环境运行,所以需要在Linux系统内安装Java环境。

2.安装Kafka

步骤大致分为如下几步:

2.1 下载Kafka

wget http://labfile.oss.aliyuncs.com/courses/859/kafka_2.10-0.10.2.1.tgz

2.2 解压Kafka

tar -zxvf kafka_2.10-0.10.2.1.tgz 

2.3 进入配置文件目录

cd /usr/local/software/kafka_2.10-0.10.2.1/config

2.4 修改配置文件server.properties,添加下面内容:

broker.id=0
port=9092 #端口号
host.name=172.30.0.9 #服务器IP地址,修改为自己的服务器IP
log.dirs=/usr/local/logs/kafka #日志存放路径,上面创建的目录
zookeeper.connect=localhost:2181 #zookeeper地址和端口,单机配置部署,localhost:2181

2.5 编写启动脚本

vi kafkastart.sh
 
#启动zookeeper
/usr/local/software/kafka_2.10-0.10.2.1/bin/zookeeper-server-start.sh /usr/local/software/kafka_2.10-0.10.2.1/config/zookeeper.properties &
#等3秒后执行
sleep 3 
#启动kafka
/usr/local/software/kafka_2.10-0.10.2.1/bin/kafka-server-start.sh /usr/local/software/kafka_2.10-0.10.2.1/config/server.properties &

2.6 编写关闭脚本

vi kafkastop.sh
#关闭zookeeper
/usr/local/software/kafka_2.10-0.10.2.1/bin/zookeeper-server-stop.sh /usr/local/software/kafka_2.10-0.10.2.1/config/zookeeper.properties &
#等3秒后执行
sleep 3 
#关闭kafka
/usr/local/software/kafka_2.10-0.10.2.1/bin/kafka-server-stop.sh /usr/local/software/kafka_2.10-0.10.2.1/config/server.properties &

2.7 启动脚本,关闭脚本赋予权限

chmod 777 kafkastart.sh
 
chmod 777 kafkastop.sh

3.安装问题

安装Kafka过程中没有遇到太大的问题,一路输入就通过了。

4.可视化管理页面安装

kafka官网地址:github.com/linkedin/ka…,运行比较简单,只是一个可执行jar(KafkaOffsetMonitor-assembly-0.2.1.jar)。

4.1 编写启动脚本

java -Xms128M -Xmx128M -Xss1024K -XX:PermSize=128m -XX:MaxPermSize=128m -cp KafkaOffsetMonitor-assembly-0.2.1.jar com.quantifind.kafka.offsetapp.OffsetGetterWeb --zk localhost:2181 --port 8787 --refresh 10.seconds --retain 7.days 1>/usr/local/software/kafka-monitor/stdout.log 2>/usr/local/software/kafka-monitor/stderr.log &

5.总结

以上安装都是经过本人亲测可用的,安装过程还是比较简单。

标签:安装,kafka,usr,Linux,2.1,Kafka,local,2.10
From: https://www.cnblogs.com/msjhw/p/17409001.html

相关文章

  • linux-cmd-nc端口测试
    nc命令检测端口监听TCP端口33333nc-l33333检测TCP端口连通性172.20.0.1端口33333nc-vz172.20.0.133333检测UDP端口连通性172.20.0.1端口40001nc-vzu127.0.0.140001......
  • Linux 操作系统安全加固措施
    #Linux操作系统安全加固措施1.定期更新系统和软件包定期更新操作系统和软件包可以保持系统最新,以修复已知的安全漏洞和弱点。您可以使用以下命令在CentOS上更新软件包:sudoyumupdate2.禁用不必要的服务禁用不必要的服务可以减少系统暴露在攻击风险之下的机会。您可以使......
  • linux 替换^M字符的方法
    linux替换^M字符方法在Linux下使用vi来查看一些在Windows下创建的文本文件,有时会发现在行尾有一些“^M”。有几种方法可以处理。1.使用dos2unix命令去掉行尾的^Mdos2unixmyfile.txt2.使用vi的替换功能:%s/^M$//g#去掉行尾的^M。:%s/^M//g#去掉所有的^M。:%s/^M/[ct......
  • linux-cmd-brctl网桥管理
    linux-cmd-brctl网桥管理安装网桥管理工具包:bridge-utileyuminstallbridge-utils-y使用brctl命令创建网桥br1brctladdbrbr1删除网桥br1brctldelbrbr1将eth0端口加入网桥br1brctladdifbr1eth0删除eth0端口加入网桥br1brctldelifbr1eth0查询网桥信息b......
  • linux-cmd-cal万年历
    linux下有查看万年历日历的命令[root@zuiyoujie1~]#cal十月2016日一二三四五六12345678910111213141516171819202122232425262728293031[root@zuiyoujie1~]#cal2016......
  • linux 日志文件
    目录一、日志作用二、日志管理三、日志分类四、日志级别五、日志实验               一、日志作用1.记录系统具体动作2.方便阅读日志,解决故障 二、日志管理管理命令:users、who、w、last、lastb1.users查询最近三次登......
  • linux-cmd-iperf网络压测
    网络压测yuminstalliperf#开启server端10.0.0.1iperf-s-i2#开启client端10.0.0.2iperf-c10.0.0.1-i2实例演示#server[root@zuiyoujie01tools]iperf-s-i2------------------------------------------------------------ServerlisteningonTC......
  • CentOS6 基于 Python 安装 Sentry
    概述Sentry是一款可用于Production环境的错误跟踪工具,可实时通知Production环境中用户由于一些不可预料行为(或者程序写的有问题)导致程序Crash或Exception,Sentry可以通过Integration如HipChat来发送通知,并且可以通过JIRAIntegration来快速创建Issue,然后开发者......
  • ubuntu 18.04 安装搜狗拼音输入法
    一、下载搜狗拼音Linux版本搜狗拼音官网直达:https://shurufa.sogou.com/linux?r=pinyin本次下载最新版本,文件名:sogoupinyin_4.0.1.2800_x86_64.deb二、安装前准备建议更新国内源,推荐阿里云的源;//1、更新源sudoapt-getupdatesudoapt-getupgrade//2.通过命令行安装a......
  • Linux系统Mariadb初始化相关(ubuntu)
    #事先声明,此文是一边写一边操作的,中间可能有不一致的地方,大体思路就是参照windows下的目录规范,将mysql的各目录及文件进行类比放置,然后执行重建数据库命令,也许你只是想修改下data目录,那么下面的指令按需修改即可#数据库重建sudomysql_install_db--defaults-file=/opt/mysql/......