首页 > 其他分享 >pulsar集群搭建——生产环境

pulsar集群搭建——生产环境

时间:2023-01-03 14:58:06浏览次数:62  
标签:opt bin zookeeper module 集群 pulsar 搭建 2.10

pulsar集群搭建

前置条件,需要JDK环境

192.168.1.1
192.168.1.2
192.168.1.3

写入hosts 所有机器都需要执行

$ cat >>/etc/hosts<<EOF
192.168.1.1 pulsar01 zk01
192.168.1.2 pulsar02 zk02
192.168.1.3 pulsar03 zk03

JDK 所有机器都需要执行

下载地址 https://www.oracle.com/java/technologies/downloads/
版本:jdk-8u351-linux-x64.tar.gz

$ tar xvfz jdk-8u351-linux-x64.tar.gz 
$ mv jdk1.8.0_351 /opt/module/jdk1.8.0_351

编辑 ~/.bash_profile 加入环境配置

JAVA_HOME=/opt/module/jdk1.8.0_351
CLASSPATH=%JAVA_HOME%/lib:%JAVA_HOME%/jre/lib
PATH=$PATH:$JAVA_HOME/bin:$JAVA_HOME/jre/bin
export PATH CLASSPATH JAVA_HOME 

$ source ~/.bash_profile 生效命令

下载pulsar 所有机器都需要执行

$ wget 'https://www.apache.org/dyn/mirrors/mirrors.cgi?action=download&filename=pulsar/pulsar-2.10.2/apache-pulsar-2.10.2-bin.tar.gz' -O apache-pulsar-2.10.2-bin.tar.gz

$ tar xvfz apache-pulsar-2.10.2-bin.tar.gz

$ mv apache-pulsar-2.10.2-bin /opt/module/pulsar-2.10.2

如果上方地址下载不成功,需要手动下载后导入
https://pulsar.apache.org/download/

部署Zookeeper 所有机器都需要执行

zookeeper为pulsar管理各种与协调相关和配置相关的基本任务,而且pulsar安装包里已经集成了zookeeper组件
加入配置到zookeeper配置文件
官方文档里面支持 etcd还有别的组件来替代zookeeper,此文档先用zookeeper配置

cat >>/opt/module/pulsar-2.10.2/conf/zookeeper.conf<<EOF
server.1=zk01:2185:2186
server.2=zk02:2185:2186
server.3=zk03:2185:2186
EOF

在每个主机上指定节点ID
zk01

mkdir -p /opt/module/pulsar-2.10.2/data/zookeeper
echo "1" > /opt/module/pulsar-2.10.2/data/zookeeper/myid

zk02

mkdir -p /opt/module/pulsar-2.10.2/data/zookeeper
echo "2" > /opt/module/pulsar-2.10.2/data/zookeeper/myid

zk03

mkdir -p /opt/module/pulsar-2.10.2/data/zookeeper
echo "3" > /opt/module/pulsar-2.10.2/data/zookeeper/myid

启动zookeeper
/opt/module/pulsar-2.10.2/bin/pulsar-daemon start zookeeper
使用命令查看端口是否正常
net -anp|grep 2181

部署Bookkeeper 所有机器都需要执行

编辑配置文件,找到以下配置项

# Default port for Prometheus metrics exporter
advertisedAddress=pulsar01 #56行 这里需要填入本地ip,每台机器都不一样,另外两台机器按实际填入
prometheusStatsHttpPort=8100  #575行 修改成8100,因为8000已经被zookeeper占用
metadataServiceUri=metadata-store:zk:zk01:2181,zk02:2181,zk03:2181 #638行 加入zk地址

初始化元数据
/opt/module/pulsar-2.10.2/bin/bookkeeper shell metaformat
启动 bookkeeper
/opt/module/pulsar-2.10.2/bin/pulsar-daemon start bookie #出现Y/N: 输入Y即可
测试 bookkeeper
/opt/module/pulsar-2.10.2/bin/bookkeeper shell bookiesanity 出现末尾出现 Bookie sanity test succeeded 算成功

初始化集群数据,在其中一台执行就行

$ bin/pulsar initialize-cluster-metadata \
 --cluster pulsar-cluster-qj \
 --metadata-store zk:zk01:2181,zk02:2181,zk03:2181 \
 --configuration-metadata-store zk:zk01:2181,zk02:2181,zk03:2181 \
 --web-service-url http://pulsar01:8080,pulsar02:8080,pulsar03:8080 \
 --web-service-url-tls https://pulsar01:8443,pulsar02:8443,pulsar03:8443 \
 --broker-service-url pulsar://pulsar01:6650,pulsar02:6650,pulsar03:6650 \
 --broker-service-url-tls pulsar+ssl://pulsar01:6651,pulsar02:6651,pulsar03:6651

--cluster集群名字
--metadata-store 元数据存储连接字符串
--configuration-metadata-store 整个实例的配置存储连接字符串
--web* 集群的web服务url
--broker* 集群 允许与集群中的代理进行交互的代理服务URL

出现下面这个算成功

配置broker 所有机器都需要执行

clusterName=pulsar-cluster-qj #115行,和初始化的时候填写的一样
metadataStoreUrl=zk:zk01:2181,zk02:2181,zk03:2181 #27行填写zk集群url

启动broker
/opt/module/pulsar-2.10.2/bin/pulsar-daemon start broker
查看状态
/opt/module/pulsar-2.10.2/bin/pulsar-admin brokers list pulsar-cluster-qj
出现集群机器信息表示成功

收尾

配置pulsar的环境变量,命令操作就方便许多
编辑环境变量文件 vim ~/.bash_profile
添加 PULSAR_HOME=/opt/module/pulsar-2.10.2/bin
修改PATH,在末尾加入 :$PULSAR_HOME
生效配置文件 source ~/.bash_profile

官方使用etcd或者RocksDB替换Zookeeper做为pulsar metadata stroe 文档
https://pulsar.apache.org/docs/next/administration-metadata-store/

标签:opt,bin,zookeeper,module,集群,pulsar,搭建,2.10
From: https://www.cnblogs.com/oncream/p/17022195.html

相关文章

  • 简单记一下Java环境搭建(jdk安装和环境搭建、jre安装和环境搭建,IDEA的安装)
      今天是我来单位学习的第一天,基本啥也不知道,这里给我分配的电脑刚重装完系统,本来也是啥也不会,所以就先在这台电脑上搭建一下Java环境,方便以后要是有人用这台电脑可以直......
  • redis集群配置
    redis集群配置1、三主三从redis集群配置1、新建6个docker容器实例##--cluster-enabledyes 开启redis集群##--nethost 使用宿主机的ip和端口默认##--appendonlyyes ......
  • Haproxy+PaceMaker实现高可用负载均衡集群
    Haproxy+PaceMaker实验配置:server1,server2:集群节点server3,server4:后端服务器在server1配置haproxy:[root@server1~]#lsasciidoc-8.4.5-4.1.el6.noarch.rpmlibnfnet......
  • 基于Linux下的yum源的搭建与共享
    yum命令:###yum命令仅仅是对软件进行管理,rpm命令才是真正安装软件的,yum的好处是可以解决软件依赖性。yum源的搭建:mkdir/iso    建立个目录mv/home/kiosk/Desktop/*.is......
  • MongoDB的学习&复制集搭建
    一、MongoDB介绍1.1简介    MongoDB是由C++语言编写的,是一个基于分布式文件存储的开源数据库系统,旨在为WEB应用提供可扩展的高性能数据存储解决方案。MongoDB是一......
  • Windows Server 2012 R2上PHP、MySQL环境搭建
    一、准备工具服务器操作系统:WindowsServer2012PHP版本:5.6.9(根据自己需要)MySQL版本:MySQL8.0.17二、相关软件下载1、PHP下载​​​https://windows.php.net/downloads/relea......
  • sqli-laba靶场搭建
    windows下安装sqli-laba环境:windows10安装phpstudy1.下载并安装小皮面板phpstudy(傻瓜式安装)https://www.xp.cn/windows-panel.html开启图中服务下载sql......
  • Appium环境搭建及元素定位
     每天进步一点点,关注我们哦,每天分享测试技术文章本文章出自【码同学软件测试】码同学公众号:自动化软件测试,领取资料可加:magetest码同学抖音号:小码哥聊软件测试01App......
  • MongoDB从入门到实战之.NET Core使用MongoDB开发ToDoList系统(1)-后端项目框架搭建
    前言:前面的四个章节我们主要讲解了MongoDB的相关基础知识,接下来我们就开始进入使用.NET7操作MongoDB开发一个ToDoList系统实战教程。MongoDB从入门到实战的相关教程......
  • github pages + Hexo + 域名绑定搭建个人博客增强版
    概述前面我们用githubpages+Hexo搭建了一个简单版的个人博客系统,但是里面的内容单调,很多功能不够完善,所以我们需要对yelle的主题进行优化和完善。基本搭建请访问主题配......