首页 > 其他分享 >Zookeeper

Zookeeper

时间：2023-03-08 22:11:58浏览次数：50  
标签：zookeeper Zookeeper ZooKeeper cluster usr local 节点

1.1 下载安装

1、环境准备

ZooKeeper服务器是用Java创建的，它运行在JVM之上。需要安装JDK 7或更高版本。

2、上传

将下载的ZooKeeper放到/opt/ZooKeeper目录下

#上传zookeeper alt+p
put f:/setup/apache-zookeeper-3.5.6-bin.tar.gz
#打开 opt目录
cd /opt
#创建zooKeeper目录
mkdir  zooKeeper
#将zookeeper安装包移动到 /opt/zooKeeper
mv apache-zookeeper-3.5.6-bin.tar.gz /opt/zookeeper/

3、解压

将tar包解压到/opt/zookeeper目录下

tar -zxvf apache-ZooKeeper-3.5.6-bin.tar.gz

1.2 配置启动

1、配置zoo.cfg

进入到conf目录拷贝一个zoo_sample.cfg并完成配置

#进入到conf目录
cd /opt/zooKeeper/apache-zooKeeper-3.5.6-bin/conf/
#拷贝
cp  zoo_sample.cfg  zoo.cfg

修改zoo.cfg

#打开目录
cd /opt/zooKeeper/
#创建zooKeeper存储目录
mkdir  zkdata
#修改zoo.cfg
vim /opt/zooKeeper/apache-zooKeeper-3.5.6-bin/conf/zoo.cfg

1577548250377

修改存储目录：dataDir=/opt/zookeeper/zkdata

2、启动ZooKeeper

cd /opt/zooKeeper/apache-zooKeeper-3.5.6-bin/bin/
#启动
 ./zkServer.sh  start

1577548052037

看到上图表示ZooKeeper成功启动

3、查看ZooKeeper状态

./zkServer.sh status

zookeeper启动成功。standalone代表zk没有搭建集群，现在是单节点

1577548175232

zookeeper没有启动

1577548112773

搭建Zookeeper集群

1.1 搭建要求

真实的集群是需要部署在不同的服务器上的，但是在我们测试时同时启动很多个虚拟机内存会吃不消，所以我们通常会搭建伪集群，也就是把所有的服务都搭建在一台虚拟机上，用端口进行区分。

我们这里要求搭建一个三个节点的Zookeeper集群（伪集群）。

1.2 准备工作

重新部署一台虚拟机作为我们搭建集群的测试服务器。

（1）安装JDK 【此步骤省略】。

（2）Zookeeper压缩包上传到服务器
（3）将Zookeeper解压 ，建立/usr/local/zookeeper-cluster目录，将解压后的Zookeeper复制到以下三个目录

/usr/local/zookeeper-cluster/zookeeper-1

/usr/local/zookeeper-cluster/zookeeper-2

/usr/local/zookeeper-cluster/zookeeper-3

[root@localhost ~]# mkdir /usr/local/zookeeper-cluster
[root@localhost ~]# cp -r  apache-zookeeper-3.5.6-bin /usr/local/zookeeper-cluster/zookeeper-1
[root@localhost ~]# cp -r  apache-zookeeper-3.5.6-bin /usr/local/zookeeper-cluster/zookeeper-2
[root@localhost ~]# cp -r  apache-zookeeper-3.5.6-bin /usr/local/zookeeper-cluster/zookeeper-3

（4）创建data目录 ，并且将 conf下zoo_sample.cfg 文件改名为 zoo.cfg

mkdir /usr/local/zookeeper-cluster/zookeeper-1/data
mkdir /usr/local/zookeeper-cluster/zookeeper-2/data
mkdir /usr/local/zookeeper-cluster/zookeeper-3/data

mv  /usr/local/zookeeper-cluster/zookeeper-1/conf/zoo_sample.cfg  /usr/local/zookeeper-cluster/zookeeper-1/conf/zoo.cfg
mv  /usr/local/zookeeper-cluster/zookeeper-2/conf/zoo_sample.cfg  /usr/local/zookeeper-cluster/zookeeper-2/conf/zoo.cfg
mv  /usr/local/zookeeper-cluster/zookeeper-3/conf/zoo_sample.cfg  /usr/local/zookeeper-cluster/zookeeper-3/conf/zoo.cfg

（5） 配置每一个Zookeeper 的dataDir 和 clientPort 分别为2181 2182 2183

修改/usr/local/zookeeper-cluster/zookeeper-1/conf/zoo.cfg

vim /usr/local/zookeeper-cluster/zookeeper-1/conf/zoo.cfg

clientPort=2181
dataDir=/usr/local/zookeeper-cluster/zookeeper-1/data

修改/usr/local/zookeeper-cluster/zookeeper-2/conf/zoo.cfg

vim /usr/local/zookeeper-cluster/zookeeper-2/conf/zoo.cfg

clientPort=2182
dataDir=/usr/local/zookeeper-cluster/zookeeper-2/data

修改/usr/local/zookeeper-cluster/zookeeper-3/conf/zoo.cfg

vim /usr/local/zookeeper-cluster/zookeeper-3/conf/zoo.cfg

clientPort=2183
dataDir=/usr/local/zookeeper-cluster/zookeeper-3/data

1.3 配置集群

（1）在每个zookeeper的 data 目录下创建一个 myid 文件，内容分别是1、2、3 。这个文件就是记录每个服务器的ID

echo 1 >/usr/local/zookeeper-cluster/zookeeper-1/data/myid
echo 2 >/usr/local/zookeeper-cluster/zookeeper-2/data/myid
echo 3 >/usr/local/zookeeper-cluster/zookeeper-3/data/myid

（2）在每一个zookeeper 的 zoo.cfg配置客户端访问端口（clientPort）和集群服务器IP列表。

集群服务器IP列表如下

vim /usr/local/zookeeper-cluster/zookeeper-1/conf/zoo.cfg
vim /usr/local/zookeeper-cluster/zookeeper-2/conf/zoo.cfg
vim /usr/local/zookeeper-cluster/zookeeper-3/conf/zoo.cfg

server.1=192.168.149.135:2881:3881
server.2=192.168.149.135:2882:3882
server.3=192.168.149.135:2883:3883

解释：server.服务器ID=服务器IP地址：服务器之间通信端口：服务器之间投票选举端口

1.4 启动集群

启动集群就是分别启动每个实例。

/usr/local/zookeeper-cluster/zookeeper-1/bin/zkServer.sh start
/usr/local/zookeeper-cluster/zookeeper-2/bin/zkServer.sh start
/usr/local/zookeeper-cluster/zookeeper-3/bin/zkServer.sh start

img

启动后我们查询一下每个实例的运行状态

/usr/local/zookeeper-cluster/zookeeper-1/bin/zkServer.sh status
/usr/local/zookeeper-cluster/zookeeper-2/bin/zkServer.sh status
/usr/local/zookeeper-cluster/zookeeper-3/bin/zkServer.sh status

先查询第一个服务

img

Mode为follower表示是跟随者（从）

再查询第二个服务Mod 为leader表示是领导者（主）

img

查询第三个为跟随者（从）

img

1.5 模拟集群异常

（1）首先我们先测试如果是从服务器挂掉，会怎么样

把3号服务器停掉，观察1号和2号，发现状态并没有变化

/usr/local/zookeeper-cluster/zookeeper-3/bin/zkServer.sh stop

/usr/local/zookeeper-cluster/zookeeper-1/bin/zkServer.sh status
/usr/local/zookeeper-cluster/zookeeper-2/bin/zkServer.sh status

img

由此得出结论，3个节点的集群，从服务器挂掉，集群正常

（2）我们再把1号服务器（从服务器）也停掉，查看2号（主服务器）的状态，发现已经停止运行了。

/usr/local/zookeeper-cluster/zookeeper-1/bin/zkServer.sh stop

/usr/local/zookeeper-cluster/zookeeper-2/bin/zkServer.sh status

img

由此得出结论，3个节点的集群，2个从服务器都挂掉，主服务器也无法运行。因为可运行的机器没有超过集群总数量的半数。

（3）我们再次把1号服务器启动起来，发现2号服务器又开始正常工作了。而且依然是领导者。

/usr/local/zookeeper-cluster/zookeeper-1/bin/zkServer.sh start

/usr/local/zookeeper-cluster/zookeeper-2/bin/zkServer.sh status

img

（4）我们把3号服务器也启动起来，把2号服务器停掉,停掉后观察1号和3号的状态。

/usr/local/zookeeper-cluster/zookeeper-3/bin/zkServer.sh start
/usr/local/zookeeper-cluster/zookeeper-2/bin/zkServer.sh stop

/usr/local/zookeeper-cluster/zookeeper-1/bin/zkServer.sh status
/usr/local/zookeeper-cluster/zookeeper-3/bin/zkServer.sh status

img

发现新的leader产生了~

由此我们得出结论，当集群中的主服务器挂了，集群中的其他服务器会自动进行选举状态，然后产生新得leader

（5）我们再次测试，当我们把2号服务器重新启动起来启动后，会发生什么？2号服务器会再次成为新的领导吗？我们看结果

/usr/local/zookeeper-cluster/zookeeper-2/bin/zkServer.sh start

/usr/local/zookeeper-cluster/zookeeper-2/bin/zkServer.sh status
/usr/local/zookeeper-cluster/zookeeper-3/bin/zkServer.sh status

imgimg

我们会发现，2号服务器启动后依然是跟随者（从服务器），3号服务器依然是领导者（主服务器），没有撼动3号服务器的领导地位。

由此我们得出结论，当领导者产生后，再次有新服务器加入集群，不会影响到现任领导者。

Zookeeper

初识 Zookeeper

Zookeeper 概念
  • Zookeeper 是 Apache Hadoop 项目下的一个子项目，是一个树形目录服务。
  • Zookeeper 翻译过来就是 动物园管理员，他是用来管 Hadoop（大象）、Hive(蜜蜂)、Pig(小 猪)的管理员。简称zk
  • Zookeeper 是一个分布式的、开源的分布式应用程序的协调服务。
  • Zookeeper 提供的主要功能包括：
    • 配置管理
    • 分布式锁
    • 集群管理
      image-20230308214957677

image-20230308215012389

Zookeeper 数据模型
  • ZooKeeper 是一个树形目录服务,其数据模型和Unix的文件系统目录树很类似，拥有一个层次化结构。
  • 这里面的每一个节点都被称为： ZNode，每个节点上都会保存自己的数据和节点信息。
  • 节点可以拥有子节点，同时也允许少量（ 1 MB）数据存储在该节点之下。
  • 节点可以分为四大类：
    • PERSISTENT 持久化节点
    • EPHEMERAL 临时节点 ：-e
    • PERSISTENT_SEQUENTIAL 持久化顺序节点 ：-s
    • EPHEMERAL_SEQUENTIAL 临时顺序节点 ：-es

image-20230308215104122

image-20230308215112972

ZooKeeper 命令操作

Zookeeper 服务端常用命令

  • 启动 ZooKeeper 服务: ./zkServer.sh start

  • 查看 ZooKeeper 服务状态: ./zkServer.sh status

  • 停止 ZooKeeper 服务: ./zkServer.sh stop

  • 重启 ZooKeeper 服务: ./zkServer.sh restart

  • 连接ZooKeeper服务端：./zkCli.sh –server ip:port

  • 断开连接
    quit

  • 查看命令帮助
    help

  • 显示指定目录下节点
    ls 目录

  • 创建节点
    create / 节点 path value

  • 获取节点值
    get / 节点 path
    - 设置节点值
    set / 节点 path value
    - 删除单个节点
    delete / 节点 path
    - 删除带有子节点的节点
    deleteall / 节点 path

Zookeeper 客户端常用命令
  • 创建临时节点
    create - e / 节点 path value
  • 创建顺序节点
    create - s / 节点 path value
  • 查询节点详细信息
    ls – s / 节点 path
    • czxid：节点被创建的事务ID
    • ctime: 创建时间
    • mzxid: 最后一次被更新的事务ID
    • mtime: 修改时间
    • pzxid：子节点列表最后一次被更新的事务ID
    • cversion：子节点的版本号
      • dataversion：数据版本号
      • aclversion：权限版本号
      • ephemeralOwner：用于临时节点，代表临时节点的事务ID，如果为持
        久节点则为 0
      • dataLength：节点存储的数据的长度
      • numChildren：当前节点的子节点个数

ZooKeeper JavaAPI 操作

Curator 介绍
  • Curator 是 Apache ZooKeeper 的Java客户端库。
  • 常见的ZooKeeper Java API ：
    • 原生Java API
    • ZkClient
    • Curator
  • Curator 项目的目标是简化 ZooKeeper 客户端的使用。
  • Curator 最初是 Netfix 研发的,后来捐献了 Apache 基金会,目前是 Apache 的顶级项目。
  • 官网：http://curator.apache.org/
Curator API 常用操作 - Watch事件监听
  • ZooKeeper 允许用户在指定节点上注册一些Watcher，并且在一些特定事件触发的时候，ZooKeeper 服务端会将事件通
    知到感兴趣的客户端上去，该机制是 ZooKeeper 实现分布式协调服务的重要特性。
  • ZooKeeper 中引入了Watcher机制来实现了发布/订阅功能能，能够让多个订阅者同时监听某一个对象，当一个对象自身
    状态变化时，会通知所有订阅者。
  • ZooKeeper 原生支持通过注册Watcher来进行事件监听，但是其使用并不是特别方便
    需要开发人员自己反复注册Watcher，比较繁琐。
  • Curator引入了 Cache 来实现对 ZooKeeper 服务端事件的监听。
  • ZooKeeper提供了三种Watcher：
    • NodeCache : 只是监听某一个特定的节点
    • PathChildrenCache : 监控一个ZNode的子节点.
    • TreeCache : 可以监控整个树上的所有节点，类似于PathChildrenCache和NodeCache的组合
分布式锁
  • 在我们进行单机应用开发，涉及并发同步的时候，我们往往采用synchronized或者Lock的方式来解决多线程间的代码同步问题，
    这时多线程的运行都是在同一个JVM之下，没有任何问题。
  • 但当我们的应用是分布式集群工作的情况下，属于多JVM下的工作环境，跨JVM之间已经无法通过多线程的锁解决同步问题。
  • 那么就需要一种更加高级的锁机制，来处理种跨机器的进程之间的数据同步问题——这就是分布式锁。

image-20230308215434879

ZooKeeper分布式锁原理
  • 核心思想：当客户端要获取锁，则创建节点，使用完锁，则删除该节点。
  1. 客户端获取锁时，在lock节点下创建临时顺序节点。
  2. 然后获取lock下面的所有子节点，客户端获取到所有的子节点之后，如果发现自己创建的子节点序号最小，那么就认为该
    客户端获取到了锁。使用完锁后，将该节点删除。
  3. 如果发现自己创建的节点并非lock所有子节点中最小的，说明自己还没有获取到锁，此时客户端需要找到比自己小的那个
    节点，同时对其注册事件监听器，监听删除事件。
  4. 如果发现比自己小的那个节点被删除，则客户端的
    Watcher会收到相应通知，此时再次判断自己创建的节点
    是否是lock子节点中序号最小的，如果是则获取到了锁，
    如果不是则重复以上步骤继续获取到比自己小的一个节点
    并注册监听。

image-20230308215458283

Curator实现分布式锁API
  • 在Curator中有五种锁方案：
    • InterProcessSemaphoreMutex：分布式排它锁（非可重入锁）
    • InterProcessMutex：分布式可重入排它锁
    • InterProcessReadWriteLock：分布式读写锁
    • InterProcessMultiLock：将多个锁作为单个实体管理的容器
    • InterProcessSemaphoreV 2 ：共享信号量

ZooKeeper 集群搭建

Zookeeper 集群介绍

image-20230308215536773

  • Serverid：服务器ID
    比如有三台服务器，编号分别是 1 , 2 , 3 。
    编号越大在选择算法中的权重越大。
  • Zxid：数据ID
    服务器中存放的最大数据ID.值越大说明数据 越新
    ，在选举算法中数据越新权重越大。
  • 在Leader选举的过程中，如果某台ZooKeeper
    获得了超过半数的选票，
    则此ZooKeeper就可以成为Leader了。
Zookeeper 集群角色
在ZooKeeper集群服中务中有三个角色：
  • Leader 领导者 ：
    1. 处理事务请求
    2. 集群内部各服务器的调度者
  • Follower 跟随者 ：
    1. 处理客户端非事务请求，转发事务请求给Leader服务器
    2. 参与Leader选举投票
  • Observer 观察者：
    1. 处理客户端非事务请求，转发事务请求给Leader服务器

image-20230308215604606

标签：zookeeper,Zookeeper,ZooKeeper,cluster,usr,local,节点
From： https://www.cnblogs.com/liurui12138/p/17196457.html

相关文章

  • kafka 可以脱离 zookeeper 单独使用吗
    1kafka可以脱离zookeeper单独使用吗？为什么？kafka不能脱离zookeeper单独使用，因为kafka使用zookeeper管理和协调kafka的节点服务器。不可能越过Zookeeper直接......
  • zookeeper简单搭建（及代码）
    1、安装zookeeperzookeeper安装环境为linux，下载的版本为：​​​http://www.apache.org/dist/zookeeper/zookeeper-3.3.6/zookeeper-3.3.6.tar.gz​​​zookeeper的安装基......
  • vm-zookeeper安装
    集群搭建规划服务器IP主机名myid的值192.168.200.100node011192.168.200.110node022192.168.200.120node033下载zookeeper的压缩包，下载网址ht......
  • zookeeper 常用命令
    ###Zookeeper服务常用命令```shell启动ZooKeeper服务：./zkServer.shstart查看ZooKeeper服务状态：./zkServer.shstatus停止ZooKeeper服务：./zkServer.shstop重启Z......
  • 【ZooKeeper基础-数据结构、服务端/客户端常用命令】
    一、ZooKeeper简介二、ZooKeeper数据结构&命令**1、数据结构**2、服务端常用命令①单机启动命令：./zkServer.shstart②状态查询命令：./zkServer.shstatus③停止服务......
  • 使用Zookeeper实现分布式锁
    在单体项目中JVM中的锁就可以完成大部分需求，但是在分布式项目中，项目被拆分成各个模块，分别部署在不同的服务器中，比如一个完成一个订单可以需要多个操作，订单模块生成订单信息......
  • Centos7 Kafka+zookeeper SASL认证实践
    一、概述上回已经完成kafka+zookeeper的基础功能的实现，但是因为默认不认证存在很大的安全风险，这次完成SASL_PLAINTEXT的认证类型实践。二、安全配置2.1zookeeperSASL配......
  • system管理zookeeper
    [root@ajsh-dev006systemd]#cat/usr/lib/systemd/system/zk.service[Unit]Description=zookeeper.serviceAfter=network.target[Service]User=rootGroup=root......
  • Zookeeper原生客户端操作
    在Linux系统中安装了Zookeeper服务器，对Zookeeper命令有一些了解的情况下，学习如何在客户端操作Zookeeper。目前，Zookeeper服务器有三种Java客户端：Zookeeper、Zkclient和Cura......
  • 理论：第十二章：Dubbo的运行原理，支持什么协议，与SpringCould相比它为什么效率要高一些，Zook
    Dubbo简单的介绍一下Dubbo？(Dubbo是什么)dubbo就是个服务调用的东东。为什么怎么说呢？因为Dubbo是由阿里开源的一个RPC分布式框架那么RPC是什么呢？就是不同的应用部署到......

赞助商

阅读排行

网站主页关于我们联系我们网站地图

本网站内容转载自其他媒体，侵权联系[admin##ips99.com]。

Copyright © 2020-2023 IPS99 版权所有 IPS99