首页 > 其他分享 >5.分布式集群

5.分布式集群

时间:2022-11-07 22:25:17浏览次数:28  
标签:插件 副本 集群 分片 elasticsearch 节点 分布式

6.3.1 单节点集群

我们在包含一个空节点的集群内创建名为 users 的索引,为了演示目的,我们将分配 3个主分片和一份副本(索引分为三个主分片,每个主分片拥有一个副本分片),整个集群中只有一个节点称为单节点集群

默认情况下,主分片是1,副本是1

此处将es的9200端口改为1001启动,模仿单机节点
#PUT http://127.0.0.1:1001/users
{
    "settings" : {
        "number_of_shards" : 3,
        "number_of_replicas" : 1
    }
}
 

集群现在是拥有一个索引的单节点集群。所有 3 个主分片都被分配在 node-1 

通过 elasticsearch-head 插件(一个Chrome插件)查看集群情况 

上面这个图片副本标灰,未分配,目前是单节点的,如果你分片数据和副本数据在一起,挂掉数据就全部丢失了,所以是黄色状态,黄色状态容易丢失数据

  • 集群健康值:yellow( 3 of 6 ):表示当前集群的全部主分片都正常运行,但是副本分片没有全部处在正常状态。

  :3 个主分片正常

  :3 个副本分片都是 Unassigned,它们都没有被分配到任何节点。 在同 一个节点上既保存原始数据又保存副本是没有意义的,因为一旦失去了那个节点,我们也将丢失该节点 上的所有副本数据

 当前集群是正常运行的,但存在丢失数据的风险

elasticsearch-head chrome插件安装

插件获取网址:GitHub - mobz/elasticsearch-head: A web front end for an elastic search cluster,下载压缩包,解压后将内容放入自定义命名为elasticsearch-head文件夹。

接着点击Chrome右上角选项->工具->管理扩展(或则地址栏输入chrome://extensions/),选择打开“开发者模式”,让后点击“加载已解压得扩展程序”,选择elasticsearch-head/_site,即可完成chrome插件安装

 

6.3.2 故障转移

当集群中只有一个节点在运行时,意味着会有一个单点故障问题——没有冗余。 幸运的是,我们只需再启动一个节点即可防止数据丢失。当你在同一台机器上启动了第二个节点时,只要它和第一个节点有同样的 cluster.name 配置,它就会自动发现集群并加入到其中。但是在不同机器上启动节点的时候,为了加入到同一集群,你需要配置一个可连接到的单播主机列表。之所以配置为使用单播发现,以防止节点无意中加入集群。只有在同一台机器上运行的节点才会自动组成集群

如果启动了第二个节点,集群将会拥有两个节点 : 所有主分片和副本分片都已被分配

通过 elasticsearch-head 插件查看集群情况

上图边框加粗的为主分片,下面细的边框是备份,加星号的标识master主节点

集群的健康值为green,表示每个分片都能起作用

第二个节点加入到集群后, 3 个副本分片将会分配到这个节点上——每 个主分片对应一个副本分片。这意味着当集群内任何一个节点出现问题时,我们的数据都完好无损。所 有新近被索引的文档都将会保存在主分片上,然后被并行的复制到对应的副本分片上。这就保证了我们 既可以从主分片又可以从副本分片上获得文档

6.3.3 水平扩容

怎样为我们的正在增长中的应用程序按需扩容呢?当启动了第三个节点,我们的集群将会拥有三个节点的集群 : 为了分散负载而对分片进行重新分配

当增加一个集群节点,我们的分片会转移到不同的节点上面去,增强吞吐量

通过 elasticsearch-head 插件查看集群情况。

 1.Node 1 和 Node 2 上各有一个分片被迁移到了新的 Node 3 节点,现在每个节点上都拥有 2 个分片, 而不是之前的 3 个。 这表示每个节点的硬件资源(CPU, RAM, I/O)将被更少的分片所共享,每个分片的性能将会得到提升


2.分片是一个功能完整的搜索引擎,它拥有使用一个节点上的所有资源的能力。 我们这个拥有 6 个分 片(3 个主分片和 3 个副本分片)的索引可以最大扩容到 6 个节点,每个节点上存在一个分片,并且每个 分片拥有所在节点的全部资源

但是如果我们想要扩容超过 6 个节点怎么办呢?

1.主分片的数目在索引创建时就已经确定了下来。实际上,这个数目定义了这个索引能够存储的最大数据量。(实际大小取决于你的数据、硬件和使用场景。) 但是,读操作——搜索和返回数据——可以同时被主分片 或 副本分片所处理,所以当你拥有越多的副本分片时,也将拥有越高的吞吐量。因为你创建索引之后,主分片数量就不好改了,只能改副本数量

2.在运行中的集群上是可以动态调整副本分片数目的,我们可以按需伸缩集群。让我们把副本数从默认的 1 增加到 2

将es的9200端口改为1001后启动
#PUT http://127.0.0.1:1001/users/_settings
 
{
    "number_of_replicas" : 2
}

通过 elasticsearch-head 插件查看集群情况:

  • 当然,如果只是在相同节点数目的集群上增加更多的副本分片并不能提高性能,因为每个分片从节点上获得的资源会变少。 你需要增加更多的硬件资源来提升吞吐量。
  • 但是更多的副本分片数提高了数据冗余量:按照上面的节点配置,我们可以在失去 2 个节点的情况下不丢失任何数据。

6.3.4 应对故障

我们关闭第一个节点,这时集群的状态为:关闭了一个节点后的集群

  •   我们关闭的节点是一个主节点。而集群必须拥有一个主节点来保证正常工作,所以发生的第一件事情就是选举一个新的主节点: Node 2 。在我们关闭 Node 1 的同时也失去了主分片 1 和 2 ,并且在缺失主分片的时候索引也不能正常工作。 如果此时来检查集群的状况,我们看到的状态将会为red :不是所有主分片都在正常工作。

  • 幸运的是,在其它节点上存在着这两个主分片的完整副本, 所以新的主节点立即将这些分片在Node 2 和 Node 3 上对应的副本分片提升为主分片, 此时集群的状态将会为yellow。这个提升主分片的过程是瞬间发生的,如同按下一个开关一般

  

 1001挂掉,副本用不了,集群健康值变为黄色,因为原来9个,你变为6个,少了3个分片,提供正常服务没问题,因为主分片依然存在

如果重启第一个服务器,首先要配置一下信息,能够找到其他两个服务器,加入集群

唯一的变化就是master变更,主分片变了没有事,重要的是哪个来管理

 

标签:插件,副本,集群,分片,elasticsearch,节点,分布式
From: https://www.cnblogs.com/wmd-l/p/16867687.html

相关文章

  • Minio分布式文件存储
    packagewangbiao.config.minio;importcom.fasterxml.jackson.core.JsonProcessingException;importio.minio.*;importio.minio.errors.*;importio.minio.messag......
  • 分布式系统中的 CAP
    本文转自:纯洁的微笑公众号在计算机领域,如果是初入行就算了,如果是多年的老码农还不懂CAP定理,那就真的说不过去了。CAP可是每一名技术架构师都必须掌握的基础原则啊。现......
  • <4> 分布式实现
    1"""2配置redis3安装pip3installscrapy-redis4修改scrapy项目(先正常实现scrapy爬虫):5"""67#----1导入分布式爬虫类8fromsc......
  • docker-compose部署elasticsearch集群
    一、准备基础镜像dockerpullelasticsearch:7.3.2二、dockerfile(Dockerfile-elasticsearch),为了保护原生的镜像FROMelasticsearch:7.3.2MAINTAINERlili......
  • 【分布式技术专题】「架构实践于案例分析」盘点分布式服务的(无状态\有状态)认证实现方
    ⽆状态vs有状态有状态、⽆状态是什么有状态:服务器端需要保存请求的相关信息,每个请求可以默认地使⽤以前的请求信息⽆状态:服务器端不记录请求的相关信息,服务器处理的内容完......
  • 初识微服务(技术栈、单体、分布式架构)、SpringCloud
    (目录)微服务技术栈从单体架构过度到微服务架构,需要一系列中间技术支撑,其中重要的部分包括:注册中心:Eureka、Zookeeper、Nacos服务网关:Zuul、Gateway微服务远程调......
  • 我把分布式音乐播放器适配了Stage模型
     OpenAtomOpenHarmony(以下简称“OpenHarmony”)应用开发自API8及其更早版本一直使用的是FA模型进行开发。FA模型是FeatureAbility的缩写,它和PA(ParticleAbility)两种类型......
  • Databend 集群部署 | 新手篇(2)
    在单机模式下我们部署了databend-meta和databend-query两种角色(参考:基于MinIO部署单实例Databend|新手篇(1)),其中databend-query是计算节点,无状态模式,这种架构也有......
  • Jmeter分布式压测
     一、原因1、当你想并发很大的时候(比如3000)那么一台jmeter可能就不能胜任了,这时候就需要多台jmeter同时加压2、当jmeter压力机安装在没有gui的linux上,又不想通过非......
  • Jmeter 分布式 运行时异常linux 命令统计
    1,强行结束程序ps-ef|grepjava|awk'{print$2}'|xargskill-9;ps-ef|grepthirdparty|awk'{print$2}'|xargskill-9;2,清除缓存echo3>/proc/sys/vm/d......