首页 > 其他分享 >Elasticsearch索引优化指南:分片、副本、mapping和analyzer

Elasticsearch索引优化指南:分片、副本、mapping和analyzer

时间:2023-02-18 21:32:41浏览次数:41  
标签:副本 mapping analyzer Mapping 索引 Elasticsearch 分片 词项

Elasticsearch是一个开源的分布式搜索引擎,它的数据存储和查询速度非常快。然而,在面对大规模的数据集和高并发访问时,Elasticsearch的性能也可能受到一些影响。为了最大程度地提高Elasticsearch的性能,我们需要对索引进行优化。本篇博客将介绍Elasticsearch索引优化的几个关键方面,包括调整分片和副本、使用mapping和analyzer等。

1. 分片和副本

Elasticsearch使用分片(shard)和副本(replica)来实现分布式存储和高可用性。分片是将索引划分成多个部分,每个部分都是一个独立的Lucene索引。而副本则是分片的备份,每个分片可以有多个副本。

默认情况下,Elasticsearch会为每个索引创建5个主分片和1个副本,总共会有10个分片(5个主分片+5个副本分片)。这意味着,每个索引的数据会被划分成10个部分,并且每个部分都会有一个主分片和一个副本分片。这种设置对于小规模索引来说已经足够,但是在面对大规模的数据集时,我们可能需要进行调整。

1.1 调整主分片数量

主分片数量的设置会直接影响到索引的分布式性能和可扩展性。如果主分片数量太少,会导致每个分片中的数据量过大,而且无法利用集群中所有节点的计算资源。如果主分片数量太多,会导致索引过度分散,造成数据迁移和调整的负担。

一般来说,我们可以通过以下两种方式来调整主分片数量:

  • 创建新索引时指定主分片数量;
  • 对已有索引进行重新索引(reindex)操作,指定新的主分片数量。

在实际操作中,我们需要根据数据量、查询频率、集群规模等因素来调整主分片数量。例如,对于每个节点拥有8个CPU核心的集群来说,通常推荐将主分片数量设置为2的幂次方(2、4、8、16等)。

1.2 调整副本数量

副本数量的设置会影响索引的可用性和读写性能。如果副本数量太少,当某个节点故障时,将无法保证数据的可用性。如果副本数量太多,会占用过多的磁盘空间和网络带宽,降低写入性能。

一般来说,我们可以通过以下两种方式来调整副本数量:

  • 在创建索引时指定副本数量;
  • 在已有索引上执行API操作来更改副本数量。

与主分片数量不同,副本数量可以根据实际需要进行动态调整。例如,对于写入频率较高的索引,我们可以降低副本数量来提高写入性能。而对于查询频率较高的索引,我们可以增加副本数量来提高查询性能。

2. Mapping

在Elasticsearch中,Mapping是将文档字段映射到索引中的数据结构的过程。Mapping定义了索引中每个字段的类型、分词器、存储方式等信息,这些信息对于搜索和聚合操作来说非常重要。通过对Mapping进行优化,我们可以提高查询和聚合的性能,并减少索引的存储空间。

2.1 明确字段类型

在定义Mapping时,我们需要尽可能明确每个字段的类型。Elasticsearch支持的字段类型包括:

  • 字符串(text、keyword);
  • 数值(long、integer、short、byte、double、float、half_float、scaled_float);
  • 日期(date);
  • 布尔值(boolean);
  • 二进制(binary);
  • 地理位置(geo_point、geo_shape)。

在选择字段类型时,我们需要根据字段的实际含义和使用场景进行选择。例如,对于需要进行全文检索的文本字段,通常使用text类型。而对于需要进行精确匹配的文本字段,通常使用keyword类型。另外,对于数值类型的字段,我们还需要注意字段是否需要进行聚合操作,因为不同的字段类型在聚合时的性能表现也不同。

2.2 避免使用默认Mapping

Elasticsearch提供了一个默认Mapping,它会自动将文档中所有未定义的字段映射成text类型。然而,使用默认Mapping会导致索引的存储空间浪费和查询性能下降。因此,在定义Mapping时,我们应该尽可能明确每个字段的类型,避免使用默认Mapping。

2.3 使用Field Data

Field Data是Elasticsearch中一种用于聚合操作的数据结构,它可以将文档字段的值加载到内存中,从而提高聚合操作的性能。在使用Field Data时,我们需要注意以下几点:

  • Field Data只适用于不可变的字段;
  • Field Data占用内存,因此在选择使用Field Data时需要注意内存使用情况;
  • Field Data对于高基数(cardinality)字段的性能表现较差。

2.4 使用嵌套字段

Elasticsearch支持嵌套字段,即在一个文档中嵌套另一个文档。使用嵌套字段可以简化查询和聚合操作,并提高查询性能。在使用嵌套字段时,我们需要注意以下几点:

  • 嵌套字段的定义必须在Mapping中进行;
  • 嵌套字段不能直接进行全文检索;
  • 在使用嵌套字段进行聚合操作时,需要使用嵌套聚合(nested aggregation)。

3. Analyzer

Analyzer是Elasticsearch中用于处理文本的组件,它可以将文本分割成一系列的词项(term),并将这些词项存储在索引中。Analyzer包括三个组件:字符过滤器(character filter)、分词器(tokenizer)和词项过滤器(token filter)。

3.1 字符过滤器

字符过滤器用于对文本进行预处理,例如删除HTML标签、转换特殊字符等。Elasticsearch提供了一些内置的字符过滤器,例如HTML Strip Character Filter、Mapping Character Filter等。

3.2 分词器

分词器用于将文本分割成一系列的词项。Elasticsearch提供了多种内置的分词器,例如Standard Tokenizer、Whitespace Tokenizer、Keyword Tokenizer等。另外,我们也可以通过自定义插件来实现自定义的分词器。

3.3 词项过滤器

词项过滤器用于对分词后的词项进行过滤、修改或替换。Elasticsearch提供了多种内置的词项过滤器,例如Lowercase Token Filter、Stop Token Filter、Synonym Token Filter等。另外,我们也可以通过自定义插件来实现自定义的词项过滤器。

3.4 Analyzer的优化

在使用Analyzer时,我们需要注意以下几点:

  • 尽可能减少字符过滤器和词项过滤器的数量,因为它们会增加处理时间;
  • 根据实际需求选择合适的分词器和词项过滤器;
  • 在进行全文检索时,应该使用与索引时相同的Analyzer。

结语

通过对Elasticsearch索引进行优化,我们可以提高搜索和聚合的性能,并减少存储空间的占用。虽然优化索引需要一定的技术和经验,但只要掌握了相关知识,就可以为业务提供更高效的搜索和分析服务。

标签:副本,mapping,analyzer,Mapping,索引,Elasticsearch,分片,词项
From: https://blog.51cto.com/jiangdy/6065531

相关文章

  • 从入门到进阶:Elasticsearch高级查询技巧详解
    Elasticsearch是一款功能强大的全文搜索引擎,它使用Lucene搜索库进行底层索引和搜索。Elasticsearch提供了许多高级查询技巧,可以帮助用户更准确、更高效地查询数据。本教程将......
  • minio+elasticsearch docker-compose
    version:'3.1'services:elasticsearch:image:elasticsearch:7.17.4#volumes:#-/etc/localtime:/etc/localtime#-./es/plugins:/us......
  • ElasticSearch系列01
    系列内容elasticsearch概述elasticsearch安装elasticsearch查询客户端api使用1.elasticsearch概述1.1简介官网:https://www.elastic.co/Elasticsearch(......
  • ES的mapping
    转https://blog.csdn.net/ZYC88888/article/details/830274581简介ES的mapping非常类似于静态语言中的数据类型:声明一个变量为int类型的变量,以后这个变量都只......
  • elasticsearch安装后无法打开127.0.0.1:9200的解决办法
    解决办法注意elasticsearch.yml配置,至少需要配置这三个:cluster.initial_master_nodes:["node-1"]network.host:127.0.0.1http.port:9200其他不变运行elasticsear......
  • 狂神--ElasticSearch
    一、ElasticSearch概述官网:https://www.elastic.co/cn/downloads/elasticsearchElaticsearch,简称为es,es是一个开源的高扩展的分布式全文检索引擎,它可以近乎实时的存储......
  • 01-Elasticsearch的安装与启动
    1.验证jdk首先需要验证系统是否已经安装jdk,要求使用jdk1.8以上版本[root@app110~]#java-versionjavaversion"1.8.0_201"Java(TM)SERuntimeEnvironment(......
  • 04-Elasticsearch的 JestClient
    04-Elasticsearch的JestClient1.介绍任何使用过Elasticsearch的人都知道,使用基于rest的搜索API构建查询可能是单调乏味且容易出错的。在本教程中,我们将研究Jest,一个用......
  • ElasticSearch学习
    简介: 下载官方网站:https://www.elastic.co/cn/elasticsearch/ 安装  TRANSLATEwithxEnglishArabicHebrewPolishBulgarianHindiPortug......
  • SpringMVC03 - @RequestMapping
    @RequestMapping1.@RequestMapping标识的位置@RequestMapping标识一个类:设置映射请求的请求路径的初始信息@RequestMapping标识一个方法:设置映射请求请求路径的具体......