首页 > 其他分享 >elastic使用时报错Text fields are not optimised for operations that require per-document field data

elastic使用时报错Text fields are not optimised for operations that require per-document field data

时间:2023-01-10 09:44:06浏览次数:70  
标签:operations elastic optimised fields requestUrl field type data

一、elasticsearch在做聚合查询的时候报错

"root_cause" : [
      {
        "type" : "illegal_argument_exception",
        "reason" : "Text fields are not optimised for operations that require per-document field data like aggregations and sorting, so these operations are disabled by default. Please use a keyword field instead. Alternatively, set fielddata=true on [interests] in order to load field data by uninverting the inverted index. Note that this can use significant memory."
      }
    ]

发送的DSL语句如下:

GET rest_logs-*/_search
{
  "aggs": {
    "my-agg-name": {
      "terms": {
        "field": "requestUrl"
      }
    }
  },
  "size": 0
}

查询结果:

"root_cause" : [
      {
        "type" : "illegal_argument_exception",
        "reason" : "Text fields are not optimised for operations that require per-document field data like aggregations and sorting, so these operations are disabled by default. Please use a keyword field instead. Alternatively, set fielddata=true on [requestUrl] in order to load field data by uninverting the inverted index. Note that this can use significant memory."
      }]

产生该错误的原因是因为该字段不支持聚合或者排序。由于 requestUrl的字段值在存储的时候进行分词了,假设 requestUrl的值为 “music forestry sports” 会被拆分为 music 、forestry 、sports 并建立倒排索引进行存储,如果我们使用 requestUrl 进行聚合或者排序操作,es并不知道要拿什么值去进行聚合或者排序。

所以为了解决这个问题,es也提供了两种解决方案:
1、用两种方式对同一个字符串进行索引,在文档中包括两个字段: analyzed 用于搜索,not_analyzed 用于排序或者聚合,但是保存相同的字符串两次在 _source 字段是浪费空间的。 我们真正想要做的是传递一个 单字段 但是却用两种方式索引它。所有的 _core_field 类型 (strings, numbers, Booleans, dates) 接收一个 fields 参数,故有了第二种方案。

2、为字段添加一个映射
原来的映射关系,这种直接使用 requestUrl 会报上述错误

"requestUrl": {
    "type":     "string",
    "analyzer": "english"
}

直接添加映射

"requestUrl": { 
    "type":     "string",
    "analyzer": "english",
    "fields": {
        "keyword": { 
            "type":  "string",
            "index": "not_analyzed"
        }
    }
}

然后重新查询,完美解决。

GET rest_logs-*/_search
{
  "aggs": {
    "my-agg-name": {
      "terms": {
        "field": "requestUrl.keyword"
      }
    }
  },
  "size": 0
}

https://blog.csdn.net/wngpenghao/article/details/123001881

https://www.elastic.co/guide/en/elasticsearch/reference/current/search-aggregations.html

标签:operations,elastic,optimised,fields,requestUrl,field,type,data
From: https://www.cnblogs.com/eternityz/p/17039196.html

相关文章

  • ElasticSearch的基本使用
    1、ElasticSearch基本介绍TheElasticStack,包括Elasticsearch、Kibana、Beats和Logstash(也称为ELKStack)。能够安全可靠地获取任何来源、任何格式的数据,然后实时地......
  • ElasticSearch集群搭建
    一、调整内核参数vim/etc/sysctl.confvm.max_map_count=262144vim/etc/security/limits.confsoftnofile65536hardnofile65536sysctl-p二、解压文件tar-z......
  • Java中Elasticsearch 实现分页方式(三种方式)
    目录ES简介ES的特点:一、from+size浅分页二、scroll深分页scroll删除三、search_after深分页ES简介Elasticsearch是一个基于Lucene实现的......
  • 重学ElasticSearch (ES) :ELK搭建SpringBoot日志实时分析系统
    一、概述在一个大型的分布式架构的项目里,不同的服务模块部署在不同的服务器上,如果想要定位问题,可能需要去不同的服务器上查看不同服务的日志。那么,ELK可以很方便的把日志集......
  • [ABC261E] Many Operations 题解
    [ABC261E]ManyOperationsSolution目录[ABC261E]ManyOperationsSolution更好的阅读体验戳此进入题面SolutionCodeUPD更好的阅读体验戳此进入题面给定正整数$X$......
  • ubuntu 安装elasticsearch
    elasticsearch简介  环境准备 elasticsearch:7.0.0 kibana     :7.0.0 安装 1.新创建普通用户 elasticsearch不能用root账号启动,为了避免之后......
  • windows下springboot项目部署elk日志系统教程elasticsearch与logstash与kibana
    1.项目中加入依赖:compile'net.logstash.logback:logstash-logback-encoder:6.0'如果是maven项目的话:字符串中的冒号为隔断,第一个为groupid,第二个为artifactId,第三个为versi......
  • (四)elasticsearch 源码之索引流程分析
    1.概览前面我们讨论了es是如何启动,本文研究下es是如何索引文档的。下面是启动流程图,我们按照流程图的顺序依次描述。  其中主要类的关系如下:  2.索引流程......
  • elasticsearch之单请求多查询
    一、需要解决的问题有的时候我们需要同时执行多个查询,并且需要得到每个单独查询的搜索结果,elasticsearch提供了multisearch此需求的支持;二、elasticsearchmultisearch......
  • Elasticsearch学习笔记
    ​​最新ElasticSearch6实战教程​​​​全文搜索引擎Elasticsearch入门教程​​​​Elasticsearch学习,请先看这一篇!​​​​ElasticSearch简介​​​​Elasticsearch入门......