首页 > 其他分享 >Easysearch 压缩功能的显著提升:从 8.7GB 到 1.4GB

Easysearch 压缩功能的显著提升:从 8.7GB 到 1.4GB

时间:2023-09-25 10:33:21浏览次数:37  
标签:1.4 存储 8.7 Easysearch 压缩 显著 GB 版本

引言

在海量数据的存储和处理中,索引膨胀率是一个不可忽视的关键指标。它直接影响了存储成本和查询性能。近期,Easysearch 在这方面取得了显著的进展,其压缩功能的效果远超过了之前的版本。本文将详细介绍这一进展。


Easysearch 各版本压缩性能对比

根据之前文章的数据,Easysearch v1.1 在处理相同数据时,其索引大小比 Elasticsearch v6.4.3 降低了 50%。但这还不是全部,最新的测试数据更是令人惊艳。

Easysearch 压缩功能的显著提升:从 8.7GB 到 1.4GB_easysearch


显著的压缩效果:实验数据解析

通过对比不同版本的存储大小,我们更直观地了解到Easysearch在压缩方面的优势:

  • Easysearch的原始版本,未开启压缩:存储大小为8.7 GB。
  • Easysearch v2版本:经过第二版压缩后,存储大小显著减少到2.7 GB。
  • Easysearch v3版本:第三版压缩后,存储大小进一步减少到1.4 GB。


关键观察

Easysearch 之前提供的压缩版相比原始版本减少了约69%的存储空间。

Easysearch v3版则更为显著,相比原始版本减少了约84%的存储空间。


第三版本压缩的秘密武器:数字类型字段的复用

第三版本压缩能达到如此高的效率,主要是因为在之前第二版对文档原文中 keyword 类型字段复用的基础上,增加了对数字类型字段的复用。这一策略进一步优化了存储结构,显著提高了压缩效率。


压缩策略:多元化选择

Easysearch 提供了多种压缩策略,包括 default、best_compression、ZSTD 和 index.source_reuse。其中,ZSTD 和 index.source_reuse 是新引入的压缩策略,能进一步降低索引膨胀率。


带来的好处

降低存储成本:显著降低的存储大小意味着在硬件和维护方面的成本将大幅度减少。

提高系统扩展性:更小的数据尺寸意味着在相同的硬件配置下,系统能够处理更多的数据。

数据备份和传输:由于索引文件更小,数据备份和传输的速度也将提升,同时减少带宽需求。


总结

Easysearch 在压缩效果上有显著提升,不仅降低了存储成本,还提高了查询性能和系统扩展性。这使得Easysearch在大数据环境下成为一种非常具有吸引力的搜索和存储解决方案


关于 Easysearch

Easysearch 压缩功能的显著提升:从 8.7GB 到 1.4GB_压缩_02

INFINI Easysearch 是一个分布式的近实时搜索与分析引擎,核心引擎基于开源的 Apache Lucene。Easysearch 的目标是提供一个轻量级的 Elasticsearch 可替代版本,并继续完善和支持更多的企业级功能。 与 Elasticsearch 相比,Easysearch 更关注在搜索业务场景的优化和继续保持其产品的简洁与易用性。

官网文档:https://www.infinilabs.com/docs/latest/easysearch

下载地址:https://www.infinilabs.com/download

标签:1.4,存储,8.7,Easysearch,压缩,显著,GB,版本
From: https://blog.51cto.com/u_15963473/7593279

相关文章

  • kingbaseES主备集群切换
    测试环境 IPVIPOSDB主库168.3.1.212168.3.1.214rhel7.6KingbaseESV008R006C007B0012备库168.3.1.213168.3.1.214rhel7.6KingbaseESV008R006C007B0012SWITCH_OVERswitch_over指人为的计划性的切换.1.确认节点信息node1是主库,node2是备库.2.确认主备是否有延迟当前备库没有延迟3.......
  • 【Redis】SpringBoot集成Redis事务-亲测
    大家好,我是mep。今天一起来探讨一下Redis缓存的问题,SpringBoot如何集成Redis网上文章很多,基本都是介绍如何配置redisTemplate,如何调用,本文就不过多介绍了。这次我们研究的是:Redis的事务。首先抛出一个问题,Redis支持事务吗?  答案肯定是支持,不然也不需要我们在这里探讨了。......
  • 分析:EasyGBS视频监控存储的技术与用什么方案去解决它
    在当今社会,视频监控系统已经成为了保障公共安全和提高生活质量的重要手段。随着科技的不断发展,视频监控技术也在不断进步,从最初的模拟监控到现在的数字监控,再到即将到来的智能监控。在这个过程中,存储技术作为视频监控系统的核心技术之一,也得到了迅速的发展。EasyGBS作为一种视频监......
  • SpringBoot发送带文件的Post请求
    使用httpclient发送一个带文件参数的Post请求Pom依赖 <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-web</artifactId></dependency><dependency><groupId>org.apac......
  • Vite+ts+springboot项目集成2
    项目集成集成element-plus官网地址:安装图标库pnpminstallelement-plus@element-plus/icons-vue入口文件main.ts全局安装element-plus,element-plus默认支持语言英语设置为中文importElementPlusfrom'element-plus';import'element-plus/dist/index.css'//@ts-ig......
  • springBoot结合springcloud alibaba
    版本对应很重要,很多问题都源于版本没有对应Q1:SpringCloud启动报错Didyouforgettoincludespring-cloud-starter-loadbalancerQ2:Nacos集群出现NacosException:Clientnotconnected,currentstatus:STARTINGQ3:配置中心不生效Q4:Errorcreatingbeanwithname‘configDataConte......
  • kingbaseES单机安装
    测试环境地址系统版本架构168.3.1.212rhel7.6v8.6单实例测试步骤关闭防火墙和selinuxsystemctlstopfirewalldsystemctldisablefirewalldsed-i's/SELINUX=enforcing/SELINUX=disabled/g'/etc/selinux/config修改系统内核cat>>/etc/sysctl.conf<<eofkernel.shmmax=......
  • kingbaseES读写分离集群搭建
    测试环境 IPVIPOSDB主库168.3.1.212168.3.1.214rhel7.6KingbaseESV008R006C007B0012备库168.3.1.213168.3.1.214rhel7.6KingbaseESV008R006C007B0012测试记录1.操作系统配置该步骤主库和备库都必须执行.systemctlstopfirewalldsystemctldisablefirewalldsed-i's/SEL......
  • SpringBoot项目优化和JVM调优
    在开发中项目调优是必须得熟练掌握的事情。在SpringBoot项目中,调优主要通过配置文件和配置JVM的参数的方式进行。修改配置文件关于修改配置文件application.properties,可参考SpringBoot详细配置文件其中比较重要的有:#Maximumnumberofconnectionsthattheserveraccepts......
  • 基于SpringBoot的书籍阅读管理系统设计与实现-计算机毕业设计源码+LW文档
    摘要:书籍阅读管理系统是针对目前书籍阅读管理的实际需求,从实际工作出发,对过去的书籍阅读管理系统存在的问题进行分析,完善客户的使用体会。采用计算机系统来管理信息,取代人工管理模式,查询便利,信息准确率高,节省了开支,提高了工作的效率。本系统结合计算机系统的结构、概念、模型、原......