首页 > 数据库 >Redis大Key问题如何排查?如何解决?

Redis大Key问题如何排查?如何解决?

时间:2024-11-21 16:34:09浏览次数:1  
标签:存储 Redis 如何 内存 Key 数据结构 数据

Redis 大 Key 是指存储在 Redis 中的键值对,其中键对应的 value 占用了较大的内存空间,或者包含了大量的元素。例如,一个存储了数百万个元素的集合(Set)类型的键,或者一个存储了一个很大的字符串(长度可能达到几十 MB 甚至更大)的键都被认为是大 Key。

Redis 大 Key 并没有统一的固定标准,当字符串存储了一个很大的值,例如 10M 以上,或集合存储了一个上百万元素的值,那就认为是 Redis 的大 Key 问题了。

1.主要影响

大 Key 问题造成的主要问题是让 Redis 服务阻塞,无法处理其他命令的响应(客户端可能因此出现请求超时的问题)。因为对大 Key 进行读写操作时,由于需要处理大量的数据,这些操作可能会非常耗时,这就会导致 Redis 主线程被阻塞,无法及时处理其他客户端的请求。

2.常见场景

大 Key 的常见场景有以下几个:

  1. 缓存大数据(图片和视频元数据):在缓存场景中,可能会将大型的文件内容(如图片、视频元数据)缓存到 Redis 中。例如,一个视频分享网站可能会将视频的详细描述、标签、点赞数、评论数等信息以 JSON 字符串的形式缓存为一个大 Key,方便快速获取视频相关的所有数据。
  2. 明星或网红粉丝列表:如果使用 ZSet 来存储粉丝和关注列表的话,如果是某些明星或网红的粉丝列表将会很大,可能存储元素超千万甚至是亿级别。
  3. 商品页所有信息:在电商应用中,可能需要将商品信息,如商品 ID、名称、描述、价格、库存、图片、评价等都缓存到 Redis 中的话,当商品详情和评价(几十上百万条评价)比较多时,这个 Key 就可能变得非常大。

3.排查大Key问题

排查大 Key 的方案有以下几个。

3.1 BIGKEYS

Redis 自带的 BIGKEYS 命令可以查询当前 Redis 中所有 key 的信息,对整个数据库中的键值对大小情况进行统计分析。它会查出每种数据结构的最大 Key,但不能根据某个容量进行筛查。比如说,统计每种数据类型的键值对个数以及平均大小,如下图所示:

3.2 MEMORY USAGE

Redis 4.0+ 后推出了 MEMORY USAGE 命令,该命令可以返回指定 key 的内存使用情况,返回使用的内存的字节数。通过遍历所有的 key 并使用此命令,可以找出占用内存较大的 key。但需要注意的是,对于复杂数据结构(如 List、Set 等),MEMORY USAGE 命令返回的是近似值,因为它采用抽样方式来估算内存使用,如下图所示:

3.3 OBJECT

OBJECT encoding 可以查看键值对象的编码类型,不同的编码类型可能暗示了键值的复杂程度和大小。例如,如果一个字符串类型的键采用了 raw 编码且长度很长,那么它可能是一个大 Key,如下图所示:

4.解决大Key问题

大 Key 的解决方案有以下几个。

4.1 拆分大Key

将大 Key 拆分成多个小 Key,分别存储不同部分的数据。这样可以减少单个 Key 的内存占用,提高查询性能,拆分的常用方法有以下几个:

  1. 按业务逻辑拆分:如果大 Key 是一个包含大量聚合数据的键,可以根据业务逻辑将其拆分为多个小的键。例如,对于一个包含全品类商品销售数据的大 Key,可以按照品类拆分为多个小的键,每个键只存储一个品类的销售数据。
  2. 按时间范围拆分:对于存储时间序列数据的大 Key,如日志数据或统计数据,可以按照时间范围进行拆分。比如,将一天的日志数据拆分为每小时一个键,这样可以更灵活地管理和删除过期数据。

4.2 使用压缩算法

对于可以压缩的数据类型(如字符串),可以使用压缩算法(如 LZF 等)来减少内存占用。Redis 本身支持一些压缩算法,可以在一定程度上减少大 Key 的内存占用。

4.3 使用合适的数据结构和存储方式

  1. 考虑使用其他存储系统:如果数据实在太大且不适合存储在 Redis 中,可以考虑将部分数据转移到其他存储系统,如将大型文件存储到分布式文件系统(如 MinIO、Ceph 等),只在 Redis 中保留文件的元数据或引用。
  2. 优化 Redis 数据结构选择:根据数据的访问模式和特性,选择更合适的 Redis 数据结构。例如,如果一个集合类型的大 Key 主要用于判断元素是否存在,可以考虑使用布谷鸟哈希(Cuckoo Hash)等空间效率更高的数据结构替代传统的集合结构。

4.4 设置合理的过期时间

如果大 Key 中的数据不是一直需要的,可以设置过期时间,让 Redis 在一定时间后自动删除该 Key。这样可以避免大 Key 长期占用内存,导致内存泄漏。

4.5 加强监控和管理

建立对 Redis 的监控系统,实时监测大 Key 的出现和内存使用情况。当发现大 Key 或者内存占用过高时,及时发出预警,以便采取相应的措施进行处理。如 Redis Insights、Prometheus 等,设置对大 key 和内存使用的监控指标。

注意事项:大Key删除

删除大 Key 时要注意,要使用 UNLINK 命令代替 DEL 命令来删除大 Key。UNLINK 命令会立即返回,后台异步删除数据,避免阻塞,如下图所示:

小结

Redis 大 Key 问题会让 Redis 服务阻塞,无法响应其他命令,可能会导致客户端响应超时等问题。排查大 Key 问题可以使用 BIGKEYS、MEMORY USAGE、OBJECT 等命令。它的解决方案有:拆分大 Key、压缩数据、使用合适数据结构和存储方式、设置合理过期时间,以及加强监控和管理等手段。

本文已收录到我的面试小站 www.javacn.site,其中包含的内容有:并发编程、MySQL、Redis、Spring、Spring MVC、Spring Boot、Spring Cloud、MyBatis、JVM、设计模式、消息队列等模块。

标签:存储,Redis,如何,内存,Key,数据结构,数据
From: https://www.cnblogs.com/vipstone/p/18561024

相关文章

  • RL 基础 | 如何复现 PPO,以及一些踩坑经历
    最近在复现PPO跑MiniGrid,记录一下…这里跑的环境是Empty-5x5和8x8,都是简单环境,主要验证PPO实现是否正确。01ProximalpolicyOptimization(PPO)(参考:知乎|ProximalPolicyOptimization(PPO)算法理解:从策略梯度开始)首先,策略梯度方法的梯度形式是\[\nabla_\theta......
  • 【Ubuntu】如何在Ubuntu系统中查看端口是否可用
    文章目录前言一、使用netstat命令二、使用ss命令三、使用lsof命令四、使用nc(netcat)命令总结前言本文介绍了如何在Ubuntu系统中查看端口是否可用的方法,并给出了具体的命令示例,帮助用户通过命令行工具检测端口的开放状态。一、使用netstat命令netstat是一个网络统......
  • PCB线路板打样,如何选电路板厂家?
    PCB线路板打样,如何选电路板厂家?一、PCB打样的重要性二、如何挑选质量好的PCB打样厂家板厂的实力与资质交期与服务生产设备与制程能力用户评价三、结语在电子产品的研发与制造过程中,PCB(印制电路板)打样扮演着至关重要的角色。它不仅是对电路设计正确性的初次验证,更是后......
  • 私有化部署视频平台EasyCVR宇视设备视频平台如何构建视频联网平台及升级视频转码业务?
    在当今数字化、网络化的时代背景下,视频监控技术已广泛应用于各行各业,成为保障安全、提升效率的重要工具。然而,面对复杂多变的监控需求和跨区域、网络化的管理挑战,传统的视频监控解决方案往往显得力不从心。EasyCVR视频融合云平台作为TSINGSEE青犀视频“云边端”架构体系中的核心......
  • 如何设置绘制一个对话框,对话框随内容自适应宽度
    <Canvas><TextBlockx:Name="stitchOverTopTextBlock"FontFamily="MicrosoftYaHei"Text="好好学习天天向上"SizeChanged="stitchOverTopTextBlock_SizeChanged"Panel.ZIndex="1"Foreground=&qu......
  • 如何根据子控件名字获取子控件
    publicstaticTFindChild<T>(DependencyObjectparent,stringchildName)whereT:DependencyObject{//检查null情况if(parent==null)returnnull;TfoundChild=null;intchildrenCount=Visu......
  • TSINGSEE青犀新能源充电桩智能管理方案:如何利用AI解决充电难停车难的问题?
    随着新能源汽车产业的迅猛发展,充电桩的安全问题日益凸显,成为制约行业健康发展的重要因素。近年来频发的自燃事件不仅给车主带来了财产损失,也对公众的安全感构成了挑战。因此,利用先进的AI技术和图像识别算法,构建充电桩安全监测体系显得尤为重要。国标GB28181视频平台EasyCVR作为TS......
  • 如何理解会员权益卡券API接口
    在这个数字化时代,会员权益卡券API接口是一种用于提供丰富的数字权益商品和服务的数字权益采购服务平台和解决方案。它可以实现可持续的商业增长,提高会员管理和运营效率,增加回头客。会员权益卡券API接口是一种数字权益采购服务平台和解决方案,它允许企业快速创建和管理会员权益......
  • redis 3 种缓存更新策略
    今天跟大家聊聊,常见的3种缓存更新策略。CacheAside(旁路缓存)策略;Read/WriteThrough(读穿/写穿)策略;WriteBack(写回)策略;实际开发中,Redis和MySQL的更新策略用的是CacheAside,另外两种策略主要应用在计算机系统里。CacheAside(旁路缓存)策略CacheAside(旁路缓存)策......
  • 如何在实践中应用OA办公系统?
    越来越多的企业选择通过OA(OfficeAutomation)办公系统来提升管理效率与工作质量。OA办公系统不仅仅是工具,它更是企业管理模式的转型与升级,通过高效的信息化手段帮助企业实现智能化管理,提升企业的核心竞争力。本文将从多个维度深入探讨如何在企业实践中成功应用OA办公系统,帮助企业......