首页 > 数据库 >虹科干货 | 什么是Redis数据集成(RDI)?

虹科干货 | 什么是Redis数据集成(RDI)?

时间:2023-09-04 18:33:08浏览次数:54  
标签:集成 转换 数据 数据库 Redis 虹科 RDI

大量的应用程序、日益增长的用户规模、不断扩展的技术需求,以及对即时响应的持续追求。想想这些是否正是你在经历的。也许你尝试过自己构建工具来应对这些需求,但是大量的编码和集成工作使你焦头烂额。那你是否知道,有这样一个工具可以帮助你实现从缓存中执行所有查询?

一、推出Redis数据集成(RDI)的背景

企业面临着大量的应用程序、日益增长的用户规模、不断扩展的技术需求,以及对即时响应的持续追求。Redis Enterprise提供对数据的实时访问,并且可以水平扩展,但是如何使

有些组织决定自己承担,只是发现构建缓存预取(或有时称为提前刷新)非常困难。他们需要自己构建一个可靠的流传输管道。首先捕获源数据库中发生的所有数据更改,然后将数据转换为去规范化。他们需要集成多个组件(变更数据捕获, CDC)、流式传输和 Redis 连接器)、编码转换、错误处理和许多其他企业基本要求,而这些用于工具构建的时间可以去做更有成效的工作。

在用户面临着种种问题的情况下, Redis 数据集成 (RDI) 的公开预览版在万众期待下诞生了。RDI 允许开发人员将数据库转移到,而且不需要投入编码或集成工作。

二、进入Redis数据集成

Redis 数据集成(RDI)是在用户近乎实时地将数据从现有关系数据库同步到转移到 

虹科干货 | 什么是Redis数据集成(RDI)?_Redis

数据转换过程

RDI 管道有两个阶段:

· 捕获数据库更改并将其流式传输到任务中

· 使用声明性指令对数据进行转换和去规范化,然后将其写入目标Redis 缓存

数据转换过程:

· Debezium是一个开源 CDC 平台,捕获源数据库中数据的更改并将其流式传输到 RDI。在 Redis 内,数据可以被进一步过滤、转换并映射到一个或多个

· RDI可以与其他CDC工具和数据流连接,借助这样的集成解决方案,开发人员可以使用核心,以简单的方式将各种数据库的更改流式传输到

虹科干货 | 什么是Redis数据集成(RDI)?_Redis_02

使用Debezium提取

三、无代码数据过滤和转换

从源数据库捕获更改并将数据从一个地方传输到另一个地方已经很困难了。然而,流动数据还存在另一个挑战:转换部分,这意味着过滤数据并将数据映射到

1)RDI 提供了一个选项来指定每个源表所需的所有过滤和转换步骤。用 RDI 术语来说,这称为作业;每个作业都是一个

虹科干货 | 什么是Redis数据集成(RDI)?_数据_03

                                                数据转换管道

过滤:

RDI 无需编码即可完成过滤,而不需要开发人员编写自定义代码。开发人员可以使用SQL 表达式或Jmespath 函数的声明式过滤器。RDI 附带了额外的自定义 Jmespath 函数,以方便作业创建者使用。

RDI 有几个级别的数据转换:

· 基本转换:这是由。

· 结构化:RDI 引擎有一种默认的结构方式,可以通过无代码转换的功能将其构造为哈希或JSON 。您可以选择转换键和字段,甚至重新计算这些字段中的值。

· 去规范化:RDI 将源数据转换为。

故障排除:

RDI 包含一个跟踪工具,可帮助开发人员无需编写自定义代码,就可以创建复杂的数据管道并对其进行故障排除。这加快了流程并减少了所需的工作量和技能。

四、公开预览版中的附加功能:

· 至少保证一次交付

· Debezium 服务器和 RDI 的高可用性

· 死信队列, DLQ) 中的硬拒绝条目处理

· 支持的源数据库:Oracle、Postgres、MySQL、MariaDB、Percona XtraDB、Microsoft SQL Server 和 Cassandra(包括 DataStax DSE)

· 数据提取模式:初始快照和CDC(流更改)

· 声明式转换:过滤条件、Redis 键模式、更改字段名称、添加字段、删除字段、嵌套

· 支持的

· 开发人员工具:RDI 命令行界面脚手架和跟踪命令

· 操作员工具:RDI 命令行界面、Grafana 仪表板(通过 Prometheus 导出器进行指标) 

五、什么情况下可以使用RDI ?

· 应用数据来自关系型数据库,不可替换。

· 关系数据库可以适应数据写入的速度,但无法扩展和执行以满足读取查询的负载。从关系数据库中转移读取查询是必要的。

· 缓存中的数据必须近乎实时地反映关系数据库中的数据,这一点至关重要。

· 关系数据库的更改率为中高水平,批量插入更改不能满足要求。

· 源数据库和Redis之间的数据映射需要一些数据操作。

六、Redis数据集成(RDI)的发展

RDI的目前版本是公开预览,以相反方向集成正在研究中:将对

· Write-behind:CDC 源是用户的用户的目标是下游关系数据库或用户享受

· Write-through:对关系数据库。

· 通读:如果发生缓存未命中,RDI 会自动从下游数据库获取丢失的数据,并将其作为键写回 Redis,以便将其返回给请求的应用程序。

七、如何开始使用?

RDI 目前仅适用于自我管理的 Redis Enterprise 集群。

l 如果您是RDI CLI软件包并按照快速入门指南中的步骤操作。安装指南将引导您完成会将数据从源数据库转移到

l 如果您不是Redis Enterprise 的现有客户,则需要首先安装适用于 Kubernetes的


标签:集成,转换,数据,数据库,Redis,虹科,RDI
From: https://blog.51cto.com/u_15881886/7353948

相关文章

  • 虹科干货 | 逻辑数据库可能已经无法满足需求了!
    不可否认,单个Redis实例已经不能满足实际生产中的需求了。为了解决由此带来的问题,何不试试用专用实例代替逻辑数据库呢?一、逻辑数据库可能已经无法满足需求的4个迹象1.您有个“吵闹的邻居”PS:“吵闹的邻居”指同一个RedisOSS实例中其它繁忙的逻辑数据库。场景:假设你是一家游戏公司的......
  • Spring缓存抽象怎么和redis进行集成
    一.在Mavenpom.xml文件中加入Redis包<!--redis--><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-redis</artifactId><version>${boot.version}</version></depen......
  • Redis存取数据快的原因
    1.Redis是完全基于内存的,绝大部分请求是纯粹的内存操作,这个数据存在内存中,类似于HashMap,而HashMap的优势就是查找和操作的时间复杂度都是0(1);2.数据结构简单,对数据操作也简单,redis中的结构都是特殊设计的;3.采用单线程,不存在多进程和多线程导致的切换而消耗CPU,不用去考虑各种锁的......
  • Redis7 入门概述
    一、是什么RemoteDictionaryServer(远程字典服务)二、能干啥1、主流功能与应用1、分布式缓存2、内存存储和持久化(RDB+AOF)redis支持异步将内存中的数据写到硬盘上,同时不影响继续服务3、高可用架构搭配(单机主从哨兵集群)4、缓存穿透、击穿、雪崩5、分布式锁6、队列7、......
  • Redis—分布式锁
    单实例的正确实现方式获取锁的正确操作为:SETresource_namemy_random_valueNXPX30000,它限定了只有当锁空闲且持有锁的时间为30000ms,并且锁资源对应的value为一个随机值。设置随机值是为了在释放锁时,确保当前线程能够释放该锁,避免出现操作超时的线程释放了其它线程的锁。......
  • springboot - 整合redis
    1.引入pom依赖<!--redis--><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-data-redis</artifactId></dependency><!--fastjson序列化器--><dependency><grou......
  • RedisTemplate使用文档
    一.Redis五种基本数据类型1.String字符串String的数据结构是简单的Key-Value模型,Value可以是字符串,也可以是数字。应用场景计数器—点赞,视频播放量,每播放一次就+1统计多单位的数量粉丝数对象缓存存储2.Hash散列表Redis的哈希是键值对的集合。Redis的哈希值是字符串......
  • SpringBoot集成redis集群
    1、添加依赖<dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-data-redis</artifactId><exclusions><!--过滤lettuce,使用jedis作为redis客户端--><exclusion&......
  • 向量搜索技术:基于Elasticsearch/PostgreSQL/Redis扩展的向量搜索数据库或独立向量搜索
    理论基础与研究向量数据库用于非结构化文本、图片、音频、视频搜索、推荐,将他们转换为数字向量表示来进行相似性(ANN)搜索。存储和搜索高维向量是其特征之一,通常采用高级索引技术和算法如HNSW,Annoy,或Faiss来实现。不同于SQL数据库,向量数据库更像nosql,用户接受使用sdk/API......
  • Redisson看门狗机制你了解多少
    前言谈到Redisson就不得不说Redis了,一想到Redis就不得不想到并发编程锁机制,一想到锁机制那么就不能不考虑一个很头疼的问题,如何保证原子性的问题,高QPS请求量的系统对每次执行数据的原子性由为的关键,保证不了原子性就会导致一系列重复提交的操作,重复的数据导致在某些逻辑运算的时候......