首页 > 数据库 >ETLCloud结合Oracle实现CDC

ETLCloud结合Oracle实现CDC

时间:2024-03-28 16:01:30浏览次数:28  
标签:CDC 数据库 配置 ETLCloud Oracle 数据

CDC,即Change Data Capture(变更数据捕获)功能,主要针对实时数据同步和更新场景,能够实时监测数据库中的数据变化,并将发生变化的数据进行高效精准地捕获和传输,极大地提高了数据处理的效率以及系统的响应速度。

在实际应用中,CDC功能对于对数据时效性要求极高的业务场景尤为关键,例如金融交易、物联网设备状态监控、用户行为分析等领域。用户可以实现对源数据库的增量更新跟踪,仅提取自上次同步以来新增、修改或删除的数据记录,避免了全量数据抽取带来的资源消耗与延迟问题。

ETLCloud的CDC机制设计巧妙,兼容多种主流数据库系统,无论是Oracle、MySQL还是SQL Server等,都能够无缝对接并稳定运行。并且,其CDC功能还具备良好的可配置性和扩展性,可以根据不同的业务需求灵活设定捕获规则和策略,使得企业在进行大数据集成和处理的过程中,既能满足实时性需求,又能确保数据的一致性和完整性,大大提升了企业的数据管理水平和决策效率。

 

如何快速搭建起一个Oracle的CDC流程:

在数据源模块下建立数据源

 

测试数据源接口

 

 

 

CDC配置,配置CDC的时候注意数据库版本

MySQL
支持版本:5.7, 8.0.x

PostgreSQL
支持版本:10, 11, 12, 13, 14

SQL Server
支持版本:2017, 2019

Oracle
支持版本:11g, 12c, 19c, 21c

 

可以设置监听多表

 

配置到流程里

 

设置完成后返回点击启动

 

创建好的流程,点击流程设计就可以开始配置了

 

配置库表输出,传到mysql的cdc_1表,数据库里没有这张表所以用了自动建表

 

 

 

 

用模拟器生成点数据模拟数据输入

 

查看日志情况

 

问题排查:mysql里的数据出现错误,但表结构已经设置为utf-8的字符集了

 

可以查看下jdbc的原因,重新连接配置字符集

 

mysql结果查询

 

oracle结果查询

 

 

ETLCloud其集成的CDC功能不仅丰富了自身的功能集,还极大地提升了在处理实时、增量数据方面的效能。能够实现对源数据库中变更数据的精准识别和实时捕获,并有效地将这些变化应用到目标系统中,确保业务系统的数据始终保持最新状态且同步准确。

友好的用户界面和高度可配置性,使得非专业技术人员也能轻松设置和管理CDC任务,降低了企业在实施复杂数据集成项目时的技术门槛。不仅如此,该工具还能与多种数据库系统无缝对接,广泛适用于不同行业和场景下的数据抽取、转换和加载需求。

标签:CDC,数据库,配置,ETLCloud,Oracle,数据
From: https://www.cnblogs.com/restcloud/p/18101939

相关文章

  • Oracle重做日志文件clear logfile与clear unarchived logfile浅析
    首先,从v$log动态视图中观察到ARC和STATUS两个字段STATUS:分为CURRENT、ACTIVE和INACTIVE三种,当数据库进程DBWn进行一次写入,脏数据从内存刷写到redologfile中,这时承载数据写入的redologfile状态即为CURRENT;而数据从redologfile拷贝到归档目录下时处于ACTIVE状态,完成数据从内存......
  • oracle逐行处理函数LAG
    在Oracle中,要计算一个列除以上一行的同一列值,可以使用LAG函数来获取上一行的值。以下是一个示例SQL查询,它使用LAG来计算当前行除以上一行的同一列值: SELECTcolumn_value,column_value/LAG(column_value)OVER(ORDERBYsome_order_column)ASdivision_resultFROMyour......
  • oracle中的分割函数(split效果)
     CREATEORREPLACEFUNCTIONfn_split(p_strINVARCHAR2,p_delimiterINVARCHAR2)RETURNty_str_split--分割函数--新建前要先建立ty_str_split执行语句为:CREATEORREPLACETYPEty_str_splitISTABLEOFVARCHAR2(4000);ISjINT:=0;iINT:=1;le......
  • Oracle中的for update 和 for update nowait
    在Oracle数据库中,FORUPDATE和FORUPDATENOWAIT是两种用于行级锁定的SQL子句,它们通常用在SELECT语句中以确保数据的一致性和隔离性。这里是它们的基本区别和用法:FORUPDATEFORUPDATE子句用于锁定SELECT语句检索到的行,以便于进行更新操作。当使用FORUPDATE时,如果所选行已经......
  • 【Oracle】获取指定用户的所有表的行数(实时的)
    #!/bin/bash#ORACLE_USER="username"ORACLE_PASSWORD="password"ORACLE_HOST="hostname"ORACLE_PORT="port"ORACLE_SID="SID"#rowcountfunctionget_table_row_count(){localtable_name=$1sqlplu......
  • oracle 11G 数据库归档日志清理流程。
    oracle11G数据库归档日志清理流程。链接:ORACLE11g数据库归档日志清理规程-百度文库(baidu.com)......
  • 痞子衡嵌入式:给i.MXRT1xxx系列GPIO提早供电会影响DCDC_PSWITCH上电时序导致内部DCDC启
    大家好,我是痞子衡,是正经搞技术的痞子。今天痞子衡给大家介绍的是给i.MXRT1xxx系列GPIO提早供电会影响DCDC_PSWITCH上电时序导致内部DCDC启动失败。最近有一个RW612产品线的同事在设计一个双MCU系统Demo时发现,当RW612板卡和RT1060板卡通过UART对接时,如果RW6......
  • Oracle 分页查询,排序分页
    效率最高内查询小于等于外查询大于select*from(selectt.*,rownumasnfromSTUDENTtwhererownum<=4)twheret.n>2orderbyt.iddesc;查看执行计划explainplanforselect*from(selectrownumasn,d.*fromdeptdwhererownum<=4)twheret.n>......
  • Oracle 小知识
    --会乱码SELECTsys_guid()fromdual;--大写uuidSELECTRAWTOHEX(SYS_GUID())FROMdual;--小写SELECTlower(sys_guid())fromdual;--列拼接SELECTname||create_time||idaFROMSTUDENTs;--字符串拼接SELECT'张三'||'李四'||'王五'nameFROM......
  • Oracle数据库入门第三课(函数)
    前面二白讲了一些简单的查询语句,仅仅知道查询语句的语法是不够的,要想实现更多的需求,更重要的是函数的使用,这节课我们简单说一下一些函数的使用。一、函数的分类什么叫做函数?函数就是用来实现某种功能的,提前声明好的代码块分类:•系统函数         ‣单行函数......