首页 > 其他分享 >【Kettle】kettle | 数据表增量脚本 | 表输入变量

【Kettle】kettle | 数据表增量脚本 | 表输入变量

时间:2022-11-25 11:03:42浏览次数:41  
标签:kettle maxId 数据库 Kettle 查询 说明 数据表 增量 输入


一、说明

        1、数据库,MySQL

        2、根据ID备份增量数据

        3、主键为bigint,且自增

        4、增量策略,根据ID判断增量

        5、使用工具kettle9

        6、本文重点,介绍查询maxId作为变量用于增量查询

二、处理

1、新增kettle项目

2、组件结构

1)结构

表输入 -> 表输入 -> 表输出

说明: 第一个表输入,用于查询本地数据库表记录的maxId

说明: 第二个表输入,用于查询远程数据库记录大于等于maxId的记录

说明: 表输出,同步到本地数据库

2)示例图

【Kettle】kettle | 数据表增量脚本 | 表输入变量_数据库连接

 ~~

 3、配置

1)配置表输入-本地最大ID

【Kettle】kettle | 数据表增量脚本 | 表输入变量_mysql_02

说明: 配置数据库连接

说明: 查询maxId,无其他配置

2)配置表输入-查询prod增量

【Kettle】kettle | 数据表增量脚本 | 表输入变量_mysql_03

 

说明: 配置远程数据库连接

说明: 获取SQL,选择查询的表

说明: where id > ?,重点,"?"即占位符;maxId仅一行值,用?即可

说明: 度娘有用“设置变量”这个组件的,用于多个变量,可自行尝试

3)配置表输出-同步到本地

【Kettle】kettle | 数据表增量脚本 | 表输入变量_自增_04

说明:选择库,选择表即可;无其他操作

~~


标签:kettle,maxId,数据库,Kettle,查询,说明,数据表,增量,输入
From: https://blog.51cto.com/u_15891242/5885733

相关文章

  • Kettle 读取Excel时增加排序字段
    选择指定tab:1.ExcelRowIndex:为该行在源excel中的行索引2.RowIndex:为读取数据时新集合中的行索引ExcelRowIndex和RowIndex 并不相等  Reference:Kettle连接......
  • Oracle中通过存储过程,Function,触发器实现解析时间类型的字段并插入的对应的数据表中
    摘要:之前在项目中解决了插入字符串类型的数据,今天试着写了一个插入date类型的字段,成功了,现在记录一下,以便以后查看:一:首先建立一个根据xml节点名称获取对应的xml值的Function......
  • 【Mybatis学习总结二】Mybatis操作数据表的CRUD实现
    本节内容学习了如何通过Mybatis实现对数据库的增删改查操作。一共有两种实现方式,一是基于XML的实现;第二种是基于注解的实现。下面来具体介绍两种方法的具体实现:一、基于XML......
  • 数据表的本地化
    本地化的目的是将某一个table或query当做一个数据表来进行处理,并且这个本地化的数据表可以用在sql语句中。需要用到控件:TFDLOCALSQL。例如,程序中有两个CONNECTION,分别是C......
  • Firedac连接EXCEL数据表
    可以将EXCEL表当做数据库连接,方法是使用ODBC进行连接。见下列语句:ifnotdlgOpen1.ExecutethenExit;con1.Connected:=False;con1.Params.Clear;con1.DriverN......
  • go-admin migrate 数据表迁移
    目录nav:title:指令order:3title:migrateorder:10toc:content视频教程应用场景:目录说明数据迁移迁移步骤配置数据库常用命令示例新建模型实例3.1方式一:不编译运......
  • Mest SQL(1)---利用Python将Excel数据表导入MySQL数据库
    【最终呈现效果】【原始Excel数据表】【代码实现及注释】importpandasaspdimporttimeimportreti=time.strftime('%Y_%m_%d_%H%M%S',time.localtime())myexcel=r'G:\M......
  • kettle资源库的选择
    1.可以用数据库作为资源库,这样自己建的作业转换都可以在连接资源的时候看到 --可以查看到转换SELECT * FROM r_job--可以查看到作业SELECT * FROM r_jobent......
  • 数据表操作
    在MySQL数据库中,表是一种很重要的数据库对象,是组成数据库的基本元素,由若干个字段组成,主要用来实现存储数据记录。表的操作包含创建表、查询表、修改表和删除表,这些操作是......
  • Oracle中新建数据表的两种方法
    首发微信公众号:SQL数据库运维原文链接:https://mp.weixin.qq.com/s?__biz=MzI1NTQyNzg3MQ==&mid=2247485212&idx=1&sn=450e9e94fa709b5eeff0de371c62072b&chksm=ea37536cdd......