首页 > 数据库 >使用DataX从ORACLE同步数据到MYSQL

使用DataX从ORACLE同步数据到MYSQL

时间:2023-05-25 18:32:09浏览次数:49  
标签:同步 SITA MYSQL TRANSFER datax TIME ORACLE password DataX


[前提]安装python3.7

oracle版本:oracle 11g

mysql版本:mysql5.7

1.下载DataX

wget http://datax-opensource.oss-cn-hangzhou.aliyuncs.com/datax.tar.gz

2.解压DataX

tar -zxvf datax.tar.gz

3.编写同步脚本

  • 进入dataX bin目录
cd ${HOME目录}/datax/bin
  •  编写同步脚本
vi oracleToMysql.json
  • 脚本内容如下
{
    "job": {
        "setting": {
            "speed": {
                 "byte": 1048576
            },
                "errorLimit": {
                "record": 0,
                "percentage": 0.02
            }
        },
        "content": [
            {
                "reader": {
                    "name": "oraclereader",
                    "parameter": {
                        "username": "hdkg",
                        "password": "hdkg2007",
                        "splitPk": "ID",
                        "connection": [
                            {
                                "jdbcUrl": [
     "jdbc:oracle:thin:@100.100.100.210:1521:ORCL"
                                ],
				"querySql": [
                                    "select * from T_FLIGHT_INFO where sobt >'20181231160000'"
                                ]
                            }
                        ]
                    }
                },
		"writer": {
                    "name": "mysqlwriter",
                    "parameter": {
                        "writeMode": "insert",
                        "username": "root",
                        "password": "password",
                        "column": [
                            "`ID`",
							"`PFID`",
							"`SCHID`",
							"`FLNO`",
							"`SSRMC`",
							"`SOURCE`",
							"`SOBT`",
							"`SOBT_SITA`",
							"`SIBT`",
							"`SIBT_SITA`",
							"`EOBT`",
							"`EOBT_SITA`",
							"`EIBT`",
							"`EIBT_SITA`",
							"`ATOT`",
							"`ALDT_SITA`",
							"`ALDT`",
							"`ATOT_SITA`",
							"`ADEPS`",
							"`ADEPE`",
							"`ADEPA`",
							"`ADESS`",
							"`ADESE`",
							"`ADESA`",
							"`ACTTS`",
							"`ACTTE`",
							"`REGNS`",
							"`REGNE`",
							"`SALTITUDE`",
							"`ESPD`",
							"`EALTITUDE`",
							"`STYPE`",
							"`MTYPE`",
							"`SLEVEL`",
							"`EXECSTAT`",
							"`ISEXEC`",
							"`LOCKSTAT`",
							"`ABSTAT`",
							"`ALN1E`",
							"`ALN2E`",
							"`ALN1A`",
							"`ROUTS`",
							"`ROUTE`",
							"`EXECDATE`",
							"`ISDEL`",
							"`COMMON_INFO`",
							"`POBT`",
							"`SLDT`",
							"`ELDT`",
							"`DETA`",
							"`EXIT`",
							"`AXIT`",
							"`AIBT`",
							"`COBT`",
							"`TOBT`",
							"`ECZT`",
							"`ARZT`",
							"`ACZT`",
							"`EEZT`",
							"`AEZT`",
							"`ASBT`",
							"`AOBT`",
							"`ARDT`",
							"`ASRT`",
							"`ASAT`",
							"`EXOT`",
							"`AXOT`",
							"`ETOT`",
							"`TTOT`",
							"`TLDT`",
							"`CTOT`",
							"`USEC`",
							"`CDAT`",
							"`USEU`",
							"`LSTU`",
							"`REMK`",
							"`ACT_SITA`",
							"`REGN_SITA`",
							"`MTYPE_SITA`",
							"`PLTYPE`",
							"`APPROVALNO`",
							"`ENTPOINT`",
							"`EXTPOINT`",
							"`FLLEVEL`",
							"`AIRWAYS`",
							"`ACNUM`",
							"`OTHERS`",
							"`SIGN`",
							"`CONTACT_INFO`",
							"`DATETIME_GRP`",
							"`TLX_CDATE`",
							"`AUTO_SEND`",
							"`CANCELTYPE`",
							"`CANCELREASON`",
							"`CANCELTIME`",
							"`ISCONNECT`",
							"`ISNOCONNECTIVITY`",
							"`MPROPERTY`",
							"`REPAIRREASON`",
							"`REPLYPERSON`",
							"`REPLYTIME`",
							"`ISJOIN`",
							"`FIRST_CONTRACT_TIME`",
							"`RELEASE_TIME`",
							"`REQUEST_TIME`",
							"`WAITING_TIME`",
							"`TRANSFER_GROUND_TIME`",
							"`PUSH_TIME`",
							"`DRIVE_TIME`",
							"`TRANSFER_ADJACENT_GROUND_TIME`",
							"`TRANSFER_TOWER_TIME`",
							"`RELEASE_FLY_TIME`",
							"`CHGFLG`",
							"`FORPILOTONLY`",
							"`SCH_REMK`",
							"`NATIONALSARB`",
							"`ATTR1`",
							"`ATTR2`",
							"`ATTR3`",
							"`ATTR4`",
							"`ATTR5`",
							"`ATTR6`",
							"`ATTR7`",
							"`ATTR8`",
							"`ATTR9`",
							"`ATTR10`",
							"`ATTR11`",
							"`ATTR12`",
							"`ATTR13`",
							"`ATTR14`",
							"`ATTR15`",
							"`ATTR16`",
							"`ATTR17`",
							"`ATTR18`",
							"`ATTR19`",
							"`ATTR20`",
							"`MILPATCH`",
							"`KHPROPERTY`",
							"`FLT_SOURCE`"
                        ],
                        "session": [
                        	"set session sql_mode='ANSI'"
                        ],
                        "preSql": [
                            "delete from t_flight_info"
                        ],
                        "connection": [
                            {
                                "jdbcUrl": "jdbc:mysql://100.100.100.211:3306/atc?useUnicode=true&characterEncoding=gbk",
                                "table": [
                                    "t_flight_info"
                                ]
                            }
                        ]
                    }
                }
            }
        ]
    }
}

4.运行同步脚本

python datax.py oracleToMysql.json
  • 同步成功

使用DataX从ORACLE同步数据到MYSQL_mysql

标签:同步,SITA,MYSQL,TRANSFER,datax,TIME,ORACLE,password,DataX
From: https://blog.51cto.com/chengzheng183/6350674

相关文章

  • 60.Oracle 12c RAC DBCA无法识别ASM磁盘组故障处理
    安装oracle12crac时,在做dbca安装实例的时候,asm存储位置选项为空,但是命令集群中的磁盘组已经被mount了,asm实例也被起来了,经过排查,发现是grid用户下,su-grid cd$GRID_HOME/bin 这个目录下的oracle的权限不对,不是6751,因此,遂改,然后重启集群,再dbca创建实例,发现上面的存储位置......
  • mysql数据库部署
    推荐步骤:安装Mysql5.6.46版本设置登录Mysql密码,使用root账户登录Mysql创建自己名字数据库,查看数据库实验步骤:安装Mysql5.6.46版本设置登录Mysql密码,使用root账户登录Mysql创建自己名字数据库,查看数据库......
  • 记一次windows装docker,然后nacos连接宿主机mysql报错问题
    之前一直用linux装docker,这两天有空研究下windows上装DockerDesktop。安装步骤就不一一细说了,记录几个容易忘得地方。设置docker镜像存储位置//打包现有镜像wsl--exportdocker-desktop-data"D:\\work\\other-tools\\docker\\docker-desktop-data.tar"//注销镜像wsl--......
  • Oracle 更新timestamp 类型字段
    oracle中手动更新timestamp类型的字段有两种方式,一种是创建table的时候指明可自动更新,一种是如下update脚本,通过SYSDATE获取系统当前时间,赋值给timestamp字段:UPDATEmes_tokenmsetm.TOKEN='eyJhbGciOiJIUzI1NiIsIlR5cGUiOiJKd3QiLCJ0eXAiOiJKV1QifQ.eyJhdWQiOiJKWkxLIiwiZXh......
  • Dapper-OracleSQLHelper 的通用封装
    ///<summary>///OracleHelp封装使用///</summary>///<typeparamname="T"></typeparam>publicclassOracleSQLDapperHelper<T>whereT:class{///<summary>///数据库连接字符串......
  • django 使用mysql数据库
    1.手动创建mysql数据库,比如xadmincreatedatabasexadmincharset=utf8;2.配置django项目setting.py文件中的数据库设置DATABASES={'default':{'ENGINE':'django.db.backends.mysql',#数据库后端'NAME':'xadmin',......
  • MYSQL 超时问题排查过程
    发现疑点通过IT的监控发现存在负载(Load)最高了两个SQL如下:SELECT*FROM`wobshiporder`WHERE`WOBShipOrderID`=?FORUPDATEINSERTINTO`WOBShipOrder`(`OAID`,`IsDecryptReceiver`…语句耗时10秒以上。问题定位开始分析第一个SQL语句时:选举了一个exampleSelec......
  • MYSQL性能优化-CPU/内存/磁盘
    CPU配置MYSQL的IO线程与CPU核数一致。通过以下命令查看当前配置的配置,默认4#showvariableslike‘%_io_threads’;只能通过修改配置文件来修改以上的配置innodb_read_io_threads=16innodb_read_write_threads=16配置后需要重启MYSQL服务内存超过4G内存则需要CPU支持64位......
  • LightDB-A 支持oracle执行计划下推
    LightDB-A支持创建外部表,外部数据源可以是oracle,postgresql等.在LightDB-A创建oracleserver和用户映射:CREATESERVERoradbFOREIGNDATAWRAPPERoracle_fdwOPTIONS(dbserver'//x.x.x.x:1521/test');GRANTUSAGEONFOREIGNSERVERoradbTOfj;CREATEUSERMAPPING......
  • The MySQL server is running with the --skip-grant-tables option so it cannot exe
     TheMySQLserverisrunningwiththe--skip-grant-tablesoptionsoitcannotexecutethisstatement 默认情况下,启动MySQL数据库实例期间,会读取所有的权限表条目到内存中,后续被缓存到内存中的权限条目作为依据即刻对后续的控制访问生效(传送门)。使用"skip-grant-tab......