首页 > 其他分享 >DataX,Data-Web 搭建以及同步数据

DataX,Data-Web 搭建以及同步数据

时间:2022-12-16 13:56:42浏览次数:47  
标签:Web usr tar root local DataX mysql Data datax

DataX服务搭建

环境配置

  • jdk
1. 下载jdk包(centos下载tar包)

2. 解压到指定目录
  root# tar -zxvf jdk-8u291-linux-x64.tar.gz -C /usr/local/environment

3. 配置jdk环境信息
  root# vi /etc/profile
  添加
  export JAVA_HOME=/usr/local/environment/jdk1.8.0_291
  export PATH=$JAVA_HOME/bin:$PATH
  export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib

4. 检查是否安装成功
  java -version
  出现以下即成功
  java version "1.8.0_291"
  Java(TM) SE Runtime Environment (build 1.8.0_291-b10)
  Java HotSpot(TM) 64-Bit Server VM (build 25.291-b10, mixed mode)

datax安装

下载datax安装包

1. 解压到指定目录
root# tar -zxvf datax.tar.gz -C /usr/local/ware

2. 执行测试用例
root# python datax.py ../job/job.json

DataX-Web服务搭建

下载datax-web安装包

1. 解压到指定目录
root# tar -zxvf datax-web-2.1.2 -C /usr/local/ware

2. 配置DataX-Web数据源
[root@localhost datax-web-2.1.2]# vi modules/datax-admin/conf/bootstrap.properties
修改
#Database
DB_HOST=101.37.119.129
DB_PORT=3306
DB_USERNAME=root
DB_PASSWORD=password
DB_DATABASE=dataxweb

3. 指定datax运行脚本
[root@localhost datax-web-2.1.2]# vi modules/datax-executor/bin/env.properties
修改
## PYTHON脚本执行位置
#PYTHON_PATH=/home/hadoop/install/datax/bin/datax.py
PYTHON_PATH=/usr/local/ware/datax/bin/datax.py

4. 查看数据库驱动是否一致,保证mysql驱动与同步的mysql版本一致
[root@localhost ware]# find datax/ -name "mysql-conn*"
datax/plugin/reader/mysqlreader/libs/mysql-connector-java-8.0.22.jar
datax/plugin/writer/mysqlwriter/libs/mysql-connector-java-8.0.22.jar

同步数据

标签:Web,usr,tar,root,local,DataX,mysql,Data,datax
From: https://www.cnblogs.com/zouxiaoao/p/16981552.html

相关文章

  • Datawhale团队第三期录取名单!
     Datawhale团队 公示:Datawhale组织成员Datawhale已经成立一年半了,从一开始的12个人,学习互助,到提议建立开源组织,做更多开源的事情,帮助更多学习者,也促进我们更好地成长。于......
  • 分享Go书籍-《Go Web编程》
    大家好,我是沙漠尽头的狼。最近几天在看一本Go的书籍,看了100来页,感觉不错,分享给大家。书籍基本信息书籍信息:书名:GoWeb编程作者:(新加坡)郑兆雄(SauSheongChang)著;黄健......
  • sb+websocket实例
    1、pom.xml<dependencies><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-sta......
  • IDEA中 maven webapp项目和springboot项目 配置热加载(热交换)1.4Tomcat部署时war和war
    目录​​1、提前说明​​​​1.1、idea汉化​​​​1.2idea的项目类型说明​​​​1.3ideawebapp配置tomcat并启动 ​​​​1.4Tomcat部署时war和warexploded区别​​......
  • hands-on-data-analysis 第三单元 模型搭建和评估
    hands-on-data-analysis第三单元模型搭建和评估文章目录​​hands-on-data-analysis第三单元模型搭建和评估​​​​1.模型搭建​​​​1.1.导入相关库​​​​1.2.数据......
  • Auzre DevOps webhook
    目录概述实现web项目配置C#示例代码AzureDevops配置概述使用微软官方的类库(Microsoft.AspNet.WebHooks.Receivers)使用说明:https://docs.microsoft.com/en-us/asp......
  • Could not remove dir '/data/data/com./code_cache/.ll/': No such file or director
    在使用androidstudiobuild项目的时候虽然报错是这样的但这个报错的本质跟这个没关系而是leancloud的代码原因以及之前的报错是这样的Couldnotgetpackageuserid......
  • 在javaweb中使用Druid连接池
    今天在javaweb中尝试用druid来链接数据库,遇到了无法加载druid.properties的问题这是我在DruidUtil的原代码:Propertiesproperties=newProperties();properties.load......
  • 通过 CancellationToken 提高 Web 性能
    https://www.cnblogs.com/newbe36524/p/16975042.html 在Web开发中,经常会遇到这样的场景:用户发起一个请求,Web服务器执行一些计算密集型的操作,等待结果返回给用户。这......
  • 工作中遇到的问题-datagrid表格显示的问题
       关于作者:郑云飞,程序员Java(web前端,web后端,oracle数据库ormysql数据库)       下班之余,没事干写的东西吧,最近下班都很晚的,到家也就8,9,10来点了。看个电影......