首页 > 数据库 >seatunnel-2.3.3测试excel入库mysql

seatunnel-2.3.3测试excel入库mysql

时间:2024-01-31 19:13:47浏览次数:28  
标签:seatunnel name area excel source mysql table

1.背景

客户需要excel导入功能,同时支持导入多种数据源,尝试用seatunnel数据集成工具来实现。

2.步骤

2.1 配置文件

./config/v2.excel2mysql.config

env {
  # You can set SeaTunnel environment configuration here
  execution.parallelism = 1
  job.mode = "BATCH"
}

source {
    LocalFile {
        schema {
            fields {
                area_id = string
                area_name = string
                area_age = int
            }
        }
        path = "/data/upload_files/test.xlsx"
        file_format_type = "excel"
        sheet_name = "Sheet1"
        result_table_name = "faker"
        parallelism = 1
        delimiter = "#"
        skip_header_row_number = 1
    }
}

transform {
  Sql {
    source_table_name = "faker"
    result_table_name = "faker1"
    query = "select area_id, area_name, area_age from faker"
  }
}

sink {
   # Console {
   #     source_table_name = "faker1"
   # }
    Jdbc {
        url = "jdbc:mysql://132.151.9.1:3306/test"
        driver = "com.mysql.cj.jdbc.Driver"
       
        source_table_name = "faker1" 
        max_retries = 0
        user = "root"
        password = "123"
        query = "insert into dim_area(area_id, area_name, sort_id) values(?, ?, ?)"
    
        is_exactly_once = "true"
        xa_data_source_class_name = "com.mysql.cj.jdbc.MysqlXADataSource"
    } 
}

2.2 执行

./bin/seatunnel.sh -c ./config/v2.excel2mysql.config -e local

3. 引用

Seatunnel官网
教你完美避坑,从头到尾开发一个 SeaTunnel Connector
jar和sources.jar及javadoc.jar的作用
seatunnel及web安装常见问题与解决方法

标签:seatunnel,name,area,excel,source,mysql,table
From: https://www.cnblogs.com/route/p/17999919

相关文章

  • [office] excel表格锁定单元格不滚动的设置方法
    excel表格锁定单元格不滚动的设置方法1.打开需要修改的表格,在表格主页面中找到上方视图选项,点击该选项进入视图页面。2.在视图页面中找到冻结窗格选项,点击该选项进入至冻结窗格页面中。3.在冻结窗格页面中找到冻结首行选项即可固定该表格中的首行单元格。4.在冻结窗格页面中找到冻......
  • [office] excel中固定首行的教程
    Excel中首行具体该如何固定呢?接下来是小编为大家带来的excel中固定首行的教程,供大家参考。步骤1:在最上面菜单栏点击视图,然后找到“冻结窗格”,在下拉菜单中选择“冻结首行”。步骤2:接着,就可以滚动鼠标滚轮,查看效果了excel中固定首行的教程(二)步骤1:打开一个excel文件......
  • 数据库MySQL8.0.29安装与备份||了解和掌握MySQL的安装和简单使用和备份数据
    内容:了解和掌握MySQL的安装和简单使用:(1) 了解安装MySQL的软硬件环境和安装方法;(2) 熟悉MySQL的相关基本使用;(3) 熟悉MySQL的构成和相关工具;(4) 通过MySQL的使用来理解数据库系统的基本概念。要求:1. 在微机上安装MySQL数据库系统,为后续实验搭建实验环境,提供前期准备;2. 完成实......
  • Mysql中索引的描述设计
    Mysql中索引的描述设计1,索引是占用存储空间的2,my_myisam.myi和account.ibd存放索引3,查询效率提高,增删改效率降低;索引表以查询为主索引结构 二叉树结构一个根节点下只能有两个节点,当子节点比根节点小在左侧,当比根节点大在二叉树右侧缺点:大数据量时,检索慢,如果都比根节点小会......
  • MySQL介绍
    数据库的由来和基本概念什么是数据库?|Oracle中国【一】数据的发展史早期未出现互联网前,每个人都只可以在本地存储,且存储的数据格式都是根据每个人的需要自由定义的出现网络后,可以在局域网内进行多台计算机的数据共享,而这时,数据的格式只能由人为约束,约定俗成好一套数据存......
  • Mysql中存储引擎InnoDB,MyISAM,MEMORY比较
    Mysql中存储引擎InnoDB,MyISAM,MEMORY比较showENGINES--查看数据库支持的搜索引擎ENGINE=InnoDB--使用的InnoDB引擎CREATETABLE`user1`(`id`bigint(20)NOTNULLDEFAULT'0',`name`varchar(255)DEFAULTNULL,`age`int(11)DEFAULTNULL,`sex`varchar(255)......
  • MYSQL日志
    要开启MySQL的二进制日志(binlog),需按照以下步骤进行操作:1.打开MySQL配置文件:首先,找到MySQL的配置文件my.cnf(或my.ini,视操作系统而定)。2.找到并修改binlog相关配置:在配置文件中找到以下几个参数,如果没有则手动添加:[mysqld]log-bin=mysql-bin#开启binlog,设置binlog......
  • MySQL大表分页查询的坑以及解决方案
    最近在做一个需求,需求内容中有一个功能点是查询指定用户标签里的用户id,这里做了分页查询,分页查询是用mysql的LIMIT设置offset和size值来实现的。在程序执行过程中会发现,如果查询的用户标签数据量很大时会出现慢查询告警,这里已经对mysql表的标签名称和用户id字段都加了索引,并且limi......
  • [office] Excel 2019新增功能 MINIFS函数 介绍
    定义:返回一组给定条件所指定的单元格的最小值。语法结构如下:MINIFS(min_range,criteria_range1,criteria1,[criteria_range2,criteria2],...)min_range(必需)参数指的是确定最小值的实际单元格区域;criteria_range1(必需)参数指的是一组用于条件计算的单元格;criteria1(必需)参数指的是用于......
  • [office] excel中设置公式的方法步骤详解
    Excel是一个办公很经常用到的一个办公软件,他主要用于数据的分析、查看、对比等,让数据看起来更直观,更容易对比,而有很多时候需要设置打钩来登记相关信息,现在请欣赏小编带来的excel中设置公式教程。excel中设置公式教程一:直接输入公式excel中设置公式步骤1:选定需要输入公......