首页 > 数据库 >利用sqoop将某一数据库从MySQL导入hive

利用sqoop将某一数据库从MySQL导入hive

时间:2024-09-20 18:50:54浏览次数:10  
标签:-- 数据库 sqoop jar hive MySQL import

首先,为防止报错,将两个驱动包装在sqoop中:commons-lang-2.6.jar和hive-common-3.1.2.jar

一般hive中都会有这两个驱动包,因此可执行如下命令:

cp /opt/installs/hive/lib/commons-lang-2.6.jar /opt/installs/sqoop/lib/
cp /opt/installs/hive/lib/hive-common-3.1.2.jar /opt/installs/sqoop/lib/

第一步:在hive中创建数据库

在hive中创建一个数据库:

create database finance;

第二步:复制MySQL中表的名字

在mysql数据库,查询目标数据库下的所有表名,复制到你指定的文件中(如:/root/tables.txt)

select table_name from information_schema.`TABLES` where table_schema = '数据库名称'

第三步:编辑运行脚本

在home目录下,创建目录
mkdir scripts
cd scripts

编写脚本:   import.sh
指定权限:chmod 777 import.sh

#!/bin/bash
while read x1
do
   sqoop import --connect jdbc:mysql://shucang:3306/jrxd?zeroDateTimeBehavior=convertToNull \
    --driver com.mysql.cj.jdbc.Driver \
    --username root \
    --password 123456 \
    --table $x1 \
    --hive-import \
    --hive-overwrite \
    --hive-table ods_$x1 \
    --hive-database finance \
    --null-non-string   '\\N' \
    --null-string  '\\N'  \
    -m 1	
done < /root/tables.txt 
//表名文件路径

最后一步:运行脚本

标签:--,数据库,sqoop,jar,hive,MySQL,import
From: https://blog.csdn.net/A12345689B/article/details/142368468

相关文章

  • 流浪动物领养系统网站设计与实现[SSM+MySQL+JSP]
    目录系统展示项目背景系统设计总结系统展示项目背景当前社会各行业领域竞争压力非常大,随着当前时代的信息化,科学化发展,让社会各行业领域都争相使用新的信息技术,对行业内的各种相关数据进行科学化,规范化管理。这样的大环境让那些止步不前,不接受信息改革带来的信息技术......
  • 案例269购物商城网站的设计与实现[SSM+MySQL+Vue]
    目录系统展示项目背景系统设计总结系统展示项目背景网络技术和计算机技术发展至今,已经拥有了深厚的理论基础,并在现实中进行了充分运用,尤其是基于计算机运行的软件更是受到各界的关注。计算机软件可以针对不同行业的营业特点以及管理需求,设置不同的功能,可以符合各个行......
  • 基于spring boot+vue+mysql的汽车评论分类系统
    结尾名片获取源码开发语言:Java框架:SpringBoot持久化框架:Mybatis-plusJDK版本:JDK1.8服务器:tomcat7\8\9数据库:mysql5.7以上数据库工具:Navicat11以上开发软件:eclipse/myeclipse/ideaMaven:Maven3.5.4浏览器:谷歌浏览器\Edge功能描述随着科学技术的飞速发展,社会的方方......
  • 基于spring boot+vue+mysql的电子招投标系统
    结尾名片获取源码开发语言:Java框架:SpringBoot持久化框架:Mybatis-plusJDK版本:JDK1.8服务器:tomcat7\8\9数据库:mysql5.7以上数据库工具:Navicat11以上开发软件:eclipse/myeclipse/ideaMaven:Maven3.5.4浏览器:谷歌浏览器\Edge功能描述随着信息技术的不断发展,电子招投标......
  • 时代变了,MySQL 早已不是最流行的数据库了
    以下文章来源于古时的风筝,作者风筝在StackOverflow上看到2024年技术趋势,关于数据库的部分,PostgreSQL是开发人员使用最多的数据库,超过MySQL了。虽然在国内好像不是这样。PostgreSQL在2018年的开发者调查中首次亮相,当时有33%的开发者正在使用它。而当年最受欢迎的还是MySQ......
  • HiveServer2 文件描述符泄漏
     现象用户反馈hs2打开的文件描述符的数量一直在涨,但是当前hs2的连接只有个位数。 排查过程首先找到hs2进程持有了哪些文件描述符,通过lsof命令lsof-p$pid,看到hs2进程确实在/data/emr/hive/tmp/operation_logs/目录下打开了大量描述符在jira中找到一......
  • 04-Mysql索引优化实战一
    示例表CREATETABLE`employees`(`id`int(11)NOTNULLAUTO_INCREMENT,`name`varchar(24)NOTNULLDEFAULT''COMMENT'姓名',`age`int(11)NOTNULLDEFAULT'0'COMMENT'年龄',`position`varchar(20)NOTNULLDEFAULT......
  • 05-Mysql索引优化实战二
    分页查询优化1示例表:2CREATETABLE`employees`(3 `id`int(11)NOTNULLAUTO_INCREMENT,4 `name`varchar(24)NOTNULLDEFAULT''COMMENT'姓名',5 `age`int(11)NOTNULLDEFAULT'0'COMMENT'年龄',6 `position`varchar(20)NOTNUL......
  • docker 安装 mysql 详细教程
    1.打开docker目录cd/usr/local/mkdirdocker2.创建mysql文件夹/usr/local/dockermkdirmysql3.打开mysql文件夹cdmysql/4.创建配置文件目录mkdirconfig5.打开configcdconfig/6.编写配置文件vimmy.cnf[client]#端口号port=3306[mysql]no-be......
  • MyFlash MySQL数据恢复实战案例:将MySQL Docker容器误删除DELETE的数据进行闪回恢复
    创建MySQL容器mkdir-p{data,conf.d}cat>conf.d/log-bin.cnf<<-EOF[mysqld]log_bin=mysql-binlogserver_id=1EOFdockerrm-fmysqldockerrun-d--namemysql-eMYSQL_ROOT_PASSWORD=123456-p3306:3306-v/etc/localtime:/etc/localtime-v./data:......