首页 > 数据库 >hive导入mysql

hive导入mysql

时间:2022-10-09 09:57:39浏览次数:87  
标签:dboutput nbr hive text3 导入 mysql day

hive测试——HIVE数据分析02

题目:

4、处理结果入库:(在虚拟机安装mysql)   

将上述统计分析的结果数据保存到mySQL数据库中。

 

复制代码
#text3_1入库

#1.添加驱动,在hive的lib目录下,如果有则不需要添加

add jar /export/server/hive/lib/hive-contrib-3.1.2.jar

add jar /export/server/hive/lib/mysql-connector-java-5.1.32.jar

#2.创建临时函数,需要在mysql提前创建好表


CREATE TEMPORARY FUNCTION dboutput AS 'org.apache.hadoop.hive.contrib.genericudf.example.GenericUDFDBOutput'


select dboutput('jdbc:mysql://node1:3306/hive3?useSSL=false','root','pwd','INSERT INTO text3_1(day_id, sale_nbr, cnt, round) VALUES (?, ?, ?, ?)',day_id, sale_nbr, cnt, round) from text3_1

 
复制代码

 

 

#text3_2入库
CREATE TEMPORARY FUNCTION dboutput AS 'org.apache.hadoop.hive.contrib.genericudf.example.GenericUDFDBOutput' select dboutput('jdbc:mysql://node1:3306/hive3?useSSL=false','root','pwd','INSERT INTO text3_2(day_id, sale_nbr, cnt, round) VALUES (?, ?, ?, ?)',day_id, sale_nbr, cnt, round) from text3_2

 

 

复制代码
#text3_3入库

CREATE TEMPORARY FUNCTION dboutput AS 'org.apache.hadoop.hive.contrib.genericudf.example.GenericUDFDBOutput'

 

select dboutput('jdbc:mysql://node1:3306/hive3?useSSL=false','root','pwd','INSERT INTO text3_3(day_id, sale_nbr, cnt, round) VALUES (?, ?, ?, ?)',day_id, sale_nbr, cnt, round) from text3_3

复制代码

 

#profit入库
CREATE TEMPORARY FUNCTION dboutput AS 'org.apache.hadoop.hive.contrib.genericudf.example.GenericUDFDBOutput'

select dboutput('jdbc:mysql://node1:3306/hive3?useSSL=false','root','pwd','INSERT INTO profit(day_id,sale_nbr,incnt,inround,outcnt,outround,li) VALUES (?, ?, ?, ?, ?, ?, ?)',day_id, sale_nbr,incnt,inround,outcnt,outround,li) from profit

 profit表入库使用上述方法会很慢,毕竟4900000多条数据,

下面是第二张方法,先导出为.txt文件,在使用mysql可视化工具导入

#导出为.txt,在hive的bin目录下

hive -e "select * from dbtest.profit" >> /export/software/profit.txt;

然后将虚拟机的文件传到电脑桌面,直接使用navicat导入,速度非常快。

标签:dboutput,nbr,hive,text3,导入,mysql,day
From: https://www.cnblogs.com/jyt604743080/p/16771088.html

相关文章

  • OpenEuler20.03安装mysql8.0.19
    一、准备工作1、dnfupdate更新源 rpm安装包时用2、tar安装 tar--help查看是否存在如果没有 yuminstalltar3、版本下载mysql-8.0.19-linux-glibc2.12-x86_64......
  • day08-MySQL事务
    MySQL事务先来看一个例子有一张balance表:需求:将tom的100块钱转到King账户中执行的操作是:updatebalancesetmoney=money-100whereid=100updatebalanc......
  • MYSQL-->存储过程与存储函数
    介绍存储过程是事先经过编译并且存储在数据库中的一段SQL语句的集合。调用存储过程可以简化应用开发人员的很多工作,减少数据在数据库和应用服务器之间的传输,有助于提高数......
  • Mysql基本语法
    Mysql基本语法基础概念实体实际需要关注的物体,想要描述相关的静态特征数据计算机中用于描述关注物体的静态特征的符号,将这些特征组合在一起形成了记录(reocrd)数......
  • 【bug】Column count of mysql.user is wrong. Expected 45, found 42. Created with
    问题描述:数据库进行了版本升级(5.5.31->5.7.27),兼容旧数据时报错Columncountofmysql.useriswrong.Expected45,found42.CreatedwithMySQL50531原因分析:错误是由......
  • 案例分享:Qt工程机械真空激光焊接系统软件产品定制(西门子PLC,mysql数据库,用户权限控制,界
    需求  1.触摸屏控制,按照客户需求,ui由本司美工承担设计,显示分辨率1280x1024,同时支持鼠标操作。  2.权限控制:三种权限,分为管理员(可以定制模块界面,修改产品名称等定......
  • idea关于java.lang.ClassNotFoundException: com.mysql.cj.jdbc.Driver报错的解决办法
     第一步,下载驱动 点击以下链接进入MySQL驱动下载官网 https://dev.mysql.com/downloads/connector/j/ 选择PlatformIndependent   下载第二个(zip格......
  • 《高性能MySQL 第四版》正式上市
    十年经典再更新时隔十年,《高性能MySQL》再次出版,这是该系列的第四个版本。过去十年,《高性能MySQL第三版》已经成为除了文档之外,MySQL相关开发者、DBA等从业者的必读书目,......
  • 使用POI 实现 Excel 导入导出
    使用POI实现Excel导入导出importjava.io.File;importjava.io.FileInputStream;importjava.io.FileNotFoundException;importjava.io.FileOutputStream;importjava.io......
  • python 解决安装mysqlClient失败
    运行django项目,因为我的代码需要mysqlClient,所以遇到问题记录一下直接运行安装命令pipinstall--usermysqlclient会报如下错误,查询一番之后发现只能安装wheel文件才能......