首页 > 其他分享 >Sqoop介绍以及安装测试

Sqoop介绍以及安装测试

时间:2022-11-11 16:37:51浏览次数:85  
标签:bin Sqoop admin sqoop modules 测试 home 安装


一、Sqoop简介

Apache Sqoop(TM)是一款用于hadoop和关系型数据库之间数据导入导出的工具。你可以通过sqoop把数据从数据库(比如mysql,oracle)导入到hdfs中;也可以把数据从hdfs中导出到关系型数据库中。sqoop通过Hadoop的MapReduce导入导出,因此提供了很高的并行性能以及良好的容错性。

Sqoop于2012年3月孵化出来,现在是一个顶级的Apache项目。

最新的稳定版本是1.4.6。Sqoop2的最新版本是1.99.7。请注意,1.99.7与1.4.6不兼容,且没有特征不完整,它并不打算用于生产部署。

Sqoop介绍以及安装测试_hadoop

sqoop适合以下的人群使用:

  • 系统和应用开发者
  • 系统管理员
  • 数据库管理员
  • 数据分析师
  • 数据工程师

 

二、Sqoop原理

将导入或导出命令翻译成mapreduce程序来实现。

在翻译出的mapreduce中主要是对inputformat和outputformat进行定制。

三、Sqoop安装

安装Sqoop的前提是已经具备Java和Hadoop的环境。

3.1、下载并解压

1) 最新版下载地址:​​http://mirrors.hust.edu.cn/apache/sqoop/1.4.6/​

2) 上传安装包sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz到虚拟机中,如我的上传目录是:/home/admin/softwares/installation

3) 解压sqoop安装包到指定目录,如:

$ tar -zxf sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz -C ~/modules/

3.2、修改配置文件

Sqoop的配置文件与大多数大数据框架类似,在sqoop根目录下的conf目录中。

1) 重命名配置文件

$ mv sqoop-env-template.sh sqoop-env.sh
$ mv sqoop-site-template.xml sqoop-site.xml

 

2) 修改配置文件

sqoop-env.sh

export HADOOP_COMMON_HOME=/home/admin/modules/hadoop-2.7.2
export HADOOP_MAPRED_HOME=/home/admin/modules/hadoop-2.7.2
export HIVE_HOME=/home/admin/modules/apache-hive-1.2.2-bin
export ZOOKEEPER_HOME=/home/admin/modules/zookeeper-3.4.5
export ZOOCFGDIR=/home/admin/modules/zookeeper-3.4.5

 

3.3、拷贝JDBC驱动

拷贝jdbc驱动到sqoop的lib目录下,如:

$ cp -a mysql-connector-java-5.1.27-bin.jar ~/modules/sqoop-1.4.6.bin__hadoop-2.0.4-alpha/lib/

3.4、验证Sqoop

我们可以通过某一个command来验证sqoop配置是否正确:

$ bin/sqoop help
出现一些Warning警告(警告信息已省略),并伴随着帮助命令的输出:
Available commands:
codegen Generate code to interact with database records
create-hive-table Import a table definition into Hive
eval Evaluate a SQL statement and display the results
export Export an HDFS directory to a database table
help List available commands
import Import a table from a database to HDFS
import-all-tables Import tables from a database to HDFS
import-mainframe Import datasets from a mainframe server to HDFS
job Work with saved jobs
list-databases List available databases on a server
list-tables List available tables in a database
merge Merge results of incremental imports
metastore Run a standalone Sqoop metastore
version Display version information

 

3.5、测试Sqoop是否能够成功连接数据库

$ bin/sqoop list-databases --connect jdbc:mysql://linux01:3306/ --username root --password 123456
出现如下输出:
information_schema
metastore
mysql
performance_schema

标签:bin,Sqoop,admin,sqoop,modules,测试,home,安装
From: https://blog.51cto.com/u_12654321/5845133

相关文章

  • CentOS7 安装mysql8
    1、下载并解压mysql安装包https://downloads.mysql.com/archives/community/  放到服务器后解压-C放到指定文件夹tar-xvfmysql-8.0.30-linux-glibc2.12-x86......
  • Harbor离线安装
    1、Harbor安装方式:在线安装、离线安装、源码安装、helmchart、Operation安装2、Docker-CE安装3、docker-compose安装4、下载离线安装包wgethttps://github.com......
  • 【HarmonyOS】【FAQ】使用hdc命令安装hap包时,出现以下错误: failed to install bundle.
    【问题描述】hap包大小为121M,使用hdc命令安装时,出现以下错误提示:[Info]Appinstallpath:D:\OpenHarmony\WorkSpace\map\entry\build\default\outputs\default\entry-defaul......
  • 软件测试
    一.selenium自动化测试---测试工具1.定位ByIDdriver.findElement(By.id(<elementID>))定位元素使用ID属性Bynamedriver.findElement(By.name(<elementname>))......
  • jmeter压力测试 设置一秒发送一次请求,一秒两次请求
    使用jmeter进行压力测试,测试情况有1.一秒钟投1次请求(一个线程)持续30分钟的情况2.一秒钟发送2次请求(两个线程) 持续30分钟的情况下面说一下如何使用jmeter测试这两种......
  • 中威电子软件测试工程师面试题【杭州多测师】【杭州多测师_王sir】
    中威电子:1、bug的状态2、ui自动化,什么时候做3、接口自动化,什么时候做4、项目流程5、测试需要多长时间(只测)6、开发是搞一部分测一部分,还是等开发全部写完再测7、python的......
  • 【HarmonyOS】【FAQ】使用hdc命令安装hap包时,出现以下错误: failed to install bundle.
    【问题描述】hap包大小为121M,使用hdc命令安装时,出现以下错误提示:[Info]Appinstallpath:D:\OpenHarmony\WorkSpace\map\entry\build\default\outputs\default\entry-defau......
  • Windows和Centos7安装uWSGI
    uWSGI是一个Web服务器,它实现了WSGI协议、uwsgi、http等协议。Nginx中HttpUwsgiModule的作用是与uWSGI服务器进行交换。WSGI是一种Web服务器网关接口。它是一个Web服务器(如n......
  • vm ware 安装 ubuntu server linux
    在:https://ubuntu.com/download/server中下拉找到“UbuntuServer20.04LTS”,下载ISO. 在VMWARE中,如果鼠标和键盘被虚拟机占用,想切回主机,记得按CTRL+ALT 。 ......
  • 性能测试岗位能力模型
    星球有同学向我提了一个问题:目前在做性能测试岗位的职级划分和能力模型定义的的工作,想咨询下性能测试岗位按照初/中/高/资深/专家,不同职级应该具备哪些能力,如何衡量这些......