首页 > 其他分享 >Sqoop的介绍和安装

Sqoop的介绍和安装

时间:2022-11-29 12:55:20浏览次数:72  
标签:bin Sqoop sqoop bigData 介绍 install derby guava 安装

sqoop下载地址:https://share.weiyun.com/woVbfnfS

或者 https://archive.apache.org/dist/sqoop/1.99.7/

Sqoop简介

  sqoop 是 apache 旗下一款“Hadoop 和关系数据库服务器之间传送数据”的工具。

   核心的功能有两个:导入、导出

   导入数据:MySQL,Oracle 导入数据到 Hadoop 的 HDFS、HIVE、HBASE 等数据存储系统

   导出数据:从 Hadoop 的文件系统中导出数据到关系数据库 mysql 等

   sqoop本质是迁移数据, 迁移的方式:就是把sqoop的迁移命令转换成MR程序

   hive本质就是执行计算,依赖于HDFS存储数据,把SQL转换成MR程序

Sqoop的安装

  (1) 解压到指定目录:

       tar -zxvf /bigData/software/sqoop-1.99.7-bin-hadoop200.tar.gz -C /bigData/install/

   (2) 修改mapreduce.configuration.directory的目录 

       cd /bigData/install/sqoop-1.99.7-bin-hadoop200/conf/

        修改sqoop.properties文件 修改org.apache.sqoop.submission.engine.mapreduce.configuration.directory=/bigData/install/hadoop-3.1.4/etc/hadoop/配置

 (3)配置环境变量

    添加export SQOOP_HOME=/bigData/install/sqoop-1.99.7-bin-hadoop200,在PATH路径下添加$SQOOP_HOME/bin路径。

 (4)添加mysql驱动 将mysql驱动包放在sqoop安装目录的server/lib目录下。

     ll |grep mysql

 

 (5) 验证配置

    ① sqoop2-tool upgrade

     若出现“Caused by: java.lang.SecurityException: sealing violation: package org.apache.derby.impl.jdbc.authentication is sealed”错误。

需要查看/bigData/install/sqoop-1.99.7-bin-hadoop200/bin目录下的derby版本信息和hive目录下的版本信息做对比。

将sqoop目录下的derby重命名

  cd /bigData/install/sqoop-1.99.7-bin-hadoop200/server/lib/

   mv derby-10.8.2.2.jar derby-10.8.2.2.jar.back

hive目录下的derby库复制过来。

   cp /bigData/install/apache-hive-3.1.2-bin/lib/derby-10.14.1.0.jar ./

使用 如下命令查看 版本是否正确

     ll *derby*

 

再次输入如下命令,验证
sqoop2-tool upgrade

   ② 继续验证 sqoop2-tool verify

      若出现“Exception in thread "main" java.lang.NoSuchMethodError: com.google.common.base.Preconditions.checkArgument(ZLjava/lang/String;Ljava/lang/Object;)V”错误,

 需要对比hive与sqoop目录下的guava库的版本:

  cd /bigData/install/apache-hive-3.1.2-bin/lib

   ll *guava*

查看sqoop下的guava版本,发现当前sqoop使用的guava版本均为11.0.2,需要修改:

   cd  /bigData/install/sqoop-1.99.7-bin-hadoop200

   find . -name *guava*

  将名称修改掉:mv ./tools/lib/guava-11.0.2.jar xxxxxxxxx/guava-11.0.2.jar.back

  然后将hive下的guava复制到sqoop目录下:cp ./server/lib/guava-27.0-jre.jar xxx/

   ② 继续验证 sqoop2-tool verify

 启动服务端/客户端

  • 启动命令   sqoop2-server start
  • 关闭命令   sqoop2-server stop

查看进程信息:

打开cli客户端命令:sqoop2-shell

标签:bin,Sqoop,sqoop,bigData,介绍,install,derby,guava,安装
From: https://www.cnblogs.com/helloworldcode/p/16935118.html

相关文章

  • docker离线安装手册
    docker下载链接:https://download.docker.com/linux/static/stable/x86_64/ 解压:tarxfdocker-20.10.9.tgz 拷贝命令到指定目录:cp-a*/usr/bin/ 编写docker......
  • linux 下安装以及配置postgresql
    1、准备好资源 下载 PostgreSQL官网下载地址  ​​https://www.postgresql.org/ftp/source/v12.2/​​​  我这里下载的是 ​​postgresql-12.2.tar.gz​​ 压缩包......
  • vue3-vite下tailwindcss安装与配置
    初始化TailwindCSS安装Tailwind以及其它依赖项:npminstall-Dtailwindcss@latestpostcss@latestautoprefixer@latest一、创建您的配置文件接下来,生成您的 t......
  • 用服务器安装电脑教程 远程连接
    教程方法;准备1.服务器一台注:购买时可选一下要用的系统2.RD客户端APP这以在某个平台买的服务器为例子!服务器出售地址www.zywln.cnRD客户端APP下载https://wwt.lan......
  • ETL工具---Kettle介绍、安装
    数据归集是把在多数据源的数据汇聚、整理、清洗、转换后,加载到一个新的数据源,为数据使用者提供统一数据视图的数据集成方式。数据归集数据归集是共享或者合并来自于两个或者......
  • 普元中间件Primeton AppServer6.5安装(Windows)
    本文在Windows环境下安装普元中间件PrimetonAppServer6.5(以下简称PAS)一、安装前准备1.1使用软件版本Primeton_AppServer_6.5_Enterprise_Editio(Windows)1.2安装前注意......
  • 002 安装docker-放弃
    1、查看是否已安装docker#yumlistinstalled|grepdocker2、安装docker#yum-yinstalldocker  是不是已经安装成功了?3、启动docker  啊哦,怎么安......
  • 003docker的安装常识
    https://www.cnblogs.com/xiaolei123/p/11918450.html早看到这篇文章就好了o(╥﹏╥)o二:安装要求      1.64位操作系统      2.至少RHEL6.5版本以上,个人强......
  • Centos 7.0 安装Mono 3.4 和 Jexus 5.6
    2013-07-26写过一篇《​​CentOS6.3下安装Mono3.2和Jexus5.4​​》,CentOS7在CentOS6的基础上有很大的调整,本文是这篇文章的更新,主要介绍CentOS7下安装Mono3.4和......
  • .NET(C#、VB)APP开发——Smobiler平台控件介绍:ArcFace人脸识别
    本文简述如何在Smobiler中使用ArcFace(虹软人脸识别)。Step1.新建一个SmobilerForm窗体,再拖入Button,Label,TextBox和AcrFace,布局如下在设计器中给MediaView.Url赋值......