首页 > 其他分享 >Hive3.1.3集群安装

Hive3.1.3集群安装

时间:2023-06-27 11:44:37浏览次数:61  
标签:xml bin Hive3.1 hive 集群 usr mysql amp 安装

一、安装mysql

Hive默认的Derby数据库一次只能打开一个会话,不支持多用户并发访问,需要替换Hive的存储引擎为mysql

1. 下载mysql安装包

wget http://dev.mysql.com/get/mysql57-community-release-el7-7.noarch.rpm

2. 安装mysql源

yum localinstall -y mysql57-community-release-el7-7.noarch.rpm

ll /etc/yum.repos.d/

3. 安装mysql

yum install mysql-community-server -y

此时安装报错

Public key for mysql-community-server-5.7.41-1.el6.x86_64.rpm is not installed

解决方案:

rpm --import https://repo.mysql.com/RPM-GPG-KEY-mysql-2022
yum install mysql-community-server -y

 

4. 启动mysql和设置开机启动

# 启动
systemctl start mysqld
# 重启
systemctl restart mysqld
# 查看状态
systemctl status mysqld
# 设置开机启动
systemctl enable mysqld
systemctl daemon-reload

修改/etc/my.cnf配置文件,配置默认编码为utf-8,
(注意其他目录不要动)

character_set_server=utf8

重启服务:

systemctl restart mysqld

5.查询默认密码并修改密码

查询默认密码:

grep 'temporary password' /var/log/mysqld.log

 使用临时密码登录mysql,密码有安全插件检测(大小写字母+数字+特殊字符,大于7位)

mysql -uroot -p
alter user 'root'@'localhost' identified by 'xxxxxx@123A';

6.创建hive数据库用户

create user 'hive'@'%' identified by 'xxxxxx@123A';
grant all privileges on *.* to 'root'@'%' identified by 'xxxxxx@123A';
grant all privileges on *.* to 'hive'@'%' identified by 'xxxxxx@123A';
flush privileges;

二、Hive安装

1.修改hive-config.sh配置

vim /usr/hive/apache-hive-3.1.3-bin/bin/hive-config.sh

文件后面添加:

export JAVA_HOME=/usr/java/jdk1.8.0_181
export HADOOP_HOME=/usr/hadoop/hadoop-3.1.3
export HIVE_HOME=/usr/hive/apache-hive-3.1.3-bin

2.下载mysql驱动

https://downloads.mysql.com/archives/c-j/
选择版本下载:

上传驱动包至hadoop160服务器的/usr/mysql目录解压

tar -zxvf mysql-connector-java-5.1.49.tar.gz

复制驱动包至$HIVE_HOME/lib目录下

cp mysql-connector-java-5.1.49-bin.jar /usr/hive/apache-hive-3.1.3-bin/lib

3.Hive配置修改

创建临时目录

mkdir /usr/hive/apache-hive-3.1.3-bin/tmp

修改hive-site.xml,更换Derby数据库的连接信息为mysql的,
vim hive-site.xml 命令模式下使用/向后查找关键字Connection,使用?向前查找,更改ConnectionPassword、ConnectionURL、ConnectionDriverName、ConnectionUserName四项配置:
如果没有 hive-site.xml   将 conf 下的 hive-default.xml.template 复制改名成hive-site.xml

<property>
    <name>javax.jdo.option.ConnectionPassword</name>
    <value>xxxxxx@123A</value>
</property>
  
<property>
    <name>javax.jdo.option.ConnectionURL</name>
    <value>jdbc:mysql://hadoop0:3306/hive?createDatabaseIfNotExist=true&amp;useUnicode=true&amp;serverTimezone=GMT%2B8&amp;characterEncoding=UTF-8&amp;zeroDateTimeBehavior=convertToNull&amp;allowMultiQueries=true&amp;autoReconnect=true&amp;rewriteBatchedStatements=true&amp;useSSL=false</value>
    </property>

<property>
    <name>javax.jdo.option.ConnectionDriverName</name>
    <value>com.mysql.jdbc.Driver</value>
   </property>
  
<property>
    <name>javax.jdo.option.ConnectionUserName</name>
    <value>hive</value>
  </property>

替换系统临时目录和用户名:

替换hive-site.xml文件中:
${system:java.io.tmpdir} 替换为 ${HIVE_HOME}/tmp
${system:user.name} 替换为 root

全局替换

4.数据库初始化和验证

初始化hive数据库:主要是在bin目录

./schematool -dbType mysql -initSchema

此时报错:

-bash: schematool: command not found

yum -y install schematool

如果此时还是报错:

Exception in thread "main" java.lang.NoSuchMethodError: com.google.common.ba

. 解决

  hadoop和hive的两个guava.jar版本不一致
  两个位置分别位于下面两个目录:
  - /usr/local/hive/lib/
  - /usr/local/hadoop/share/hadoop/common/lib/

 重新初始化此时还是报错:

./schematool -dbType mysql -initSchema

 解决方案:

打开hive-site.xml  搜索  Ensures commands with OVERWRITE (such as IN  删除这个 description 标签

 重新初始化此时还是报错: 

 请检查 hive-site.xml  中 你配的mysql 账号密码是否正确

重新执行

./schematool -dbType mysql -initSchema

 成功安装!!!!!SUCCESS

标签:xml,bin,Hive3.1,hive,集群,usr,mysql,amp,安装
From: https://www.cnblogs.com/mangoubiubiu/p/17508265.html

相关文章

  • Linux安装花生壳进行端口映射内网穿透
    1下载1.1官网下载进入 花生壳 官网,选择linux版安装包,下载,上传到服务器 1.2wget下载wget"https://down.oray.com/hsk/linux/phddns_5.2.0_amd64.rpm"-Ophddns_5.2.0_amd64.rpm 2安装执行命令rpm-ivhphddns_5.2.0_amd64.rpm安装成功......
  • 【node.js】Node.js下载安装(在vscode中使用)01
    ......
  • AU2022软件免费下载安装永久激活 破解版分享
    Audition2020中文版是一款功能全面的音频编辑工具。AdobeAuditionCC2020官方版支持杂音降噪、爆音降噪、删除静音、标记音频等功能,可以高效的进行视频制作与音频修整。通过Audition2020软件用户可以剪辑歌曲、制作母带、调试乐器等操作,帮助你修复和优化声音文件。[下载地址]:后......
  • cad2021中文版下载_cad2021简体中文版下载「附安装教程」分享
    cad2016官方版是一款专业且功能多样的图纸绘制工具。AutoCAD2016中文版优化了硬件加速效果,使其更加的无论平滑和流畅,能够用于二维绘图、详细绘制、设计文档和基本三维设计。AutoCAD2016软件全方位的更新了Dim命令,同时对图层进行了人性化的改进,操作更加方便。cad2016官方版软件介绍A......
  • cinema 4d下载-c4d软件下载2023中文版-c4d最新版本安装包分享
    c4d(cinema4d)是一款专业好用的三维模型动画创建软件。c4d下载免费中文版可提供建筑模型、游戏角色模型、动画模型等设计模型的创建,还可提供更多建模方案,用球型摄像机渲染虚拟现实,紧跟现今趋势。[下载地址]:后台私信我当前市场需要更多的创意来丰富视觉,传统的平面设计已经不能满足需......
  • 【vue2】Vue Cli脚手架与VueTools的安装详解
    ......
  • Rabbitmq:消息队列介绍、Rabbitmq安装、 基于Queue实现生产者消费者模型、基本使用(生产
    目录一、消息队列介绍1.1介绍1.2MQ解决什么问题1.3常见消息队列及比较二Rabbitmq安装2.1服务端原生安装2.2服务端Docker安装2.3客户端安装2.4设置用户和密码三基于Queue实现生产者消费者模型四基本使用(生产者消费者模型)五消息安全之ack六消息安全之durable持久化七闲置消......
  • centos7安装nvm
    1.清除nvm缓存:运行以下命令清除nvm的缓存:```rm-rf~/.nvm```2.重新安装nvm:按照以下步骤重新安装nvm:-使用curl或wget下载nvm安装脚本。例如,使用curl:```curl-o-https://raw.githubusercontent.com/nvm-sh/nvm/v0.38.0/install.sh|bash```-......
  • CentOS7 部署 k8s 集群
    CentOS7部署k8s集群BUG弄潮儿 2023-06-1020:32 发表于广东BUG弄潮儿多年开发经验,专注软件开发、架构;推送微服务,分布式,Spring全家桶,Redis,Linux,Nginx等技术,欢迎一起学习、探讨。396篇原创内容公众号K8s+Istio+Golang=微服务+服务网格+云原生0x0......
  • Go 环境安装
    Windows安装安装Go下载地址:https://studygolang.com/dl,下载安装包go1.19.windows-amd64.msi双击安装包,将软件安装到D:\ProgramFiles\Go1.19设置GOPATH工作目录:D:\gopath,并在下面新建bin、pkg、src这三个文件夹环境变量配置。系统变量中的GOAPTH这一项路径修改为......