首页 > 其他分享 >每日总结|9.21-Hive搭建及报错解决方案

每日总结|9.21-Hive搭建及报错解决方案

时间:2023-09-21 17:24:03浏览次数:35  
标签:bin opt 9.21 HIVE hive 报错 Hive HOME

搭建

安装hive

apache-hive-3.1.2-bin.tar.gz 上传到 linux /opt/software 目录下

 

解压 apache-hive-3.1.2-bin.tar.gz /opt/module/目录下面

tar -zxvf /opt/software/apache-hive-3.1.2-bin.tar.gz -C /opt/module/

修改 apache-hive-3.1.2-bin.tar.gz 的名称为 hive 

 mv apache-hive-3.1.2-bin/ hive

修改/etc/profile.d/my_env.sh,添加环境变量

sudo vim /etc/profile.d/my_env.sh 

添加内容

#HIVE_HOME 
export HIVE_HOME=/opt/module/hive 
export PATH=$PATH:$HIVE_HOME/bin
保存后运行-> source /etc/profile

初始化元数据库

bin/schematool -dbType derby -initSchema 

启动并使用 Hive

启动 Hive

bin/hive

使用 Hive 

 show databases; 
show tables;

Hive 元数据配置到 MySQL 

将 MySQL 的 JDBC 驱动拷贝到 Hive 的 lib 目录下

cp /opt/software/mysql-connector-java-5.1.37.jar $HIVE_HOME/lib 

 配置 Metastore MySQL 

在$HIVE_HOME/conf 目录下新建 hive-site.xml 文件

vim $HIVE_HOME/conf/hive-site.xml

插入如下内容

<?xml version="1.0"?> 
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?> 
<configuration> 
<!-- jdbc 连接的 URL --> 
<property> 
<name>javax.jdo.option.ConnectionURL</name> 
<value>jdbc:mysql://hadoop102:3306/metastore?useSSL=false</value> 
</property> 
<!-- jdbc 连接的 Driver--> 
<property> 
<name>javax.jdo.option.ConnectionDriverName</name> 
<value>com.mysql.jdbc.Driver</value> 
</property> 
<!-- jdbc 连接的 username--> 
<property> 
<name>javax.jdo.option.ConnectionUserName</name> 
<value>root</value> 
</property> 
<!-- jdbc 连接的 password --> 
<property> 
<name>javax.jdo.option.ConnectionPassword</name> 
<value>root</value> 
</property> 
<!-- Hive 元数据存储版本的验证 --> 
<property> 
<name>hive.metastore.schema.verification</name> 
<value>false</value> 
</property> 
<!--元数据存储授权--> 
<property> 
<name>hive.metastore.event.db.notification.api.auth</name> 
<value>false</value> 
</property> 
<!-- Hive 默认在 HDFS 的工作目录 --> 
<property>
<name>hive.metastore.warehouse.dir</name> 
<value>/user/hive/warehouse</value> 
</property> 
</configuration> 

注意jdbc的url改成自己的!

登陆 MySQL 

mysql -uroot -proot

新建 Hive 元数据库

create database metastore; 
quit;

初始化 Hive 元数据库

schematool -initSchema -dbType mysql -verbose

再次启动Hive

bin/hive 

使用 Hive 

hive> show databases; 
hive> show tables; 
hive> create table test (id int); 
hive> insert into test values(1); 
hive> select * from test;

插入的时候如果一直停在

set mapreduce.job.reduces=<number>

 是由于yarn没有启动的问题,或者是启动机器ip不一致的问题:将启动脚本和yarn-site.xml中的resourcemanager节点对应起来就会解决

 

标签:bin,opt,9.21,HIVE,hive,报错,Hive,HOME
From: https://www.cnblogs.com/gbrr/p/17720444.html

相关文章

  • 2023.9.21——每日总结
    学习所花时间(包括上课):9h代码量(行):0行博客量(篇):1篇今天,上午上课,下午上课。我了解到的知识点:1.了解了关于模型训练的一些知识和注意事项;2.了解了关于软件构造的一些知识,明日计划:1.完成Hive的测试;......
  • 从零开始的32小车/diary/9.21
    今上午起晚了,一百多个毕设就剩这一个了。也算是为了应付毕设,开卷。 题目:机场智能行李车系统的设计与实现实现行李车定位、非特定人语音识别、循迹避障等,实现一款通过语音交互与乘客进行沟通的可以为机场乘客领路、陪伴乘客完成登机前准备工作的机场智能行李车。需要知识点:嵌入......
  • 9.21 英语精读
    高铁化妆 Apublicservicevideoabout"uncivilisedbehavior"onboardChina'smuch-laudedhigh-speedtrainsappearstohavecomeofftherailsamidaccusationsthatitsinglesoutwomen.Thevideoappearstohavebeenintendedtoencourage......
  • docker容器中打开gazebo等可视化页面报错No protocol specified
    转载:https://blog.csdn.net/wsl_longwudi/article/details/127005162权限问题Noprotocolspecified问题这是由于X11服务默认只允许『来自本地的用户』启动的图形程序将图形显示在当前屏幕上。解决的办法很简单,允许所有用户访问X11服务即可。这个事情可以用xhost命令完成在宿主......
  • PHP 导出 Excel 报错: Formula Error: An unexpected error occurred
    1.问题描述一个项目中用到了需要将用户手机号导出到Excel,最初写完测试是正常的,如下图所示 在后来的某一天,导出手机号突然出现了报错,如下图所示 通过提示我们将问题定位在了B列4867行。这是因为在excel中,单元格中的值如果是以“=”开头,则说明这个单元格是根据其......
  • kubernetes初始化时报错:CRI v1 runtime API is not implemented for endpoint \"unix
    近日,进行Kubernetes初始化时报错如下:[root@k8s-master~]#kubeadminit--kubernetes-version=v1.28.2--pod-network-cidr=10.244.0.0/16--service-cidr=10.96.0.0/12--apiserver-advertise-address=10.10.10.185[init]UsingKubernetesversion:v1.28.2[preflight]Runn......
  • hive安装配置
    requirement:   Java1.6   Hadoop0.20.x.ref:https://cwiki.apache.org/confluence/display/Hive/GettingStarted#GettingStarted-InstallingHivefromaStableRelease1)downloadhivehttp://hive.apache.org/releases.html2)InstallingHivetarzxvfhive-0.7.0-bin.tar......
  • HADOOP集群、hive、derby安装部署详细说明
    一、创建用户groupaddanalyzer-fuseraddanalyzer-d/opt/analyzer-ganalyzer-psearchanalyzer二、处理/etc/hosts文件三、设置免密码登录(多台机器的id_rsa.pub,相互拷贝)生成公钥、密钥:ssh-keygen-trsa复制本地id_rsa.pub到远程服务器,使远程服务器登录本地可以免密码scp s......
  • 利用sqoop将hive数据导入导出数据到mysql
    运行环境 centos5.6  hadoop hivesqoop是让hadoop技术支持的clouder公司开发的一个在关系数据库和hdfs,hive之间数据导入导出的一个工具在使用过程中可能遇到的问题:sqoop依赖zookeeper,所以必须配置ZOOKEEPER_HOME到环境变量中。sqoop-1.2.0-CDH3B4依赖hadoop-core-0.20.2-......
  • 关于ResultSet.last()方法报错问题的解决
    今天看到这样的一个文章,感觉写的挺好,就把它拿过来收藏一下,也与大家分享一下。有位朋友在使用ResultSet.last时,遇到了这样的问题java.sql.SQLException:[Microsoft][SQLServer2000DriverforJDBC]Unsupportedmethod:ResultSet.last。 在不想再次通过查询数据库得到记录条数的......