首页 > 其他分享 >搭建Hadoop环境

搭建Hadoop环境

时间:2024-03-18 21:33:07浏览次数:13  
标签:opt Hadoop sudo 环境 防火墙 hadoop sh 搭建

操作系统:centos操作系统。

Hadoop 3.3:Java 8和Java 11

Hadoop 3.0.x~3.2.x:Java 8

Hadoop 2.7.x~2.10.x:Java 7和Java 8

步骤一:安装JDK

执行以下命令,下载JDK 1.8安装包。

wget https://download.java.net/openjdk/jdk8u41/ri/openjdk-8u41-b04-linux-x64-14_jan_2020.tar.gz

执行以下命令,解压下载的JDK 1.8安装包。
tar -zxvf openjdk-8u41-b04-linux-x64-14_jan_2020.tar.gz

执行以下命令,移动并重命名JDK安装包。

本示例中将JDK安装包重命名为java8,您可以根据需要使用其他名称。

sudo mv java-se-8u41-ri/ /usr/java8

执行以下命令,配置Java环境变量。

如果您将JDK安装包重命名为其他名称,需将以下命令中的java8替换为实际的名称。
sudo sh -c "echo 'export JAVA_HOME=/usr/java8' >> /etc/profile"
sudo sh -c 'echo "export PATH=\$PATH:\$JAVA_HOME/bin" >> /etc/profile'
source /etc/profile

执行以下命令,查看JDK是否成功安装。

java -version
返回类似如下信息,表示JDK已安装成功。

步骤二:安装Hadoop

执行以下命令,下载Hadoop安装包。
wget https://mirrors.bfsu.edu.cn/apache/hadoop/common/hadoop-3.2.4/hadoop-3.2.4.tar.gz

执行以下命令,将Hadoop安装包解压至/opt/hadoop。

sudo tar -zxvf hadoop-3.2.4.tar.gz -C /opt/
sudo mv /opt/hadoop-3.2.4 /opt/hadoop

执行以下命令,配置Hadoop环境变量。
sudo sh -c "echo 'export HADOOP_HOME=/opt/hadoop' >> /etc/profile"
sudo sh -c "echo 'export PATH=\$PATH:/opt/hadoop/bin' >> /etc/profile"
sudo sh -c "echo 'export PATH=\$PATH:/opt/hadoop/sbin' >> /etc/profile"
source /etc/profile

执行以下命令,修改配置文件yarn-env.sh和hadoop-env.sh。
sudo sh -c 'echo "export JAVA_HOME=/usr/java8" >> /opt/hadoop/etc/hadoop/yarn-env.sh'
sudo sh -c 'echo "export JAVA_HOME=/usr/java8" >> /opt/hadoop/etc/hadoop/hadoop-env.sh'

执行以下命令,测试Hadoop是否安装成功。
hadoop version

步骤三:配置Hadoop

修改Hadoop配置文件core-site.xml。

执行以下命令,进入编辑页面。

sudo vim /opt/hadoop/etc/hadoop/core-site.xml
输入i,进入编辑模式。

节点内,插入如下内容。

<property>
    <name>hadoop.tmp.dir</name>
    <value>file:/opt/hadoop/tmp</value>
    <description>location to store temporary files</description>
</property>
<property>
    <name>fs.defaultFS</name>
    <value>hdfs://localhost:9000</value>
</property>

按Esc,退出编辑模式,并输入:wq保存并退出。

修改Hadoop配置文件hdfs-site.xml。

执行以下命令,进入编辑页面。

sudo vim /opt/hadoop/etc/hadoop/hdfs-site.xml
输入i,进入编辑模式。

节点内,插入如下内容。

<property>
    <name>dfs.replication</name>
    <value>1</value>
</property>
<property>
    <name>dfs.namenode.name.dir</name>
    <value>file:/opt/hadoop/tmp/dfs/name</value>
</property>
<property>
    <name>dfs.datanode.data.dir</name>
    <value>file:/opt/hadoop/tmp/dfs/data</value>
</property>

按Esc,退出编辑模式,并输入:wq后保存并退出。

步骤四:配置SSH免密登录

执行以下命令,创建公钥和私钥。

ssh-keygen -t rsa
回显信息如下所示,表示创建公钥和私钥成功。

执行以下命令,将公钥添加到authorized_keys文件中。

cd .ssh
cat id_rsa.pub >> authorized_keys
chmod 0600 ~/.ssh/authorized_keys

步骤五:启动Hadoop

执行以下命令,初始化namenode 。

hadoop namenode -format
启动Hadoop。

执行以下命令,启动HDFS服务。

这个脚本会启动NameNode、SecondaryNameNode和DataNode等组件,从而启动HDFS服务。

start-dfs.sh

执行以下命令,启动YARN服务。

这个脚本会启动ResourceManager、NodeManager和ApplicationHistoryServer等组件,从而启动YARN服务。

start-yarn.sh
回显信息如下所示时,表示YARN服务已启动。

执行以下命令,可以查看成功启动的进程。

jps
成功启动的进程如下所示。

在本地浏览器地址栏输入http://IP:8088,访问YARN的Web UI界面。

通过该界面可以查看整个集群的资源使用情况、应用程序状态(比如MapReduce作业)、队列信息等。

在本地浏览器地址栏输入http://ip:9870,访问NameNode的Web UI界面。

该界面提供了有关HDFS文件系统状态、集群健康状况、活动节点列表、NameNode日志等信息。

显示如下界面,则表示Hadoop分布式环境已搭建完成。

步骤六:关闭防火墙:

查看防火墙状态
centos7
systemctl status firewalld.service
运行上述命令后,如果看到有绿色字样标注的“active(running)”,说明防火墙是开启状态。

开启防火墙
centos7
systemctl start firewalld.service
关闭防火墙
centos7
systemctl stop firewalld.service
关闭后,可查看防火墙状态,当显示disavtive(dead)的字样,说明CentOS 7防火墙已经关闭。
但要注意的是,上面的命令只是临时关闭了CentOS 7防火墙,当重启操作系统后,防火墙服务还是会再次启动。如果想要永久关闭防火墙则还需要禁用防火墙服务。

禁用防火墙服务
centos7
systemctl disable firewalld.service
查看防火墙规则
firewall-cmd –list-all
查询端口是否开放
centos7
firewall-cmd –query-port=8080/tcp
重启防火墙
firewall-cmd –reload
开放指定(如8080)端口
firewall-cmd –permanent –add-port=8080/tcp
(修改配置后需要重启防火墙)

移除某个防火墙开启的端口
firewall-cmd –permanent –remove-port=8080/tcp
(修改配置后需要重启防火墙)

参数解释:
firewall-cmd: 是Linux提供的操作firewall的一个工具;
–permanent:表示设置为持久;
–add-port:表示添加的端口。

标签:opt,Hadoop,sudo,环境,防火墙,hadoop,sh,搭建
From: https://www.cnblogs.com/kleinblue19/p/18081479

相关文章

  • Debug环境配置能编译、调试,而 Release 却不能编译,找不到opencv_world480d.lib,我的解决
    这个问题弄了好久,网上的查看了N多资料,看来问题各不相同,总是弄不好。终于弄好,总结如下几点:1、弄清楚版本号,我用的是VS2017,对应的应该是VC15。opencv_world480d.lib对应的opencv估计是不支持,其目录中只有一个VC16,奇怪的是DEBUG模式认这个手动,将opencv下的VC16改为VC15,......
  • rabbitma 详细介绍、集群搭建、镜像队列,很全缺啥和我说
    一、rabbitma介绍1、rabbitmq简介RabbitMQ是一个开源的消息代理和队列服务器,它用于通过轻量且可靠的消息在服务器之间进行通信。RabbitMQ实现了高级消息队列协议(AMQP),这一协议最初由摩根大通牵头设计,随后被多家公司采纳并推广。作为AMQP协议的开源实现,RabbitMQ可以跨多种语言......
  • labelImg macos 运行环境设置
    labelImgmacos运行环境设置MacOSbrew安装文档安装CLTforXcode,检查git/bash/curl存在xcode-select--installxcode-select:note:Commandlinetoolsarealreadyinstalled.Use"SoftwareUpdate"inSystemSettingsorthesoftwareupdatecommandlineinterf......
  • 急速搭建ChatGPT——GPT4All本地部署
    云服务器可至雨云进行购买首先打开雨云官网雨云官网网址:https://www.rainyun.com/YZJ_?s=xxx 然后登录/注册雨云(登录/注册建在右上角)  如果没注册就点击下方注册,然后如果显示“正在使用优惠通道注册”就照常输入信息 没有则优惠码填“YZJ” 推荐配......
  • 搭建springboot项目,链接数据库测试,并跑通流程
    步骤>>新建项目>>修改pom.xml文件>>创建文件mvc框架>>在主文件下创建Application启动类(注解@SpringBootApplication)>>resources文件下创建application.yml文件>>在domain下创建实体类(注解@Data)>>在mapper下创建mapper类(注解@Mapper)>>在service下创建接口>>在service下创建impl并......
  • 搭建完全分布式
    下载网络工具1.进入rootsuroot2.进入指定路径3.编辑文件viifcfg-eno*no改为yesvi文件时,i编辑模式,esc退出编辑模式,:wq保存退出,:q!退出4.重启网络服务servicenetworkrestart5.下载网络工具yuminstall-ynet-tools使用SecureCRT使用时请求超时,虚拟机可以ping主机,......
  • MySQL忘记数据库密码,怎么连接数据库(Windows环境)
    一、Navicat连接过数据库,还有连接历史记录1.找回原密码(1)打开注册列表【win+R】-->【regedit】打开注册表 (2)查找Navicat密码保存位置,找到数据库名【数据库名称ruoyi】计算机\HKEY_CURRENT_USER\SOFTWARE\PremiumSoft\Navicat\Servers\ruoyi在右侧找到pwd属性,右键点击【修改......
  • Go01-开发环境搭建+注释+基本数据类型+指针+命名规范
    Go01-开发环境搭建+注释+基本数据类型+指针+命名规范1.Go常用网站https://www.topgoer.com/,Go学习网站,包含Go基础教程、beego、lris等Go开发常用框架。Go开发软件下载:https://code.visualstudio.com/,VSCode;https://www.jetbrains.com/zh-cn/go/,GOLand。https://studygolang.c......
  • 华为openEuler系统安装openjdk并配置环境变量
    华为openEuler系统安装openjdk并配置环境变量1、安装JDK软件包执行dnflistinstalled|grepjdk查询JDK软件是否已安装。$dnflistinstalled|grepjdk查看命令打印信息,若打印信息中包含“jdk”,表示该软件已经安装了,则不需要再安装。若无任何打印信息,则表示该软......
  • WSL2 配置 tensorflow 环境
    Windows系统中更新NVIDA驱动这里可以直接通过GeforceExperience直接更新更新完成后可以在命令行/wsl中输入nvidia-smi可以看到输出这里的CUDAVersion指的是该驱动版本最高可支持的CUDA版本安装CUDA到NVIDIA官网下载符合条件的CUDA这里我一开始直接选择安装了最新版......