首页 > 其他分享 >Hadoop安装-分布式-Fully

Hadoop安装-分布式-Fully

时间:2022-11-05 22:35:20浏览次数:47  
标签:full Fully 配置 hadoop dfs Hadoop var namenode 分布式

Hadoop安装-分布式-Fully

〇、所需资料

一、配置

1、基础配置

(1)系统安装

(2)hostname主机名配置

(3)ip地址、dns、hosts映射文件配置

(4)关闭防火墙与selinux

(5)开启ntpd时钟同步

(6)jdk安装与环境变量配置

(7)机器克隆、配置

(8)ssh免密设置

2、部署配置

(1)包含内容

(2)hadoop环境变量配置

vi /etc/profile

(3)etc/hadoop下配置-core-site.xml

<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://hadoop01:9000</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/var/bigdata/tmp/hadoop/full</value>
</property>
</configuration>

(4)etc/hadoop下配置-hdfs-site.xml

<configuration>
<property>
<name>dfs.replication</name>
<value>2</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>/var/bigdata/hadoop/full/dfs/name</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>/var/bigdata/hadoop/full/dfs/data</value>
</property>
<property>
<name>dfs.namenode.secondary.http-address</name>
<value>hadoop02:50090</value>
</property>
<property>
<name>dfs.namenode.checkpoint.dir</name>
<value>/var/bigdata/hadoop/full/dfs/secondary</value>
</property>
</configuration>

(3)etc/hadoop下配置-slave配置dn

hadoop02
hadoop03

(4)目录分发到其他节点

scp -r ./hadoop/ hadoop02:​​pwd​

二、启动

1、nn格式化

bin/hdfs namenode -format

2、启动dfs

sbin/start-dfs.sh

三、验证

1、nn验证

2、dn验证

3、页面验证

作者:哥们要飞



标签:full,Fully,配置,hadoop,dfs,Hadoop,var,namenode,分布式
From: https://blog.51cto.com/liujinhui/5826225

相关文章

  • 【实战】Hadoop安装01-伪分布式-Pseudo
    Hadoop安装-伪分布式-Pseudo〇、所需资料一、前置环境安装1、包含内容(1)安装虚拟机安装、系统安装(2)配置ip、host、主机名配置关闭防火墙及selinuxSSH免密登录(2)基础环境安装安......
  • Hadoop安装-分布式-Fully
    Hadoop安装-分布式-Fully〇、所需资料一、配置1、基础配置(1)系统安装(2)hostname主机名配置(3)ip地址、dns、hosts映射文件配置(4)关闭防火墙与selinux(5)开启ntpd时钟同步(6)jdk安装与......
  • 【分布式技术专题】「架构实践于案例分析」盘点高并发场景的技术设计方案和规划
    自知之明是最难得的知识。高并发是什么?⾼并发(HighConcurrency)是互联⽹分布式系统架构设计中必须考虑的因素之⼀,它通常是指通过设计保证系统能够同时并⾏处理很多请求。高并......
  • 清理分布式事务时hang住
    1.清理分布式事务语句:select'rollbackforce'||''''||local_tran_id||''''||';'"RollBack"fromdba_2pc_pendingwherestate='prepared';select'execdbms_transactio......
  • 第2-1-1章 FastDFS分布式文件服务背景及系统架构介绍
    目录1背景1.1为什么需要分布式文件服务1.1.1单机时代1.1.2独立文件服务器1.1.3分布式文件系统1.2什么是FastDFS2系统架构2.1Tracker集群2.2Storage集群2.3Storag......
  • 基于 redis 实现的分布式锁(一)
    分布式锁的解决方式基于数据库表做乐观锁,用于分布式锁。(适用于小并发)使用memcached的add()方法,用于分布式锁。使用memcached的cas()方法,用于分布式锁。(不常用)使用redis......
  • 微服务分布式开源的优点体现在哪?
    随着业务量的扩大以及大数据的发展趋势,如果还是一如既往地采用单体应用的话,明显已经不能满足当前的需求了。毕竟单体应用会出现可维护性差、架构扩展性差、部署不灵活等缺......
  • 分布式列式数据存储系统Druid
    Druid是一个用于大数据实时查询与分析的分布式列式数据存储系统。为了应对海量数据的实时查询和多维分析,Druid应运而生。Druid诞生于MetaMarkets公司,而互联网广告分析正是M......
  • 分布式事务的性能设计
    分布式事务的性能设计,主要包含吞吐量和相应延迟两方面。分布式事务更适合对吞吐量要求高,对相应延迟要求不苛刻的应用。性能设计有三个层面,分别为代码优化层、算法逻辑层以及......
  • hadoop之上传文件报错.md
    问题​ 采用CDH搭建的hadoop集群环境,命令行上传文件正常,Java代码上传报如下错误couldonlybereplicatedto0nodesinsteadofminReplication(=1).Thereare3da......