首页 > 其他分享 >hadoop完全分布式模式

hadoop完全分布式模式

时间:2024-10-17 15:15:14浏览次数:8  
标签:src usr hadoop yarn 模式 address local 分布式

1.下载、上传、解压,添加环境变量。

tar zxf /opt/software/hadoop-2.7.6.tar.gz -C /usr/local/src

2.JAVA_HOME

hadoop-env.sh :修改JAVA_HOME

export JAVA_HOME=/usr/local/src/jdk1.8.0_181

3.NameNode

hdfs-site.xml :namenode命令的存放路径; namenode的数据存放路径; 设置备份数

<configuration>
  <property>
    <name>dfs.namenode.name.dir</name>
    <value>file:/usr/local/src/hadoop/dfs/name</value>
   </property>
  <property>
    <name>dfs.datanode.data.dir</name>   
    <value>file:/usr/local/src/hadoop/dfs/data</value>
   </property>
  <property>
    <name>dfs.replication</name>
    <value>3</value>
   </property>
</configuration>

4.HDFS

core-site.xml :hdfs的访问地址和端口;设置缓存大小;临时文件存放路径

<configuration>
  <property>
    <name>fs.defaultFS</name>
    <value>hdfs://master:9000</value>
   </property>
  <property>
    <name>io.file.buffer.size</name>
    <value>131072</value>
   </property>
  <property>
    <name>hadoop.tmp.dir</name>
    <value>file:/usr/local/src/hadoop/tmp</value>
   </property>

</configuration>

5.MapReduce

cp mapred-site.xml.template mapred-site.xml
mapred-site.xml : 设置MapReduce的资源管理器;设置MapReduce执行历史存放路径;MapReduce提供的web访问地址

<configuration>
  <property>
    <name>mapreduce.framework.name</name>
    <value>yarn</value>
   </property>
  <property>
    <name>mapreduce.jobhistory.address</name>
    <value>master:10020</value>
   </property>
  <property>
    <name>mapreduce.jobhistory.webapp.address</name>
    <value>master:19888</value>
   </property>
</configuration>

6.YARN

yarn-site : 设置yarn为客户端提供服务时进入的地址和端口;设置yarn访问MapReduce作业的进入端口;yarn汇报存活的发送端口;yarn接收对管理员命令的进入端口;yarn提供Web查看的端口;yarn允许通过nodemanager节点自定义服务

<configuration>
  <property>
    <name>yarn.resourcemanager.address</name>
    <value>master:8032</value>
   </property>
  <property>
    <name>yarn.resourcemanager.scheduler.address</name>
    <value>master:8030</value>
   </property>
  <property>
    <name>yarn.resourcemanager.resource-tracker.address</name>
    <value>master:8031</value>
   </property>
  <property>
    <name>yarn.resourcemanager.admin.address</name>
    <value>master:8033</value>
   </property>
  <property>
    <name>yarn.resourcemanager.webapp.address</name>
    <value>master:8080</value>
   </property>
  <property>
    <name>yarn.nodemanager.aux-services</name>
    <value>mapreduce_shuffle</value>
   </property>
  <property>
    <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
    <value>org.apache.hadoop.mapred.ShuffleHandler</value>
   </property>
</configuration>

7.masters

vi masters

192.168.28.130

8.slavers

vi slaves

192.168.28.130
192.168.28.131
192.168.28.132

9.分发、添加环境变量

scp -r /usr/local/src/hadoop-2.7.6 root@slaver1:/usr/local/src/
scp -r /usr/local/src/hadoop-2.7.6 root@slaver2:/usr/local/src/

10.初始化

hdfs namenode -format

11.启动集群

start-all.sh




ps:

协议:
file: 本地协议
hdfs:// hdfs协议

pps:
查看java环境变量所指位置: echo $JAVA_HOME
打tar包: tar zcvf etc.tar.gz etc
标签里不能有空格,否则节点启动不起来,会报这个错误:Incorrect configuration: namenode address dfs.namenode.servicerpc-address or dfs.namenode.rpc-address is not configured.Starting namenodes on []

NameNode  主
DataNode  从
SecondaryNameNode 主备
NodeManager  每一台机器管理自己节点的
ResourceManager  资源管理器
Jps  查看命令本身

重做以前先关闭所有节点 stop-all.sh
slaves不能关闭master的所有节点

标签:src,usr,hadoop,yarn,模式,address,local,分布式
From: https://www.cnblogs.com/used-conduit-onion/p/18456295

相关文章

  • 解析华为鸿蒙next:Web组件自适应布局与渲染模式详解
    本文旨在深入探讨华为鸿蒙HarmonyOSNext系统(截止目前API12)的技术细节,基于实际开发实践进行总结。主要作为技术分享与交流载体,难免错漏,欢迎各位同仁提出宝贵意见和问题,以便共同进步。本文为原创内容,任何形式的转载必须注明出处及原作者。Web组件大小自适应页面内容布局使用......
  • 代理模式
    静态代理静态代理是一种设计模式,用于在不改变目标对象的情况下,增加对目标对象的控制或功能。它的基本思想是创建一个代理类,该类实现与目标类相同的接口,并在其方法中调用目标对象的方法优点:增强功能:可以在不改变目标类的情况下,增强其功能。代码复用:通过代理类可以重用目标类的......
  • EDITPLUS-EditPlus设置护眼模式
    EditPlus版本号:EditPlus4.3(build1256)64-bitTools——>Preferences Colors——>Text取消Default勾选项 Background——>More选项配置如下参数后点击应用并保存 ......
  • 分布式事务解决方案(一):事务的基本概念
    如果你觉得这篇文章对你有帮助,请不要吝惜你的“关注”、“点赞”、“评价”、“收藏”,你的支持永远是我前进的动力~~~一、事务的基本概念事务是确保数据库操作一致性的重要机制,而根据其涉及的资源和系统结构的不同,可以分为本地事务和分布式事务两种类型。事务:访问并更新......
  • 为什么要用工厂模式
    1.复合开闭原则,对扩展开放,对修改关闭。客户端比如feign调用时,当服务端修改代码后,客户端不需要修改代码。Java中的工厂方法模式(FactoryMethodPattern)是一种创建型设计模式,它提供了一种创建对象的最佳方式。以下是对Java工厂方法模式的详细解析:一、定义与特点工厂方法模式定义......
  • IIC通信配置时,其GPIO应处于何种工作模式?为何这样做?及IIC总线上为何需增加上拉电阻?其
        直奔主题,以下是以下关于IIC总线应用中所需要理解的特性:1、GPIO应处于何种工作模式?    解:IIC总线通信使用两根新,分别是SDA和SCL,其IO工作模式通常需要配置为开漏输出。因为IIC总线是允许多个设备共享同一总线的,所以所有设备都可以将总线拉低,但不会相互冲突......
  • 02.工厂模式设计思想
    02.工厂模式设计思想目录介绍01.工厂模式设计1.1工厂模式类型1.2工厂模式思考1.3思考一个题目02.简单工厂介绍2.1简单工厂背景2.2简单工厂定义2.3简单工厂结构2.4简单工厂案例2.5简单工厂分析2.6简单工厂场景2.7简单工厂不足03.工厂方法介绍3.1......
  • 一步步优化Redis实现分布式锁
    分布式锁概念在多线程的程序里,为了避免同时操作一个共享变量产生数据问题,会加一个互斥锁,以确保共享变量的正确性,使用范围是同一个进程。那如果是多个进程,需要同时操作一个共享资源,如何互斥呢?比如,现在的业务基本上都是微服务架构,一个应用会部署多个进程,这多个进程需要修改......
  • RabbitMQ系列学习笔记(三)--工作队列模式
    文章目录一、工作队列模式原理二、工作队列模式实战1、抽取工具类2、消费者代码3、生产者代码4、查看运行结果本文参考尚硅谷RabbitMQ教程丨快速掌握MQ消息中间件rabbitmqRabbitMQ详解Centos7环境安装Erlang、RabbitMQ详细过程(配图)一、工作队列模式原理与......
  • 前端开发设计模式——命令模式
    目录一、命令模式的定义和特点1.定义:         2. 特点:二、命令模式的结构与原理1.结构:2.原理:三、命令模式的实现方式1.定义接口命令:2.创建具体的命令类:3.定义接收者:4.创建调用者:四、命令模式的使用场景1.界面按钮的点击操作:    1.1 ......