首页 > 其他分享 >Hadoop完全分布式 => 集群ssh配置与群起

Hadoop完全分布式 => 集群ssh配置与群起

时间:2023-04-17 16:32:11浏览次数:32  
标签:opt Hadoop dfs 2.9 集群 ssh hadoop102 分布式


ssh配置

cd /root/.ssh/  (注意如果没有.ssh文件,执行下命令ssh会自动生成)

ssh-keygen -t rsa 一路回车

将公钥拷贝到hadoop102

ssh-copy-id hadoop102

拷贝成功后hadoop102的/root/.ssh/文件夹会生成文件authorized_keys

这样之后就hadoop101可以无密登录hadoop102了,之后三个虚拟机都做同样操作保证相互之间无密登录

集群群起

1.配置slaves

cd /opt/module/hadoop-2.9.2/etc/hadoop

vim slaves

hadoop101
hadoop102
hadoop103

注意:该文件中添加的内容结尾不允许有空格,文件中不允许有空行

同步所有结点配置文件

xsync slaves

cd /opt/module/hadoop-2.9.2/

hadoop101:

sbin/start-dfs.sh

这样三个集群的HDFS服务就都起来了,接下来起yarn服务,注意必须在hadoop102上启动

hadoop102:

cd /opt/module/hadoop-2.9.2/

sbin/start-yarn.sh

至此集群启动成功

集群测试:

1.上传文件到集群

hdfs dfs -mkdir -p /user/atguigu/input

hdfs dfs -put /opt/software/hadoop-2.9.2.tar.gz /

打开网址查看文件http://hadoop101:50070/explorer.html#/

集群启动停止方式:

sbin/stop-dfs.sh

sbin/stop-yarn.sh

 

 

 

标签:opt,Hadoop,dfs,2.9,集群,ssh,hadoop102,分布式
From: https://blog.51cto.com/u_12374018/6195465

相关文章

  • 爬取的数据存mysql中、加代理,cookie,header,加入selenium、布隆过滤器、scrapy-redis实
    上节回顾#1scrapy架构 -爬虫:写的一个个类-引擎: -调度器:排队,去重-下载器-pipline-下载中间件-爬虫中间件#2命令 -scrapystartproject项目名-scrapygensipder爬虫名网址-scrapycrawl爬虫名字-run.py#......
  • 分布式政企应用如何快速实现云原生的微服务架构改造
    随着数字化时代的快速发展,企业和组织正面临着如何在保持敏捷和灵活的同时,提高业务运营效率和降低成本的巨大挑战。为了应对这些挑战,许多企业开始采用面向服务的架构(SOA)和企业服务总线(ESB)来构建和集成复杂的应用系统。然而,随着云计算和微服务等新技术的出现,SOA/ESB架构也面临着一些......
  • 技术分享 | 如何迅速将分布式政企应用转型为云原生微服务架构
    在当今这个快速发展的数字化时代,企业和组织正面临着巨大的挑战,如何在保持敏捷和灵活的同时,提高业务运营效率和降低成本。为了应对这些挑战,许多企业开始采用面向服务的架构(SOA)和企业服务总线(ESB)来构建和集成复杂的应用系统。然而,随着云计算和微服务等新技术的出现,SOA/ESB架构也面临......
  • 分布式session
    https://blog.csdn.net/wangb_java/article/details/107418160 实现同域 @Bean publicCookieSerializercookieSerializer(){ DefaultCookieSerializerserializer=newDefaultCookieSerializer(); serializer.setCookieName("JSESSIONID");//1 ......
  • 启动SSH服务报:Job for ssh.service failed because the control process exited with
    Jobforssh.servicefailedbecausethecontrolprocessexitedwitherrorcodeseesystemctlstatusssh.serviceandjournalctl-xefordetails.然后按照提示输入:systemctlstatussshd.service 表示给出的提示很坑爹,完全不知道哪里出错了。经过艰难的百度,可能是SELI......
  • 多分布式电源参与的混合微电网容量优化配置是微电网设计的一个重要环节,文中针对风电场
    [1]关键词:非合作博弈;粒子群算法;风-光-氢微网;容量配置;matlab[2]参考文献:《基于非合作博弈的风-光-氢微网容量优化配置》[3]主要内容:原文程序,多分布式电源参与的混合微电网容量优化配置是微电网设计的一个重要环节,文中针对风电场、光伏电站和制氢-储氢-发电一体化微电网系统的容......
  • Windows10系统下Hadoop和Hive环境搭建
    文章部分内容来自:https://www.cnblogs.com/sheng-sjk/p/16186508.html结合实际搭建过程中的问题,对文章进行了优化环境准备软件版本备注Windows10操作系统JDK8暂时不要选用大于等于JDK9的版本,因为启动虚拟机会发生未知异常MySQL8.x用于管理Hive的元数据......
  • 分析型数据库:分布式分析型数据库
    分析型数据库的另外一个发展方向就是以分布式技术来代替MPP的并行计算,一方面分布式技术比MPP有更好的可扩展性,对底层的异构软硬件支持度更好,可以解决MPP数据库的几个关键架构问题。本文介绍分布式分析型数据库。  —背景介绍—目前在分布式分析型数据库领域,学术界今年的研......
  • Redis分布式锁这样用,有坑?
    背景在微服务项目中,大家都会去使用到分布式锁,一般也是使用Redis去实现,使用RedisTemplate、Redisson、RedisLockRegistry都行,公司的项目中,使用的是Redisson,一般你会怎么用?看看下面的代码,是不是就是你的写法StringlockKey="forlan_lock_"+serviceId;RLocklock=redis......
  • 无显示器如何通过配置文件快速修复树莓派无法通过 SSH 访问的问题 All In One
    无显示器如何通过配置文件快速修复树莓派无法通过SSH访问的问题AllInOne在没有显示器的情况下如何通过配置系统文件快速的修复树莓派无法通过SSH访问的问题AllInOne无显示器SSH远程访问树莓派不小心或不知道怎么把SSH关闭了,导致无法SSH访问了❌$pingra......