首页 > 其他分享 >hadoop学习笔记第一次

hadoop学习笔记第一次

时间:2023-07-15 09:55:54浏览次数:29  
标签:xml 文件 初始化 配置 hadoop 笔记 学习 集群

这周学习了大数据之hadoop,这一周的学习主要围绕在hadoop集群配置及其华宁的搭建,hadoop是采用多态服务器的分布式系统,主要的核心就是hdfs,mapreduce,yarn等等,hadoop配置时候在主机上遇到了蛮多的问题现在就来记录一下。

1.首先是一些基础命令:

回退/进入目录命令:cd ..或cd /****

创建目录 :mkdir /***

删除目录 :rm -rf ****

hadoop集群格式化:hadoop namenode -format

开启集群:start-all.sh

关闭集群:stop-all.sh

分发命令 scp -r 文件位置*** root@hadoop***: ****(文件位置)

设置免密登录:首先进入到.ssh文件夹下,然后ssh-keygen回车,然后ssh-copy-id ***

2.问题集合:

初始化问题:在初始化节点之前需要配置好core-site.xml,hdfs.xml,yarn.site.xml,mapred-site.xml这四个文件,初始化只能进行一次,重新格式化需要删除data和logs文件。

主机配置问题:vim /etc/hosts进入后删除127的ip地址 然后重启网络。

启动集群问题:启动后如果没有DataNode或者namenode,那就很有可能核心配置文件和hdfs文件配置问题,需要先正确配置we文件然后删除data文件重新初始化

在webui界面只有主句一个节点,其他服务器节点没有显示:很有可能是9000端口不能被访问,即主机配置有问题,9000端口前的ip地址不能是127.0.0.0,必须是你主机的ip。

标签:xml,文件,初始化,配置,hadoop,笔记,学习,集群
From: https://www.cnblogs.com/copyjames/p/17555606.html

相关文章

  • Docker学习路线6:使用第三方镜像
    第三方镜像是在DockerHub或其他容器注册表上提供的预构建Docker容器镜像。这些镜像由个人或组织创建和维护,可以作为您容器化应用程序的起点。查找第三方镜像DockerHub是最大和最受欢迎的容器镜像注册表,包含官方和社区维护的镜像。您可以根据名称或要使用的技术搜索镜像。例......
  • 深度学习(六)——神经网络的基本骨架:nn.Module的使用
    一、torch.nn简介官网地址:torch.nn—PyTorch2.0documentation1.torch.nn中的函数简介Containers:神经网络的骨架ConvolutionLayers:卷积层Poolinglayers:池化层PaddingLayers:PaddingNon-linearActivations:非线性激活NormalizationLayers:正则化层......
  • ES6 标准入门 笔记1
    一、ECMAScript1.ECMAScript和JavaScript的关系:前者是后者的规格,后者是前者的实现。2.ES6指的是ES5.1版本以后的JavaScriptD下一代版本。3.初版ES6从制定到发布经历了15年(2000-2015)。(ES2015:2015年6月发布)4.ECMAScript提案阶段:4.1Strawman(展示阶段);4......
  • [笔记]组成原理_总线
    总线的概述及特征总线是一组能为多个部件分时共享的公共信息传送线路,分时和共享是总线的两个特点。分时:同一时刻,只允许有一个部件向总线发送信息。共享:总线上可以挂接多个部件,各个部件之间互相交换的信息都可通过这组线路分时共享,多个部件可同时从总线上接收相同的信息。总线......
  • Java swing和JavaFX学习笔记
    JAVAFX与JAVASwing的区别与推荐:学习Java界面编程是选择Swing还是JavaFX?_javafxswing_莱迪娜的歌声的博客-CSDN博客swing中一些基础函数介绍:JButton按钮,按钮可以带一些图片或文字JCheckBox复选框JComBox下拉列表框,可以在下拉显示区域显示多个选项JFrame框架类......
  • RestKit学习5:Loading Remote Objects
    本系列的前面几篇:RestKit学习1:引用RestKit项目RestKit学习2:使用RestKit发送和接受请求 RestKit学习3:CoreData从模型到实体RestKit学习4:DatabaseSeeding(生成数据库文件)这篇是从服务器的一个json接口直接获得数据,并把数据解析成对象。需要解析的json字符串:{"error":0,"message":"......
  • 虚树 学习笔记
    模板题题目传送门给定一棵树,每次给出\(k\)个点,断掉一些边,然后让这些给出的点和\(1\)号点不连通,求断边的边权和的最小值。数据组数\(T\le5\cdot10^5\),树的点数\(n\le2.5\cdot10^5\),\(\sumk\le5\cdot10^5\)题目解析我们发现每次给出的是一部分点,所以我们只需要......
  • 学科知识图谱学习平台项目 :技术栈Java、Neo4j、MySQL等超详细教学
    学科知识图谱学习平台项目:技术栈Java、Neo4j、MySQL等超详细教学0.效果展示1.安装教程安装JavaSDK11,下载前需要登录Oracle账号,下载链接,安装教程,测试是否能在命令行工具调用javajava--versionjava17.0.12021-10-19LTSJava(TM)SERuntimeEnvironment(build......
  • Docker学习路线5:在 Docker 中实现数据持久化
    Docker可以运行隔离的容器,包括应用程序和其依赖项,与主机操作系统分离。默认情况下,容器是临时的,这意味着容器中存储的任何数据在终止后都将丢失。为了解决这个问题并在容器生命周期内保留数据,Docker提供了各种数据持久化方法。Docker卷绑定挂载Dockertmpfs挂载Docker卷......
  • 并查集笔记
    并查集导论并查集是一种数据结构,主要用于处理一些不相交集合的合并问题。一般应用在连通图、最小生成树、Kruskal算法、最近公共祖先(LCA)等算法中。举例用帮派例子理解并查集:在n个人中,分成了不同的帮派,每个帮派的人都互为朋友,朋友的朋友是朋友,例如1号和2号是朋友,1号和3号......