首页 > 其他分享 >伪分布环境搭建

伪分布环境搭建

时间:2023-11-29 18:14:44浏览次数:34  
标签:bin hdfs 环境 hadoop dfs 分布 user input 搭建

1. 进⼊/opt/install/hadoop/etc/hadoop⽬录 2. 修改hadoop-env.sh:注释第25⾏并插⼊:export JAVA_HOME=/opt/install/jdk 3. 修改core-site.xml:在<configuration>与</configuration>之间添加以下内容:

<!-- 指定 HDFS 中 NameNode 的地址 -->
<property>
<name>fs.defaultFS</name>
<value>hdfs://hadoop101:9000</value>
</property>
<!-- 指定 hadoop 运行时产生文件的存储目录 -->
<property>
<name>hadoop.tmp.dir</name>
<value>/opt/install/hadoop/data/tmp</value>
</property>
4. 修改hdfs-site.xml:在<configuration>与</configuration>之间添加以下内容:
<!-- 指定 HDFS 副本的数量 -->
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<!-- 设置SecondaryNamenode主机和端口 -->
<property>
<name>dfs.namenode.secondary.http-address</name>
<value>hadoop101:50090</value>
</property>
5. 修改slaves⽂件:添加 hadoop101 6. 格式化 NameNode:
  1. cd /opt/install/hadoop
  2. bin/hdfs namenode -format【注意只需执⾏⼀次】
7. 启动 NameNode:sbin/hadoop-daemon.sh start namenode,查看是否启动成功:jps 8. 启动 DataNode:sbin/hadoop-daemon.sh start datanode,查看是否启动成功:jps 9. 通过windows的浏览器查看服务:http://hadoop101:50070/ 需要修改hosts:C:\Windows\System32\drivers\etc\hosts⽂件中添加 192.168.18.101 hadoop101 10. 在 hdfs ⽂件系统上创建⼀个 input ⽂件夹:bin/hdfs dfs -mkdir -p /user/hadoop/input 11. 将测试⽂件上传到hdfs⽂件系统上:
  1. 在/opt/install/hadoop⽬录下创建⽂件⽬录 mkdir wcinput
  2. 创建⽂件 vim wcinput/wc.input
  3. bin/hdfs dfs -put wcinput/wc.input /user/hadoop/input/
12. 查看hdfs⽂件系统中指定⽬录中的⽂件信息:bin/hdfs dfs -ls /user/hadoop/input 13. 查看hdfs⽂件系统中指定⽂件的内容:bin/hdfs dfs -cat /user/hadoop/input/wc.input 14. 运⾏ mapreduce 程序:bin/hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples- 2.6.0.jar wordcount /user/hadoop/input/ /user/hadoop/output 15. 查看输出结果: bin/hdfs dfs -ls /user/hadoop/output bin/hdfs dfs -cat /user/hadoop/output/* 16. 将测试⽂件内容下载到本地: mkdir wcoutput bin/hdfs dfs -get /user/hadoop/output/* ./wcoutput cat wcoutput/* 17. 删除输出结果: bin/hdfs dfs -rm -r /user/hadoop/output 18. 停⽌namenode和datanode hadoop-daemon.sh stop namenode hadoop-daemon.sh stop datanode jps查看 19. 清理本地⽂件然后停机做快照

标签:bin,hdfs,环境,hadoop,dfs,分布,user,input,搭建
From: https://www.cnblogs.com/hsk991213/p/17865513.html

相关文章

  • 环境配置
    "version":"0.2.0","configurations":[{"name":"bustubdebug",//!挑个容易识别的名字"type":"cppdbg","request":"launch&q......
  • C++完美开发环境vscode+clangd+lldb+xmake(已亲测有效,使用体验秒杀vscode官方C++插件)
    vscode下载并安装1.下载vscode官网下载网速不好的可以在这里自取:vscode蓝奏云下载密码:hnp42.安装选择我同意可以选择不创建开始菜单这里勾选了最后一个选择(添加到系统环境变量中,如果没有勾选这个选项,则需要手动添加),其他的按自己情况勾选,建议全部勾选方便使用安装......
  • 【小程序测试】小程序抓包环境搭建
    简介本次抓包采用Proxifier+Burp模式和Proxifier+Yakit模式抓包环境微信版本Burp版本Yakit版本当前版本:v1.1.7-sp1Proxifier版本Proxifier+Burp搭建环境Burp配置配置burp代理下载Burp证书需要访问Burp代理端口,也可以通过Burp自动生成自动生成证书双击证书直......
  • nvm环境安装(windows篇)
    一、NVM版本管理环境安装配置1.nvmforwindows安装包下载地址:地址:https://github.com/coreybutler/nvm-windows/releases点击nvm-setup.exe进行下载 2.安装nvm 选择NVM安装路径,路径名称不要有空格,然后点击nextnode.js安装路径,然后点击next 根据个人习惯下载set......
  • 聊聊分布式 SQL 数据库Doris(八)
    稀疏索引密集索引:文件中的每个搜索码值都对应一个索引值,就是叶子节点保存了整行.稀疏索引:文件只为索引码的某些值建立索引项.稀疏索引的创建过程包括将集合中的元素分段,并给每个分段中的最小元素创建索引。在搜索时,先定位到第一个大于搜索值的索引的前一个索引,然后从该索引所在......
  • 五、搭建高可用集群
    一、zookeeper搭建1、上传安装包到master并解压tar-xvfzookeeper-3.5.7.tar.gz 2、配置环境变量vim/etc/profileexportZOOKEEPER_HOME=/usr/local/soft/zookeeper-3.5.7exportPATH=$PATH:$ZOOKEEPER_HOME/binsource/etc/profile  3、修改配置文件cd......
  • R语言贝叶斯Metropolis-Hastings Gibbs 吉布斯采样器估计变点指数分布分析泊松过程车
    最近我们被客户要求撰写关于吉布斯采样器的研究报告,包括一些图形和统计输出。指数分布是泊松过程中事件之间时间的概率分布,因此它用于预测到下一个事件的等待时间,例如,您需要在公共汽车站等待的时间,直到下一班车到了。在本文中,我们将使用指数分布,假设它的参数λ,即事件之间的平均......
  • 二、Hadoop集群搭建与学习
     Hadoop集群搭建(完全分布式版本) 一、准备工作三台虚拟机:master、node1、node2时间同步(3.x版本不用做)ntpdatentp.aliyun.com     调整时区 3.x版本不用做)cp/usr/share/zoneinfo/Asia/Shanghai/etc/localtime jdk1.8java-version ......
  • 某环境解决卡顿问题的思路和过程
    某环境解决卡顿问题的思路和过程背景部分环境经过一段时间的运行后出现了卡顿现象.严重时出现了jdbc的dataaccess的异常提示信息.接到这个问题后,自己进行了一些处理.这里总结一一下问题的处理过程以及思路问题现象应用服务器是linux+springboot开发的应用数据......
  • minikube 的搭建
    概述minikube是一个工具,能让你在本地运行Kubernetes。minikube在你的个人计算机(包括Windows、macOS和LinuxPC)上运行一个一体化(all-in-one)或多节点的本地Kubernetes集群,以便你来尝试Kubernetes或者开展每天的开发工作。前期准备CentOS7.9非root用户安装Docker......