• 2024-07-13学习Hadoop2
    1.理解Hadoop的基本概念在开始学习之前,首先要理解Hadoop的核心概念。Hadoop主要由两个部分组成:HDFS(HadoopDistributedFileSystem)和MapReduce。HDFS是一个分布式文件系统,它将大型数据集分散存储在多个机器上。MapReduce是一种编程模型,用于在大规模数据集上进行并行处理。2.
  • 2024-06-05docker部署hadoop集群
    docker部署hadoop集群:https://blog.51cto.com/865516915/2150651 一、主机规划3台主机:1个master、2个slaver/workerip地址使用docker默认的分配地址:master:主机名:hadoop2、ip地址:172.17.0.2 slaver1:主机名:hadoop3、ip地址:172.17.0.3主机名:hadoop4、ip地址:172.17
  • 2023-10-13Hadoop2伪分布式安装、分布式安装
    最近有观看我主讲的《Hadoop基础与演练》课程的同学问到Hadoop环境到底应该怎么安装。Hadoop的安装其实非常的简单,网上有很多教程,官网也有示例。但是可能部分同学对于linux不太熟悉,导致安装的时候会遇到各种问题,打击学习激情。本文就来详细的讲解一下如何配置Hadoop2的伪分布式环
  • 2023-06-28Redis设置为开机自启
    1Redis安装1.1上传redis-3.2.1.tar.gz到节点A服务器的/usr/local/目录下1.2解压redis压缩包[root@hadoop2local]#tar-xvfredis-3.2.1.tar.gz1.3修改包名[root@hadoop2local]#mvredis-3.2.1redis[root@hadoop2local]#cdredis/1.4执行编译[root@hadoop2redis]#makePREF
  • 2023-04-20hadoop2 集群出现过的问题
      1Thenumberoflivedatanodes2hasreachedtheminimumnumber0 org.apache.hadoop.ipc.RemoteException(org.apache.hadoop.hdfs.server.namenode.SafeModeException):Cannotdelete/tmp/hadoop-yarn/staging/root/.staging/job_1434694058996_0001.Namenodeis
  • 2023-03-19Hadoop入门
    目录1️⃣、Hadoop概述1.1、Hadoop是什么1.2、三大发行版本1.3、优势1.4、组成HDFSYARNMapReduceHDFS、YARN、MapReduce三者关系1.6、大数据技术生态体系2️⃣、Hadoop运行环境
  • 2023-03-19Yarn资源调度
    目录1.1、Yarn基础架构1.2、Yarn工作机制1.3、作业提交全过程1.4、Yarn调度器和调度算法1.4.1、先进先出调度器(FIFO)1.4.2容量调度器(CapacityScheduler)1.4.3公平调度器(Fa
  • 2023-03-19HDFS分布式文件系统
    目录1️⃣、HDFS的概述1.1、HDFS产出背景及定义1.2、HDFS优缺点1.3、HDFS组成架构1.4、HDFS文件块大小(面试重点)2️⃣、HDFS的Shell操作2.1、基本语法2.2、命令大全2.3、常用命
  • 2022-12-30zookeeper集群搭建中服务启动常见问题
    1、执行./zkServer.shstart后查看服务状态显示Itisprpbably isnotrunning.但是查看进程jps,zookeeper服务进程是正常启动的。解决办法:先停止zookeeper服务./zkServer.
  • 2022-11-29Hadoop2
    由于Hadoop是为集群设计的软件,所以我们在学习它的使用时难免会遇到在多台计算机上配置Hadoop的情况,这对于学习者来说会制造诸多障碍,主要有两个:昂贵的计算机集群。多
  • 2022-11-23NIFI+外部zookeeper集群部署
    NIFI+外部zookeeper集群部署 1、配置jdk环境使用rpm-qa|grepjdk指令查看服务器是否安装过jdk,这里一般用于卸载openjdk,[root@hadoop1~]#rpm-qa|grepjava 1.1、
  • 2022-08-21新一代分布式实时流处理引擎Flink入门实战操作篇
    @目录安装部署安装方式Local(Standalone单机部署)Standalone部署StandaloneHA部署FlinkOnYarn演示案例概述会话(Session)模式单作业(Per-Job)模式流程演示应用(Application)