首页 > 系统相关 >用于大数据集群的Centos7虚拟机基础环境配置

用于大数据集群的Centos7虚拟机基础环境配置

时间:2023-04-28 13:11:35浏览次数:52  
标签:opt 虚拟机 Centos7 etc yum install 集群 安装

用于大数据集群(自定义Hadoop和CDH6)的Centos7虚拟机基础环境配置

博客ID 2

安装一些通用的软件并配置,然后复制为多个虚拟机

  1. 下载 CentOS-7-x86_64-DVD-1908.iso http://ftp.iij.ad.jp/pub/linux/centos-vault/7.7.1908/isos/x86_64/CentOS-7-x86_64-DVD-1908.iso

  2. 在Vmware中 创建虚拟机 Centos7-Base
    设置root密码 123456, 设置用户hadoop, 密码hadoop

  3. 重启,登录,通过ip addr命令查看ip地址,使用xshell登录到虚拟机(方便操作)
    在安装时候需要把添加的普通用户,即hadoop添加到管理者组,如果安装时忘记:手动添加
    https://blog.csdn.net/qq_40309341/article/details/120742506

  4. 安装wget

    yum -y install wget` 
    # 卸载wget的语句为
    # yum -y remove wget 
    
  5. 换源

    • 备份原来的设置

      mkdir /etc/yum.repos.d/backup
      mv /etc/yum.repos.d/*.* /etc/yum.repos.d/backup
      
    • 使用阿里云yum源:

      wget -O /etc/yum.repos.d/CentOS7-Aliyun.repo http://mirrors.aliyun.com/repo/Centos-7.repo
      wget -O /etc/yum.repos.d/epel-7-Aliyun.repo http://mirrors.aliyun.com/repo/epel-7.repo
      
    • 更新缓存

      yum clean all
      yum makecache
      #查看源列表
      yum repolist all
      
  6. 先一次性安装以下所有软件:

    # 更新
    yum -y update && yum upgrade
    
    # lrzsz是可以通过rz/sz从linux主机上传/下载文件的软件
    yum -y install lrzsz vim curl ntp 
    
    # 安装一些编译软件后面可以编译源码使用
    yum -y install git gcc gcc-c++
    
  7. 更新和软件

    • 更新:yum -y update && yum upgrade

    • 安装rz:yum -y install lrzsz
      如果使用的是xshell需要进一步配置:
      img
      img

    • 安装vim: yum -y install vim

    • 安装curl: yum -y install curl

    • 安装: yum -y install

    • 安装ntp服务,同步阿里云ntp服务器时间: yum -y install ntp

  8. 安装jdk

    # 在/opt/目录下新建两个文件夹用于存放安装包和安装的软件
    mkdir -p /opt/software /opt/module
    # 把需要安装的软件放到software中
    
    jdk_gz_file_path="/opt/software/jdk-8u361-linux-x64.tar.gz"
    JAVA_INSTALL_DIR="/opt/module"
    
    tar -zxvf $jdk_gz_file_path -C $JAVA_INSTALL_DIR
    # 重命名jdk文件夹为 jdk1.8
    mv jdk1.8.0_361 jdk1.8
    

    设置环境变量:

    vim /etc/profile
    在文件最后添加
    export JAVA_HOME=/opt/module/jdk1.8
    export PATH=$PATH:$JAVA_HOME/bin
    
    # 更新环境变量
    source /etc/profile
    
    # 验证jdk安装成功
    java -version
    
  9. 安装scala

    tar -zxvf scala-2.12.17.tgz  -C ../module/
    
    # 设置环境变量
    vim /etc/profile
    
    export SCALA_HOME=/opt/module/scala-2.12.17
    export PATH=$PATH:$SCALA_HOME/bin
    
    # 验证
    scala -version
    

标签:opt,虚拟机,Centos7,etc,yum,install,集群,安装
From: https://www.cnblogs.com/guoweigu/p/17361663.html

相关文章

  • VMware Workstation 配置 Linux虚拟机网卡
    目录1.配置VMwareworkstation网卡(1)查看当前电脑上的虚拟网卡(2)虚拟机的三种网卡模式(3)配置VMware网卡模式2.配置虚拟机Linuxens33网卡(1)打开linux终端(2)进入ens33网卡配置文件(3)查看VMware虚拟网卡配置信息(4)修改ens33配置文件(5)检测是否配置成功1.配置VMwareworkstation网卡......
  • 搭建ElasticSearch7.4.2集群
    推荐阅读Helm3(K8S资源对象管理工具)视频教程:https://edu.csdn.net/course/detail/32506Helm3(K8S资源对象管理工具)博客专栏:https://blog.csdn.net/xzk9381/category_10895812.html本文原文链接:https://blog.csdn.net/xzk9381/article/details/117465038,转载请注明出处。如有发现文......
  • Centos7安装Redis
    一、安装gcc依赖由于redis是用C语言开发,安装之前必先确认是否安装gcc环境(gcc-v),如果没有安装,执行以下命令进行安装 [root@localhostlocal]#yuminstall-ygcc  二、下载并解压安装包[root@localhostlocal]#wgethttp://download.redis.io/releases/redis-5.0.......
  • centos7.6安装docker
    查看centos版本命令,我的是CentOSLinuxrelease7.6.1810(Core):cat/etc/centos-release安装docker最好根据官网的教程一步一步来,相关文档地址:https://docs.docker.com/engine/install/centos/卸载旧的docker命令:sudoyumremovedocker\docker......
  • Hadoop启动集群报错:Starting namenodes on [hadoop01] hadoop01: root@hadoop01: Per
    搭建三个hadoop集群的时候,master没有启动namenode和datanode,报错:Startingnamenodeson[hadoop01]hadoop01:root@hadoop01:Permissiondenied(publickey,gssapi-keyex,gssapi-with-mic,password).Startingdatanodeshadoop01:root@hadoop01:Permissiondenied(publicke......
  • 使用 Vagrant 在 Ubuntu 虚拟机上安装使用 Portainer
    Portainer是一款免费的Docker管理工具,它提供了一个Web界面,通过简单易用的界面管理Docker容器和镜像。以下是使用Vagrant在Ubuntu虚拟机上安装使用Portainer的示例步骤:1.创建Ubuntu虚拟机在Vagrantfile文件中添加以下配置:```Vagrant.configure("2")......
  • VMware Workstation 安装 Linux操作系统虚拟机详细步骤
    VMwareWorkstation安装Linux操作系统虚拟机详细步骤......
  • redis之持久化方案,主从复制,哨兵高可用,集群原理及搭建,缓存优化
    目录redis之持久化方案,主从复制,哨兵高可用,集群原理及搭建,缓存优化昨日内容回顾今日内容详细1持久化方案1.1RDB1.2aof方案1.3混合持久化2主从复制原理和方案3哨兵高可用4集群原理及搭建4.1集群搭建4.2集群扩容4.3集群缩容5缓存优化5.1redis缓存更新策略5.2缓存穿透击......
  • 关于sap-hana-数据库-在pacemaker集群中迁移主控节点-master节点
    环境介绍,hana数据库的两个节点:azphxxxdb01azphxxxdb02目前master位于azphxxxdb02,现在需要切换回azphxxxdb01 需要确保Pacemaker没有任何失败的操作(通过pcs状态检查)、没有任何意外的位置约束(例如迁移测试的遗留内容),并且HANA处于同步状态,例如,使用systemReplicationStat......
  • 2-Hadoop集群配置-安装-启动
    1、流程说明在单机测试wordcount没问题后,开始配置集群模式说明:hadoop有几个功能​ ①hdfs存​ NameNode​ SecondNameNode​ DataNode​ ②yarn资源调度​ ResourceManager​ NodeManager​ ③mapreduce计算​ 有Job任务的时候才会有每台机器都有hd......