首页 > 系统相关 >centos7安装flink

centos7安装flink

时间:2024-03-11 21:48:22浏览次数:17  
标签:bin flink hadoop server centos7 apache org 安装

local模式

环境说明,flink需要jdk,并且flin.2k1.17,需要的是jdk11,jdk17不行,实测jdk1.8也行

  1. 下载flink包

    wget https://dlcdn.apache.org
    
  2. 解压

    #解压
    tar -zxvf flink-1.17.2-bin-scala_2.12.tgz
    
    #进入flink目录
    cd flink-1.17.2
    
  3. 修改配置文件

    vi conf/flink-conf.yaml

    #允许远程访问管理界面,如果你的flink安装在虚拟机里面,默认外面物理机是无法访问的
    rest.bind-address: 0.0.0.0
    
  4. 启动和关闭

    #启动
    ./bin/start-cluster.sh
    #关闭
    ./bin/stop-cluster.sh
    
  5. 查看flink管理界面

    不配置第3步是默认不能远程访问的
    浏览器访问:http://192.168.100.66:8081/
    image-20240311183632794

  6. 进程查看
    TaskManagerRunner和StandaloneSessionClusterEntrypoint 是 flink的进程
    别的进程是 hadoop的这里用不着,无视

    [hadoop@vm200 bin]$ jps -l
    1939 org.apache.hadoop.hdfs.server.namenode.NameNode
    2484 org.apache.hadoop.yarn.server.resourcemanager.ResourceManager
    16473 org.apache.flink.runtime.entrypoint.StandaloneSessionClusterEntrypoint
    2218 org.apache.hadoop.hdfs.server.namenode.SecondaryNameNode
    16779 org.apache.flink.runtime.taskexecutor.TaskManagerRunner
    17181 sun.tools.jps.Jps
    



Standallone

环境说明,flink需要jdk,并且flin.2k1.17,需要的是jdk11,jdk17不行,实测jdk1.8也行
三台主机已经相互配置了免密登录

节点分布

主机名 ip 节点类型
vm200 192.168.1.200 master
vm201 192.168.1.201 work
vm202 192.168.1.202 work
  1. 下载flink包

    wget https://dlcdn.apache.org
    
  2. 解压

    #解压
    tar -zxvf flink-1.17.2-bin-scala_2.12.tgz
    
    #进入flink目录
    cd flink-1.17.2
    
  3. 修改配置文件
    vi conf/flink-conf.yaml

    #指定jobmanger的位置
    jobmanager.rpc.address: vm200
    
    #默认是localhost,这样taskmanger 是不能访问到 jobmanger的,管理界面的Available Task Slots 会是0
    jobmanager.bind-host: 0.0.0.0
    
    
    #允许远程访问管理界面,如果你的flink安装在虚拟机里面,默认外面物理机是无法访问的
    rest.bind-address: 0.0.0.0
    

    vi works
    写入从从节点ip或者主机名

    vm201
    vm202
    
  4. 复制到从节点

     scp -r /opt/flink-1.17.2/ vm201:/opt
     scp -r /opt/flink-1.17.2/ vm202:/opt
    
  5. 启动

    #启动
    ./bin/start-cluster.sh
    #关闭
    ./bin/stop-cluster.sh
    
  6. 查看flink管理界面
    浏览器访问:http://192.168.100.66:8081/

    如果taskslot是0,那么就是jobmanager.bind-host还是默认配置localhost,taskmanger请求不过来

    image-20240311181318058

    image-20240311181402643

  7. 节点进程查看

    • vm200
      StandaloneSessionClusterEntrypoint 就是 fink的进程,另外三个是hadoop和yarn的,Standallone 模式用不到

      [hadoop@vm200 conf]$ jps -l
      1939 org.apache.hadoop.hdfs.server.namenode.NameNode
      2484 org.apache.hadoop.yarn.server.resourcemanager.ResourceManager
      3685 org.apache.flink.runtime.entrypoint.StandaloneSessionClusterEntrypoint
      2218 org.apache.hadoop.hdfs.server.namenode.SecondaryNameNode
      10779 sun.tools.jps.Jps
      
      
    • vm201
      TaskManagerRunner是flink 的任务进程

      [hadoop@vm201 root]$ jps -l
      2369 sun.tools.jps.Jps
      2243 org.apache.flink.runtime.taskexecutor.TaskManagerRunner
      1723 org.apache.hadoop.yarn.server.nodemanager.NodeManager
      1598 org.apache.hadoop.hdfs.server.datanode.DataNode
      
    • vm202
      TaskManagerRunner是flink的任务经常

      [hadoop@vm202 root]$ jps
      1616 DataNode
      2309 Jps
      2168 TaskManagerRunner
      1741 NodeManager
      
      



标签:bin,flink,hadoop,server,centos7,apache,org,安装
From: https://www.cnblogs.com/cxygg/p/18067123

相关文章

  • Redis安装之Redis7主从复制(replica)安装(Linux版)
    官网说明:https://redis.io/docs/management/replication/一.背景单机部署存在单点故障及数据丢失问题,为了实现读写分离容灾恢复数据备份水平扩容支撑高并发等功能,Redis可基于主从复制的特性搭建集群。二.方案原理2.1.读写分离Master主机负责写操作,Slave从机负......
  • docker安装awvs
    1,下载awvsdockerpullsecfa/docker-awvs2,创建容器命令:dockerrun-it-d-p3443:3443secfa/docker-awvs如果报错!(提示crack失败)添加参数--cap-addLINUX_IMMUTABLE命令:dockerrun-itd-p3443:3443--cap-addLINUX_IMMUTABLE--nameawvssecfa/docker-awvs3,登录访......
  • 在virtualbox上安装ubuntu
    本教程以virtualbox7.0.14+ubuntu20.04.4为例。ubuntu官网其实已经有一篇写的非常棒的安装教程,链接如下。https://ubuntu.com/tutorials/how-to-run-ubuntu-desktop-on-a-virtual-machine-using-virtualbox#1-overview目录如下。OverviewCreateanewvirtualmachineI......
  • Linux安装Libevent
    环境Ubuntu20.04.264位 软件包安装通过apt-get命令可以直接安装Libevent,这种方式方便快捷,省时省力。安装命令如下:sudoapt-getinstalllibevent-dev源码安装源码安装一般有如下步骤:./configuremakemakeinstall运行./configure命令:运行该命令会当前路......
  • t02_安装docker
    一、安装方式一、Docker#1、yum包更新到最新yumupdate#2、安装需要的软件包,yum-util提供yum-config-manager功能,另外两个是devicemapper驱动依赖的yuminstall-yyum-utilsdevice-mapper-persistent-datalvm2#3、设置yum源yum-config-manager--add-repohttps......
  • 解决问题:HTTP 错误 500.19 - Internal Server Error 无法访问请求的页面,因为该页的相
      缺少AspNetCoreModuleV2模块,下载安装即可。ps:.netframework是可以直接发布,IIS指定就能正常访问的。但aspnetcore项目略有不同,要额外安装一个模块,如果没有安装,会报HTTP错误500.19-InternalServerError的错。1、官方版本地址:https://dotnet.microsoft.com/down......
  • Esxi 安装企业版 suse 系统
    ......
  • linux系统centos7.9如何安装nginx
    1、官网下载nginxnginx官网:https://nginx.org/选择稳定版进行下载,也可以下载老版本,下载成功后上传到服务器。2、使用wget下载访问nginx官网,在下载页面鼠标右击复制链接地址。登录服务器使用wget命令下载:wgethttps://nginx.org/download/nginx-1.24.0.tar.gz3、解压文件t......
  • Windows系统中安装docker
    目录一.安装wsl二.下载dockerdesktop三.更换Docker镜像引用出处一.安装wsl在安装wsl之前,先在Windows中配置WSL环境,步骤很简单,按照以下文章进行Windows10/11配置WSL(Ubuntu)环境以管理员身份打开WindowsPowerShell,执行以下命令执行该命令必须是Windows102004及更高版本......
  • ubuntu20.04-通过docker安装jenkins并自动化发布java
    前言jenkins需要git、maven和node,其中maven和node手动添加,git和git环境是jenkins镜像自带了的。如果删除了docker对应的jenkins容器后(删除前一定备份jenkins_home整个文件夹,否则怕前功尽弃:tar-czvfjenkins_home.tar.gz/var/jenkins_home)如果删除了容器,需要重新安装并配置m......