首页 > 其他分享 >安装Flink 环境

安装Flink 环境

时间:2022-08-19 15:44:36浏览次数:84  
标签:tmp 1.14 Flink flink 环境 high HOSTNAME 安装 availability

  • 安装Flink 环境

环境:centos 7.7
jdk:1.8.0
Flink 版本:1.14.5
安装目录:/root/hadoop/flink-1.14.5


首先解压Flink tar 包

tar -zxvf flink-1.14.5-bin-scala_2.11.tgz
cd flink-1.14.5

 

创建临时目录

mkdir -p /root/hadoop/flink-1.14.5/database/tmp

 

将FLINK_HOME 环境变量写到机器中,由于作者的机器shell 为 zshell,所以设置方式和 bash 有点区别

vi ~/.bashrc

# 增加以下内容
export FLINK_HOME="/Users/chenzichuan/mnt/bigdata/flink-1.14.5"

 

修改 conf/flink-conf.yaml 配置文件

jobmanager.rpc.address: HOSTNAME

# 高可用部分
high-availability: zookeeper
high-availability.zookeeper.quorum: HOSTNAME:2181
high-availability.zookeeper.path.root: /flink
high-availability.cluster-id: /cluster_one
high-availability.storageDir: hdfs://HOSTNAME:9000/flink/ha/

# 任务状态持久化部分,可选 HDFS, S3, Ceph, nfs等
state.backend: filesystem #任务状态存储方式
state.checkpoints.dir: hdfs://HOSTNAME:9000/flink/checkpoints #检查点目录
state.savepoints.dir: hdfs://HOSTNAME:9000/flink/savepoints #检查点目录
execution.checkpointing.interval: 5 #检查点间隔
# 临时文件目录
io.tmp.dirs: /root/hadoop/flink-1.14.5/database/tmp # 作业临时目录,支持多个路径,例如:/mnt/disk1/tmp,/mnt/disk2/tmp

 

修改 master 和 worker 两个配置文件

# master 配置文件
HOSTNAME:8081

# worker 配置文件
HOSTNAME

 

启动 flink 服务

bin/start-cluster.sh

 

输出以下信息证明flink 服务启动成功了

Starting HA cluster with 1 masters.
Starting standalonesession daemon on host chen.
Starting taskexecutor daemon on host chen.

 

通过 jps 命令查看,会发现后台多了 StandaloneSessionClusterEntrypoint、TaskManagerRunner 两个服务。

停止 flink 服务

bin/stop-cluster.sh

 

标签:tmp,1.14,Flink,flink,环境,high,HOSTNAME,安装,availability
From: https://www.cnblogs.com/chenfool/p/16602163.html

相关文章

  • No module named 'setuptools_rust' 安装oss2报错
    今天在测试机器上安装oss2报错了:Nomodulenamed'setuptools_rust'经过查询后记录一下OSS2介绍官方文档:https://help.aliyun.com/document_detail/32027.html一句......
  • python将代码打包成whl或者压缩文件使用pip安装
    需要条件:安装setuptools,wheel创建目录helloworld—init.py—代码1.py—代码2.pysetup.py编辑__init__.pyfromhelloworldimport代码1,代码2在helloworld同级下......
  • 手动安装 jdk 1.8
    得到安装包jdk-8uXXX-linux-x64.tar.gz,XXX代表小版本号,请自行在代码中修改解压至/usr/java#请先移动至安装包所在位置cd安装包所在位置tar-zxfjdk-8uXXX-linux......
  • 三.Suricata的安装与使用
    一.IDS功能通过监听网卡流量并匹配规则引擎进行入侵实时检测和预警,检测手段上也与Wazuh比较类似 二.IPS功能与Wazuh的主动响应的功能不一样,IPS功能并不需要对防火墙进......
  • mysql数据库安装(windows)
    一、下载解压缩文件(免安装版)个人认为配置起来很方便,免去了安装的时各种选择,不用管对应的安装依赖问题。官网下载地址:https://dev.mysql.com/downloads/mysql/二......
  • IDEA安装element-ui报错npm ERR Found: [email protected] ERR node_modules/vuenpm ERR v
    npmERR!codeERESOLVEnpmERR!ERESOLVEunabletoresolvedependencytreenpmERR!npmERR!Whileresolving:[email protected]!......
  • CentOS7安装Docker
    一、官网安装参考手册https://docs.docker.com/engine/install/centos/二、确定你是CentOS7及以上版本cat/etc/redhat-release要安装DockerEngine,您需要CentOS7、Cent......
  • 使用pip 安装requirements.txt中所需要的包
    使用pip安装requirements.txt中所需要的包pipinstall-rrequirements.txt使用 pipfreeze 会输出所有在本地已安装的包(但不包括 pip、wheel、setuptools 等自......
  • VS2013+WDK7600 XP环境配置
    前言:环境搭建/编写/调试参考文章:https://www.cnblogs.com/iBinary/p/8290595.html驱动环境搭建WDK7600环境变量配置配置相关WDK7600的目录打开VS2013,新建空项目文件......
  • docker中安装kafka
    docker中安装kafka在安装kafka之前需要先安装zookeeper,因为kafka启动会将元数据保存在zookeeper中,zookeeper是一种分布式协调服务,可以再分布式系统中共享配置,协调锁资......