首页 > 其他分享 >历史服务器

历史服务器

时间:2024-05-11 18:19:22浏览次数:28  
标签:历史 flink Flink historyserver job fs 服务器

历史服务器
运行 Flink job 的集群一旦停止,只能去 yarn 或本地磁盘上查看日志,不再可以查看作业挂掉之前的运行的 Web UI,很难清楚知道作业在挂的那一刻到底发生了什么。如果我们还没有 Metrics 监控的话,那么完全就只能通过日志去分析和定位问题了,所以如果能还原之前的 Web UI,我们可以通过 UI 发现和定位一些问题。
Flink提供了历史服务器,用来在相应的 Flink 集群关闭后查询已完成作业的统计信息。我们都知道只有当作业处于运行中的状态,才能够查看到相关的WebUI统计信息。通过 History Server 我们才能查询这些已完成作业的统计信息,无论是正常退出还是异常退出。
此外,它对外提供了 REST API,它接受 HTTP 请求并使用 JSON 数据进行响应。Flink 任务停止后,JobManager 会将已经完成任务的统计信息进行存档,History Server 进程则在任务停止后可以对任务统计信息进行查询。比如:最后一次的 Checkpoint、任务运行时的相关配置。

1)创建存储目录
hadoop fs -mkdir -p /logs/flink-job

2)在 flink-conf.yaml中添加如下配置
jobmanager.archive.fs.dir: hdfs://x:8020/logs/flink-job
historyserver.web.address: x
historyserver.web.port: 8082
historyserver.archive.fs.dir: hdfs://x/logs/flink-job
historyserver.archive.fs.refresh-interval: 5000

3)启动历史服务器
bin/historyserver.sh start

4)停止历史服务器
bin/historyserver.sh stop

5)在浏览器地址栏输入:http://x:8082 查看已经停止的 job 的统计信息

标签:历史,flink,Flink,historyserver,job,fs,服务器
From: https://www.cnblogs.com/huft/p/18186992

相关文章

  • 2-线上服务器网络安全配置与系统登陆安全配置
    2.线上服务器网络安全配置与系统登陆安全配置线上服务器网络安全配置与系统登陆安全配置关闭selinuxiptables配置iptables-PINPUTACCEPTiptables-Fiptables-AINPUT-ptcp-mtcp-dport80-jACCEPTiptables-AINPUT-s1.1.1.1-ptcp-mtcp--dport22-j......
  • 3-通过yum更新软件包常见yum源推荐时间服务器
    3.通过yum更新软件包常见yum源推荐时间服务器通过yum更新软件包常见yum源推荐时间服务器常见yum源epel源    https://fedoraproject.org/wiki/EPELrepoforge源 http://repoforge.org/use/wget https://dl.fedoraproject.org/pub/epel/epel-release-latest-6.no......
  • EDAC工具助力检测服务器内存故障
    介绍EDAC工具前我们先知道什么是EDACEDAC(ErrorDetectionAndCorrection错误检测与纠正),是Linux系统的错误检测和纠正的框架,它的目的是在linux系统运行过程中,当错误发生时能够发现并且报告出硬件错误。内存有两种错误类型分别是CE和UE,CE是CorrectableError的简称,UE是Uncor......
  • 服务器网口协商速率不一致解决
    在端口协商过程中,设备之间会交换一些控制信息来决定最佳的速率和工作模式。然而有时候会发现网口协商速率不一致,或者存在硬件或软件问题,可能会导致端口协商失败或出现异常情况。主要查看网卡和上游网络设备协商速率和模式是否符合预期;解决方案:1重新自协商:ethtool-reth1/et......
  • springboot项目服务器访问速度慢-可能的解决方法
    springboot项目部署在服务器后,访问很慢或无法访问问题使用宝塔界面,尝试将打包后的jar包部署在服务器上运行时,发现访问速度不是很快,或者是直接访问不到。访问不到对应端口的springboot服务80端口也无法访问首次访问加载慢的解决方法修改jre文件找到安装的jre目......
  • 构建无服务器数仓(二)Apache DolphinScheduler 集成以及 LOB 粒度资源消费分析
    引言在数据驱动的世界中,企业正在寻求可靠且高性能的解决方案来管理其不断增长的数据需求。本系列博客从一个重视数据安全和合规性的B2C金融科技客户的角度来讨论云上云下混合部署的情况下如何利用亚马逊云科技云原生服务、开源社区产品以及第三方工具构建无服务器数据仓库的解......
  • RustDesk 自建服务器部署和使用教程
    RustDesk是一个强大的开源远程桌面软件,是中国开发者的作品,它使用Rust编程语言构建,提供安全、高效、跨平台的远程访问体验。可以说是目前全球最火的开源远程桌面软件了,GitHub星星数量达到了惊人的64k!与TeamViewer、ToDesk等专有远程访问解决方案相比,RustDesk作为一个开源......
  • 在Linux中,如何设计一个高性能的Web服务器?
    设计一个高性能的Web服务器需要考虑多个方面,包括硬件选择、操作系统优化、Web服务器软件配置、数据库优化、以及使用负载均衡和缓存策略等。以下是一些设计高性能Web服务器的步骤和建议:1.硬件选择CPU:选择快速的多核处理器,以便处理大量的并发请求。内存:足够的内存可以提高处理......
  • 如何在AlmaLinux服务器中安装 VirtualBox 7.0
    https://www.a5idc.net/helpview_1331.html目前由Oracle拥有和维护的OracleVMVirtualBox是世界上最受欢迎的开源虚拟化平台,它使用户能够从底层计算机硬件创建虚拟机。VirtualBox是第2类管理程序,这意味着它安装在现有操作系统(如Windows或Linux)之上,以创建模拟CPU、RAM......
  • 通过tftp或SSH中scp命令在linux服务器和linux开发板之间传输文件
    V1.02024年5月11日发布于博客园目录传送文件tftp协议★SSH协议scp命令SSH在Linux中连接另一个Linux配置开发板初始配置网络配置DNS文件配置脚本文件参考文档传送文件tftp协议#从电脑的TFTP主目录传送文件(比如a.txt)到开发板参数-g获取-r指定文件名tftp-g<......