首页 > 其他分享 >容错设计

容错设计

时间:2023-07-05 14:33:28浏览次数:36  
标签:重试 流程 容错 任务 失败 设计 节点

容错设计

服务器戎机容错

master容错

依赖于zk的watcher机制,实现原理
image
其中master监控其他master和worker的目录,如果监听到remove事件,根据具体业务逻辑进行实例容错或任务实例容错
Master容错流程
image
Master容错完成之后则重新由DolphinScheduler中Scheduler线程调度,遍历 DAG 找到”正在运行”和“提交成功”的任务,对”正在运行”的任务监控其任务实例的状态,对”提交成功”的任务需要判断Task Queue中是否已经存在,如果存在则同样监控任务实例的状态,如果不存在则重新提交任务实例。

worker容错

image

任务重试

  • 任务失败重试:任务级别,调度系统自动进行的,比如一个shell任务设置重试次数为3,那么shell任务运行失败后会再多尝试运行3次
  • 流程失败恢复:流程级别的,是手动进行的,恢复是只能从失败的任务节点开始执行或从当前节点开始执行
  • 流程失败重跑:流程级别的,手动进行的,重跑是从最初的开始节点进行

每一个节点(task)可以配置失败重试的次数,当该任务节点失败,会自动重试。直到成功或者超过配置的次数。如果任务节点达到了最大失败次数,工作流整个失败停止。失败的工作流可以手工重跑或者流程恢复

标签:重试,流程,容错,任务,失败,设计,节点
From: https://www.cnblogs.com/PythonOrg/p/17528434.html

相关文章

  • JAVA设计模式之建造者模式
    设计模式设计模式(DesignPattern)是前辈们对代码开发经验的总结,是解决特定问题的一系列套路。它不是语法规定,而是一套用来提高代码可复用性、可维护性、可读性、稳健性以及安全性的解决方案。总体来说设计模式分为三大类:创建型模式,共五种:工厂方法模式、抽象工厂模式、单例模式、......
  • PowerDesigner反向导入表+PowerDesigner的ER图设计+PowerDesigner连接外键的线(版本16.
    使用PowerDesigner导入表+PowerDesigner画ER图+PowerDesigner设置外键ps:①ER图:就是PD中的PhysicalDiagram一、导入表,并设置备注为PD中的显示名称参考:https://blog.csdn.net/weixin_37530941/article/details/107331105利用建表语句sql导入表1、新建数据库模型2......
  • 模拟嵌入式边缘计算卡设计方案:367-XC7Z100 板卡 基于zynq XC7Z100 FMC接口通用计算平
    基于zynqXC7Z100FMC接口通用计算平台 一、板卡概述北京太速科技板卡由SoCXC7Z100-2FFG900I芯片来完成卡主控及数字信号处理,XC7Z100内部集成了两个ARMCortex-A9核和一个kintex7的FPGA,通过PL端FPGA扩展FMC、光纤、IO等接口,PS端ARM扩展网络、USB、RS232等接口......
  • Vectorworks 2023 mac|3D建筑设计软件
    Vectorworks2023mac(3D建筑设计软件)是一款全新的三维建筑设计软件,3D建筑设计软件拥有更多的功能,更加实用,更强大!Vectorworks2023mac的主要功能是设计和构建模型和渲染图,Vectorworks2023mac的主要功能还包括在线渲染、动画模拟和3D建模。在Vectorworks2023mac中,您可以进......
  • 分布式数据库 Join 查询设计与实现浅析
    相对于单例数据库的查询操作,分布式数据查询会有很多技术难题。本文记录Mysql分库分表 和ElasticsearchJoin查询的实现思路,了解分布式场景数据处理的设计方案。文章从常用的关系型数据库MySQL的分库分表Join分析,再到非关系型ElasticSearch来分析Join实现策略。逐步......
  • 现在有一个未分库分表的系统,未来要分库分表,如何设计才可以让系统从未分库分表动态切换
    面试官心理分析你看看,你现在已经明白为啥要分库分表了,你也知道常用的分库分表中间件了,你也设计好你们如何分库分表的方案了(水平拆分、垂直拆分、分表),那问题来了,你接下来该怎么把你那个单库单表的系统给迁移到分库分表上去?所以这都是一环扣一环的,就是看你有没有全流程经历过这个......
  • 【总结】超100期经典GAN模型的解读,从结构设计到应用,你不动心吗?
    GAN无疑是这几年深度学习领域里最酷的技术,不管是理论的研究,还是GAN在图像生成,图像翻译,语音图像等基础领域的应用,都非常的丰富。我们公众号输出过非常多的GAN相关资源,本次做一个简单汇总,并重点介绍其中的各类GAN模型解读的专题。内容包括生成模型基础,自编码器与变分自编码器,生成对抗......
  • DDD领域设计模式
    微服务设计为什么要选择DDD?其实最近几年微服务架构的思想越来越普及,很多企业已经或者尝试从单体架构向微服务架构转型。微服务也成为很多中大型企业实施中台战略的不二之选。但是在微服务实施过程中有很多问题,单体应用到底应该如何去拆分微服务?边界到底怎么划分?微服务这个微字到......
  • 原型设计用得最多的是PS吗?该如何画原型?
    在产品开发的前期工作中,产品经理或设计师通常需要进行原型设计工作,创建一个可交互和可视化的原型,以更准确地表达他们的设计构思和想法,并为项目顺利递交给开发人员做好准备。进行原型设计时,使用设计工具来画原型图是最高效的方式。那么,产品经理或设计师会使用什么设计工具来画原型图......
  • 【开源共享】全网最简单易用的imx6ull烧写工具设计初衷&工作原理&设计前的思考
    论  坛:http://bbs.100ask.net/(学术答疑)公 众 号:百问科技版本日期作者说明V12020韦东山技术文档公布完好消息,接下来重点谈谈开源烧写工具100ask_imx6ull_Flashingtool。100ask_imx6ull_Flashingtool由深圳百问网科技有限公司(下称:百问网)独立开发,版权归百问网所有,并保留对......