首页 > 其他分享 >【go】golang 熔断器的实现过程

【go】golang 熔断器的实现过程

时间:2022-11-24 14:33:14浏览次数:68  
标签:状态 请求 generation cb golang 熔断器 go now

熔断器像是一个保险丝。当我们依赖的服务出现问题时,可以及时容错。一方面可以减少依赖服务对自身访问的依赖,防止出现雪崩效应;另一方面降低请求频率以方便上游尽快恢复服务。

熔断器的应用也非常广泛。除了在我们应用中,为了请求服务时使用熔断器外,在 web 网关、微服务中,也有非常广泛的应用。本文将从源码角度学习 sony 开源的一个熔断器实现

github/sony/gobreaker (代码注释可以从github/lpflpf/gobreaker查看)

1.熔断器的模式

gobreaker 是基于《微软云设计模式》一书中的熔断器模式的 Golang 实现。有 sony 公司开源,目前 star 数有 1.2K。使用人数较多。

下面是模式定义的一个状态机:

 

 

熔断器有三种状态,四种状态转移的情况:

  • 熔断器关闭状态,服务正常访问
  • 熔断器开启状态,服务异常
  • 熔断器半开状态,部分请求限流访问

四种状态转移:

  • 在熔断器关闭状态下,当失败后并满足一定条件后,将直接转移为熔断器开启状态。
  • 在熔断器开启状态下,如果过了规定的时间,将进入半开启状态,验证目前服务是否可用。
  • 在熔断器半开启状态下,如果出现失败,则再次进入关闭状态。
  • 在熔断器半开启后,所有请求(有限额)都是成功的,则熔断器关闭。所有请求将正常访问。

2.gobreaker 的实现

gobreaker 是在上述状态机的基础上,实现的一个熔断器。

2.1熔断器的定义

type CircuitBreaker struct {  
  name          string  
  maxRequests   uint32  // 最大请求数 (半开启状态会限流)  
  interval      time.Duration   // 统计周期  
  timeout       time.Duration   // 进入熔断后的超时时间  
  readyToTrip   func(counts Counts) bool // 通过 Counts 判断是否开启熔断。需要自定义  
  onStateChange func(name string, from State, to State) // 状态修改时的钩子函数  

  mutex      sync.Mutex // 互斥锁,下面数据的更新都需要加锁  
  state      State  // 记录了当前的状态  
  generation uint64 // 标记属于哪个周期  
  counts     Counts // 计数器,统计了 成功、失败、连续成功、连续失败等,用于决策是否进入熔断  
  expiry     time.Time // 进入下个周期的时间  
}  

其中,如下参数是我们可以自定义的:

  • MaxRequests:最大请求数。当在最大请求数下,均请求正常的情况下,会关闭熔断器
  • interval:一个正常的统计周期。如果为 0,那每次都会将计数清零
  • timeout: 进入熔断后,可以再次请求的时间
  • readyToTrip:判断熔断生效的钩子函数
  • onStateChagne:状态变更的钩子函数

2.2请求的执行

熔断器的执行操作,主要包括三个阶段;①请求之前的判定;②服务的请求执行;③请求后的状态和计数的更新

// 熔断器的调用  
func (cb *CircuitBreaker) Execute(req func() (interface{}, error)) (interface{}, error) {  

  // ①请求之前的判断  
  generation, err := cb.beforeRequest()  
  if err != nil {  
    return nil, err  
  }  

  defer func() {  
    e := recover()  
    if e != nil {  
      // ③ panic 的捕获  
      cb.afterRequest(generation, false)  
      panic(e)  
    }  
  }()  

  // ② 请求和执行  
  result, err := req()  

  // ③ 更新计数  
  cb.afterRequest(generation, err == nil)  
  return result, err  
}  

2.3请求之前的判定操作

请求之前,会判断当前熔断器的状态。如果熔断器以开启,则不会继续请求。如果熔断器半开,并且已达到最大请求阈值,也不会继续请求。

func (cb *CircuitBreaker) beforeRequest() (uint64, error) {  
  cb.mutex.Lock()  
  defer cb.mutex.Unlock()  

  now := time.Now()  
  state, generation := cb.currentState(now)  

  if state == StateOpen { // 熔断器开启,直接返回  
    return generation, ErrOpenState  
  } else if state == StateHalfOpen && cb.counts.Requests >= cb.maxRequests { // 如果是半打开的状态,并且请求次数过多了,则直接返回  
    return generation, ErrTooManyRequests  
  }  

  cb.counts.onRequest()  
  return generation, nil  
}  

其中当前状态的计算,是依据当前状态来的。如果当前状态为已开启,则判断是否已经超时,超时就可以变更状态到半开;如果当前状态为关闭状态,则通过周期判断是否进入下一个周期。

func (cb *CircuitBreaker) currentState(now time.Time) (State, uint64) {  
  switch cb.state {  
  case StateClosed:  
    if !cb.expiry.IsZero() && cb.expiry.Before(now) { // 是否需要进入下一个计数周期  
      cb.toNewGeneration(now)  
    }  
  case StateOpen:  
    if cb.expiry.Before(now) {  
      // 熔断器由开启变更为半开  
      cb.setState(StateHalfOpen, now)  
    }  
  }  
  return cb.state, cb.generation  
}  

周期长度的设定,也是以据当前状态来的。如果当前正常(熔断器关闭),则设置为一个 interval 的周期;如果当前熔断器是开启状态,则设置为超时时间(超时后,才能变更为半开状态)。

2.4请求之后的处理操作

每次请求之后,会通过请求结果是否成功,对熔断器做计数。

func (cb *CircuitBreaker) afterRequest(before uint64, success bool) {  
  cb.mutex.Lock()  
  defer cb.mutex.Unlock()  

  now := time.Now()  

  // 如果不在一个周期,就不再计数  
  state, generation := cb.currentState(now)  
  if generation != before {  
    return  
  }  

  if success {  
    cb.onSuccess(state, now)  
  } else {  
    cb.onFailure(state, now)  
  }  
}  

如果在半开的状态下:

如果请求成功,则会判断当前连续成功的请求数 大于等于 maxRequests, 则可以把状态由半开状态转移为关闭状态
如果在半开状态下,请求失败,则会直接将半开状态转移为开启状态
如果在关闭状态下:

如果请求成功,则计数更新
如果请求失败,则调用 readyToTrip 判断是否需要将状态关闭状态转移为开启状态

总结:

  • 于频繁请求一些远程或者第三方的不可靠的服务,存在失败的概率还是非常大的。使用熔断器的好处就是可以是我们自身的服务不被这些不可靠的服务拖垮,造成雪崩。
  • 由于熔断器里面,不仅会维护不少的统计数据,还有互斥锁做资源隔离,成本也会不少。
  • 在半开状态下,可能出现请求过多的情况。这是由于半开状态下,连续请求成功的数量未达到最大请求值。所以,熔断器对于请求时间过长(但是比较频繁)的服务可能会造成大量的 too many requests 错误

到此这篇关于golang 熔断器的实现过程的文章就介绍到这了,更多相关golang 熔断器的实现内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

【参考链接】

go笔记-熔断器

标签:状态,请求,generation,cb,golang,熔断器,go,now
From: https://www.cnblogs.com/opensmarty/p/16921738.html

相关文章

  • Django安装和卸载
    目录安装与验证卸载安装与验证安装pip源:https://pypi.douban.com/simple/豆瓣源https://pypi.tuna.tsinghua.edu.cn/simple清华源格式:pipins......
  • MongoDB - 聚合查询
    聚合管道聚合框架是MongoDB中的一组分析工具,可以对一个或多个集合中的文档进行分析。MongoDB的聚合框架基于管道的概念:首先从集合中获取到输入,然后将输入的文档传递到......
  • Go 的位操作
    在计算机内存昂贵,处理能力有限的美好旧时光里,用比较黑客范的位运算方式去处理信息是首选方式(某些情况下只能如此)。时至今日,直接使用位运算仍然是很多计算领域中不可或缺的......
  • go中的Itoa、Atoi和iota
    1.strcov包中的Itoa和AtoiItoa(用于将整数转换为字符串)来源:早期c语言中没有string类型而是用字符数组array表示字符串,所以Itoa是缩写于InttoArrayAtoi(......
  • 解决npm ERR! Cannot read properties of null (reading ‘pickAlgorithm‘)报错问题
    解决方法:在终端中运行命令:npmcacheclear--force然后重新运行npmi命令,再次安装安装完成,没有出现报错npmrunserve运行项目,项目可以正常启动了。  安装vueCLI......
  • django聚合查询与分组查询
    目录django聚合查询与分组查询例题聚合、分组查询Count()例子order_by()values()annotate()和values()的顺序分组加聚合django聚合查询与分组查询例题聚合、分组查......
  • Mongo 常用命令
    1.登入dockerexec-it mongomongo 数据库db.auth("账号","密码")dockerexec-it mongo mongo ip:port -u账号-p密码--authenticationDatabase......
  • mongoDB的应用场景以及Spring和mongodb的整合
    mongoDB的应用场景​ mongodb是非关系型数据库,他的存储数据可以超过上亿条(老版本的mongodb有丢数据的情况,新版本不会有,网上说的),mongodb适合存储一些量大表关系较简单的数......
  • ubuntu- rhythmbox的google音乐插件
    可以在线播放音乐的插件forrhythmbox.一直以来都在使用大家的开源分享,也该是有所回馈的时候了.​​http://forum.ubuntu.org.cn/viewtopic.php?f=74&t=236488​​仔细研......
  • OpenSergo & ShardingSphere 社区共建微服务视角的数据库治理标准
    作者:赵奕豪(宿何)为什么需要微服务治理与OpenSergo?在经典微服务架构中,我们通常将服务调用中各角色划分为三部分:服务提供者、服务消费者、注册中心。经典的微服务架构可以解决......