首页 > 其他分享 >使用 Asynq 实现 Go 异步任务处理

使用 Asynq 实现 Go 异步任务处理

时间:2022-11-28 10:34:04浏览次数:37  
标签:异步 asynq err Asynq client 任务 task Go

# 1. 介绍

Asynq 是一个 Go 库,用于对任务进行排队并与工作人员异步处理它们。

它的工作原理:

  • 客户端将任务放入队列

  • 服务器从队列中拉出任务并为每个任务启动一个工作 goroutine

  • 多个工作人员同时处理任务

仓库链接:https://github.com/hibiken/asynq)

# 2. 快速开始

 2.1 准备工作

确保已安装并运行了redis

redis-server

安装asynq软件包

go get -u github.com/hibiken/asynq

创建项目asynq_task,目录结构:

图片

 2.2 Redis连接项

Asynq 使用 Redis 作为消息代理。
client.go 和 main.go 都需要连接到 Redis 进行写入和读取。
我们将使用 RedisClientOpt 指定如何连接到本地 Redis 实例。

asynq.RedisClientOpt{
    Addr:     "127.0.0.1:6379",
    Password: "",
    DB:       2,
}

 2.3 Task任务

type Task struct {
    // 一个简单的字符串值,表示要执行的任务的类型.
    typename string

    // 有效载荷保存执行任务所需的数据,有效负载值必须是可序列化的.
    payload []byte

    // 保存任务的选项.
    opts []Option

    // 任务的结果编写器.
    w *ResultWriter
}

 2.4 编写程序

test_delivery.go : 一个封装任务创建和任务处理的包

package test_delivery

import (
    "context"
    "encoding/json"
    "fmt"
    "github.com/hibiken/asynq"
    "log"
)

const (
    TypeEmailDelivery = "email:deliver"
)

type EmailDeliveryPayload struct {
    UserID     int
    TemplateID string
}

func NewEmailDeliveryTask(userID int, tmplID string) (*asynq.Task, error) {
    payload, err := json.Marshal(EmailDeliveryPayload{UserID: userID, TemplateID: tmplID})
    if err != nil {
        fmt.Println(err)
        return nil, err
    }
    return asynq.NewTask(TypeEmailDelivery, payload), nil
}

func HandleEmailDeliveryTask(ctx context.Context, t *asynq.Task) error {
    var p EmailDeliveryPayload
    if err := json.Unmarshal(t.Payload(), &p); err != nil {
        return fmt.Errorf("json.Unmarshal failed: %v: %w", err, asynq.SkipRetry)
    }
    //逻辑处理start...
    log.Printf("Sending Email to User: user_id=%d, template_id=%s", p.UserID, p.TemplateID)
    return nil
}

client.go: 在应用程序代码中,导入上述包并用于Client将任务放入队列中。

package client

import (
    "asynq_task/test_delivery"
    "github.com/hibiken/asynq"
    "log"
)

func EmailDeliveryTaskAdd() {
    client := asynq.NewClient(asynq.RedisClientOpt{
        Addr:     "127.0.0.1:6379",
        Password: "",
        DB:       2,
    })
    defer client.Close()

    task, err := test_delivery.NewEmailDeliveryTask(42, "some:template:id")
    if err != nil {
        log.Fatalf("could not create task: %v", err)
    }
    info, err := client.Enqueue(task)
    if err != nil {
        log.Fatalf("could not enqueue task: %v", err)
    }
    log.Printf("enqueued task: id=%s queue=%s", info.ID, info.Queue)
}

main.go:  异步任务服务入口文件

接下来,启动一个工作服务器以在后台处理这些任务。要启动后台工作人员,使用Server并提供您Handler来处理任务。可以选择使用ServeMux来创建处理程序,就像使用net/httpHandler 一样。

package main

import (
    "asynq_task/test_delivery"
    "github.com/hibiken/asynq"
    "log"
)

func main() {
    srv := asynq.NewServer(
        asynq.RedisClientOpt{
            Addr:     "127.0.0.1:6379",
            Password: "",
            DB:       2,
        },
        asynq.Config{
            // 每个进程并发执行的worker数量
            Concurrency: 5,
            // Optionally specify multiple queues with different priority.
            Queues: map[string]int{
                "critical": 6,
                "default":  3,
                "low":      1,
            },
            // See the godoc for other configuration options
        },
    )

    mux := asynq.NewServeMux()
    mux.HandleFunc(test_delivery.TypeEmailDelivery, test_delivery.HandleEmailDeliveryTask)

    if err := srv.Run(mux); err != nil {
        log.Fatalf("could not run server: %v", err)
    }
}

Asynq 是一个 Go 库(https://github.com/hibiken/asynq),用于对任务进行排队并与工作人员异步处理它们。用来分发异步任务

package main

import (
    "asynq_task/test_delivery/client"
    "time"
)

func main() {
    for i := 0; i < 3; i++ {
        client.EmailDeliveryTaskAdd()
        time.Sleep(time.Second * 3)
    }
}

 5. 运行查看结果

  1. 首先,我们要先把异步任务启动起来准备好接收,也就是启动cmd/main.go

  2. 启动test.go文件向异步任务服务添加任务队列

结果如下:

go run main.go

图片go run test.go

图片

# 3. 细节

 3.1 关于asynq的优雅退出

如果异步服务突然被暂停,正在执行的异步任务会push到队列中,下次启动的时候自动执行。

我们可以将一个异步任务中途sleep几秒,发送一个异步任务,任务没执行完中途停掉任务测试出结果:

图片

再次启动异步任务服务,发现这个任务被重新执行。

 3.2 client中 client.Enqueue 的使用

1) 立即处理任务

client.Enqueue(t1, time.Now())

2)延时处理任务, 两小时后处理

client.Enqueue(t2, asynq.ProcessIn(time.Now().Add(2 * time.Hour)))

3) 任务重试,最大重试次数为25次。

client.Enqueue(task, asynq.MaxRetry(5))

4)确保任务的唯一性

4-1:使用TaskID选项:自行生成唯一的任务 ID

_, err := client.Enqueue(task, asynq.TaskID("mytaskid"))

// Second task will fail, err is ErrTaskIDConflict (assuming that the first task didn't get processed yet)
_, err = client.Enqueue(task, asynq.TaskID("mytaskid"))

4-2:使用Unique选项:让 Asynq 为任务创建唯一性锁

err := c.Enqueue(t1, asynq.Unique(time.Hour))

另外,asynq异步任务提供了命令行工具和Asynqmon用于监控和管理Asynq异步任务和队列。WebUI可以通过传递两个标志来启用与 Prometheus 的集成。

作者:sweey_lff原文链接:https://huaweicloud.csdn.net/637ef508df016f70ae4ca586.html?

标签:异步,asynq,err,Asynq,client,任务,task,Go
From: https://www.cnblogs.com/cheyunhua/p/16931543.html

相关文章

  • go slice不同初始化方式性能&数组比较
    go语言开发中,slice是我们常用的数据类型之一,也是因为它的灵活性,自己也很少使用数组,当然我也知道它的一些特性,不过没有真实的去验证它,因为大多数使用场景没必要对code太过苛......
  • 不背锅运维:Grafana的自动登入(Go和Python分别实现)
    1.实现目标想要达到的目标是:当在浏览器向http://192.168.11.254:3090/auto_login这个地址发起GET请求后能够自动登入Grafana2.实现思路需要额外开发一个API处理来自......
  • goioc:一个使用 Go 写的简易的 ioc 框架
    目录goioc介绍快速上手接口介绍使用goioc如何使用生命周期实例化获取对象结构体字段依赖注入Dispose接口反射形式使用goioc如何使用接口、结构体、结构体指针不会自动......
  • 4-Django简介
    一MVC与MTV模型1.1MVCWeb服务器开发领域里著名的MVC模式,所谓MVC就是把Web应用分为模型(M),控制器(C)和视图(V)三层,他们之间以一种插件式的、松耦合的方式连接在一起,模......
  • django-缓存
    缓存缓存的作用是缓解服务器压力,或者者说是数据库的压力,我们可以将一些常用的页面或数据放入缓存中,用户查询时,直接去缓存里面查,以此来缓解服务器压力 django提供的缓存......
  • 给django ModelForm加样式
    widgets={#'depart':forms.widget.Select(attrs={'class':'js-selectform-control'}),这个不知道是什么原因不成功#'name':forms.wid......
  • 使用VSCode + PicGo 写markdown
    PicGo在vscode中相当于把你剪贴板图片上传到云端,然后提供给你一个访问它的链接;图床就是自动把本地图片转换成链接的一款工具,即PicGo的功能;1.下载markdown插件2.下载P......
  • Django自带Auth模块
    Django自带Auth模块目录Django自带Auth模块auth模块小结拓展auth_user表User类表如果要后期拓展字段1.删除所有app下的迁移文件2.删除admin&auth下的迁移文件3.数据库转......
  • Django视图层
    Django视图层目录Django视图层JsonResponseform表单上传文件及后端获取request对象方法CBV源码'''HttpResponse,返回字符串render,返回html页面,并且可以给html文件传值r......
  • Django自定义系列
    Django自定义系列目录Django自定义系列模板层-自定义过滤器、标签、inclusion_tag自定义过滤器(最多两个参数)自定义过滤器调用自定义标签(可以有多个参数)自定义标签调用自定......