首页 > 其他分享 >延迟队列

延迟队列

时间:2023-06-18 16:57:30浏览次数:35  
标签:return 队列 死信 arg msg public 延迟

1.延迟队列概念

延时队列,队列内部是有序的,最重要的特性就体现在它的延时属性上
延时队列中的元素是希望在指定时间到了以后或之前取出和处理
简单来说,延时队列就是用来存放需要在指定时间被处理的元素的队列。

2.使用场景

1.订单在十分钟之内未支付则自动取消
2.新创建的店铺,如果在十天内都没有上传过商品,则自动发送消息提醒。
3.用户注册成功后,如果三天内没有登陆则进行短信提醒。
4.用户发起退款,如果三天内没有得到处理则通知相关运营人员。
5.预定会议后,需要在预定的时间点前十分钟通知各个与会人员参加会议
这些场景都有一个特点, 需要在某个事件发生之后或者之前的指定时间点完成某一项任务,如:
发生订单生成事件,在10分钟之后检查该订单支付状态,然后将未支付的订单进行关闭;

  • 看起来似乎使用定时任务,一直轮询数据,每秒查一次, 取出需要被处理的数据,然后处理不就完事了吗?
    如果数据量比较少,确实可以这样做,比如:对于“如果账单一周内未支付则进行自动结算"这样的需求,
    如果对于时间不是严格限制,而是宽松意义上的一周,那么每天晚上跑个定时任务检查一下所有未支付的账单,确实也是一个可行的方案。
  • 但对于数据量比较大,并且时效性较强的场景,如:“订单十分钟内未支付则关闭", 短期内未支付的订单数据可能会有很多,活动期间甚至会达到百万甚至千万级别
    对这么庞大的数据量仍旧使用轮询的方式显然是不可取的,很可能在一秒内无法完成所有订单的检查,同时会给数据库带来很大压力,无法满足业务要求而且性能低下。

3.架构图

创建两个队列QA和QB,两者队列TTL分别设置为10S和40S,然后在创建一个交换机X和死信交换机Y,
它们的类型都是direct,创建一个死信队列QD,它们的绑定关系如下:

4.整合springboot

  • pom.xml
<parent>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-parent</artifactId>
    <version>2.7.9</version>
    <relativePath/> <!-- lookup parent from repository -->
</parent>

<dependencies>
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-amqp</artifactId>
    </dependency>

    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-web</artifactId>
    </dependency>

    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-test</artifactId>
        <scope>test</scope>
    </dependency>

    <dependency>
        <groupId>com.alibaba</groupId>
        <artifactId>fastjson</artifactId>
        <version>1.2.4</version>
    </dependency>

    <dependency>
        <groupId>org.projectlombok</groupId>
        <artifactId>lombok</artifactId>
    </dependency>

    <dependency>
        <groupId>io.springfox</groupId>
        <artifactId>springfox-swagger2</artifactId>
        <version>2.9.2</version>
    </dependency>

    <dependency>
        <groupId>io.springfox</groupId>
        <artifactId>springfox-swagger-ui</artifactId>
        <version>2.9.2</version>
    </dependency>
<!--        rabbit测试依赖-->
    <dependency>
        <groupId>org.springframework.amqp</groupId>
        <artifactId>spring-rabbit-test</artifactId>
        <scope>test</scope>
    </dependency>
</dependencies>
  • TTLQueueConfig 配置类
@Configuration
public class TTLQueueConfig {

    //普通交换机名称
    public static final String NORMAL_EXCHAGE = "X";
    //死信交换机名称
    public static final String DEAD_EXCHAGE = "Y";
    //普通队列名称
    public static final String NORMAL_QUEUE_A = "QA";
    public static final String NORMAL_QUEUE_B = "QB";
    //死信交换机名称
    public static final String DEAD_QUEUE = "QD";

    //声明X交换机
    @Bean("xExchange")
    public DirectExchange xExchange(){
        return new DirectExchange(NORMAL_EXCHAGE);
    }

    //声明y交换机
    @Bean("yExchange")
    public DirectExchange yExchange(){
        return new DirectExchange(DEAD_EXCHAGE);
    }

    //声明普通队列A TTL为10s
    @Bean("queueA")
    public Queue queueA(){
        Map<String, Object> arg = new HashMap<>();
        //设置死信交换机
        arg.put("x-dead-letter-exchange", DEAD_EXCHAGE);
        //设置死信RoutingKey
        arg.put("x-dead-letter-routing-key", "YD");
        //设置TTL
        arg.put("x-message-ttl", 10000);

        return QueueBuilder.durable(NORMAL_QUEUE_A).withArguments(arg).build();
    }

    //声明普通队列B TTL为40s
    @Bean("queueB")
    public Queue queueB(){
        Map<String, Object> arg = new HashMap<>();
        //设置死信交换机
        arg.put("x-dead-letter-exchange", DEAD_EXCHAGE);
        //设置死信RoutingKey
        arg.put("x-dead-letter-routing-key", "YD");
        //设置TTL
        arg.put("x-message-ttl", 40000);

        return QueueBuilder.durable(NORMAL_QUEUE_B).withArguments(arg).build();
    }

    //声明死信队列D
    @Bean("queueD")
    public Queue queueD(){
        return QueueBuilder.durable(DEAD_QUEUE).build();
    }

    //绑定XA
    @Bean
    public Binding queueABindingX(@Qualifier("queueA") Queue queueA,
                                  @Qualifier("xExchange") DirectExchange xExchange){
        return BindingBuilder.bind(queueA).to(xExchange).with("XA");
    }

    //绑定XB
    @Bean
    public Binding queueBBindingX(@Qualifier("queueB") Queue queueB,
                                  @Qualifier("xExchange") DirectExchange xExchange){
        return BindingBuilder.bind(queueB).to(xExchange).with("XB");
    }

    //绑定YD
    @Bean
    public Binding queueDBindingY(@Qualifier("queueD") Queue queueD,
                                  @Qualifier("yExchange") DirectExchange yExchange){
        return BindingBuilder.bind(queueD).to(yExchange).with("YD");
    }
}
  • 生产者
@Slf4j
@RestController
@RequestMapping("/ttl")
public class SendMessageController {

    @Autowired
    private RabbitTemplate rabbitTemplate;

    @GetMapping("/sendMsg/{msg}")
    public void sendMsg(@PathVariable String msg){
        System.out.println(new Date() + msg);
        rabbitTemplate.convertAndSend("X","XA","来自A" + msg);
        rabbitTemplate.convertAndSend("X","XB","来自B" + msg);
    }
}
  • 消费者
@Slf4j
@Component
public class DeadLetterQueueConsumer {

    //接收消息
    @RabbitListener(queues = "QD")
    public void receiveD(Message message, Channel channel) throws Exception{
        String msg = new String(message.getBody());
        log.info("Dead" + new Date() + msg);
    }
}

5.队列优化

第一条消息在10S后变成了死信消息,然后被消费者消费掉,第二条消息在40S之后变成了死信消息,然后被消费掉,这样一个延时队列就打造完成了。
不过,如果这样使用的话,岂不是每增加一个新的时间需求,就要新增一个队列,这里只有10S和40S
两个时间选项,如果需要一个小时后处理 ,那么就需要增加TTL为一个小时的队列,如果是预定会议室然后提前通知这样的场景,岂不是要增加无数个队列才能满足需求?

  • 在这里新增了一个队列QC,绑定关系如下,该队列不设置TTL时间
  • TTLQueueConfig 配置类
public static final String NORMAL_QUEUE_C = "QC";

 //声明普通队列C 不设置TTL
    @Bean("queueC")
    public Queue queueC(){
        Map<String, Object> arg = new HashMap<>();
        //设置死信交换机
        arg.put("x-dead-letter-exchange", DEAD_EXCHAGE);
        //设置死信RoutingKey
        arg.put("x-dead-letter-routing-key", "YD");

        return QueueBuilder.durable(NORMAL_QUEUE_C).withArguments(arg).build();
    }
//绑定YD
    @Bean
    public Binding queueCBindingX(@Qualifier("queueC") Queue queueC,
                                  @Qualifier("xExchange") DirectExchange xExchange){
        return BindingBuilder.bind(queueC).to(xExchange).with("XC");
    }
  • 生产者
//开始放消息
    @GetMapping("sendExpirationMsg/{msg}/{ttl}")
    public void sendMsg(@PathVariable String msg, @PathVariable String ttl){
        log.info(new Date().toString(), ttl, msg);
        System.out.println(msg + " " + ttl);
        rabbitTemplate.convertAndSend("X","XC",msg,message -> {
            message.getMessageProperties().setExpiration(ttl);
            return message;
        } );
    }
  • 看起来似乎没什么问题,但是在最开始的时候,就介绍过如果使用在消息属性上设置TTL的方式,
    消息可能并不会按时“死亡",因为RabbitMQ只会检查第-个消息是否过期,如果过期则丢到死信队列,
    如果第1个消息的延时时长很长,而第二个消息的延时时长很短,第二个消息并不会优先得到执行。

标签:return,队列,死信,arg,msg,public,延迟
From: https://www.cnblogs.com/lwx11111/p/17489305.html

相关文章

  • 数据结构:栈与队列
    栈:栈是一种后进先出的数据结构,我们可以想象为一个瓶子,往里放东西。又比如,函数的递归调用,就是一种栈的结构。php中用数组实现栈:$arr=array();//入栈functionpush(&$arr,$val){$size=count($arr);$arr[$size]=$val;}//出栈functionpop(&$arr){$si......
  • 【题解】CF754D Fedor and coupons(优先队列)
    【题解】CF754DFedorandcoupons题目链接CF754DFedorandcouponsCF1029CMaximalIntersection后者是前者的加强版。思路分析最开始,先考虑不删区间\((k=0)\)的情况:也就是给你一大堆区间,让你找他们的交集。这个还是比较好想的,我们刚开始让第二个区间与第一个区间相交......
  • c++线程安全队列--有锁
    C++线程安全队列是一种数据结构,用于在多线程环境中安全地共享数据。它提供了一组功能,确保多个线程可以同时读取和写入队列,而不会导致竞争条件或数据损坏。C++线程安全队列的常见功能:入队操作(Enqueue):将一个元素添加到队列的尾部。这个操作必须是原子的,以确保在多线程环境中不会......
  • P1903 [国家集训队] 数颜色 / 维护队列 题解
    一、题目描述:给你一个长度为$n$的序列$a$,你需要进行$m$次操作。$类型\1\:将第\x\个元素的值修改为\v\。$$类型\2\:求区间\l\到\r\中有多少种数字。$数据范围:$1\len,m\le1333333,所有数字\le1\times10^6$ 二、解题思路:带......
  • 代码随想录算法训练营第九天| 232.用栈实现队列 225. 用队列实现栈
    232.用栈实现队列注意:1,构造函数不需要2,需要有两个成员变量inout代码:1classMyQueue{2public:3stack<int>in;4stack<int>out;5MyQueue(){67}89voidpush(intx){10in.push(x);11}1213intpop(){1......
  • /*创建消息队列*/ msgid=msgget(IPC_PRIVATE,0666 | IPC_CREAT);
    #include<stdlib.h>#include<stdio.h>#include<string.h>#include<errno.h>#include<unistd.h>#include<sys/types.h>#include<sys/ipc.h>#include<sys/msg.h>#defineMAX_TEXT512structmy_msg_st{......
  • 队列Rollback的设计
    有一个队列包含了N个block,每个block是队列中的一个元素。block很大,一个block中可以容纳M个item(M>1)。这个队列的基本使用模式就是:不断的有item过来,往block里面填充,一旦block满,就创建一个新的block,后继item都填往新block。rollback的定义:最后一个item填充到block中后,由于出现了某种错......
  • 队列
    队列的访问和搜索时间复杂度都是O(N)插入和删除的时间复杂度都是O(1)常见操作:1.创建队列2.添加元素3.获取即将出队的元素4.删除即将出队的元素5.判断队列是否为空6.队列长度7.遍历队列 933写一个 RecentCounter 类来计算特定时间范围内最近的请求。请你实现RecentCou......
  • 队列全集(线程池任务队列选择,有界队列,阻塞队列)
    转载:https://juejin.cn/post/7125373259066900493https://juejin.cn/post/6870298844425371655#comment......
  • [C++/PTA] 队列操作
    题目要求请实现一个MyQueue类,实现出队,入队,求队列长度.实现入队函数voidpush(intx);实现出队函数intpop();实现求队列长度函数intsize();输入格式:每个输入包含1个测试用例。每个测试用例第一行给出一个正整数n(n<=10^6),接下去n行每行一个数字,表示一种操作:1x:......