1.延迟队列概念
延时队列,队列内部是有序的,最重要的特性就体现在它的延时属性上
延时队列中的元素是希望在指定时间到了以后或之前取出和处理
简单来说,延时队列就是用来存放需要在指定时间被处理的元素的队列。
2.使用场景
1.订单在十分钟之内未支付则自动取消
2.新创建的店铺,如果在十天内都没有上传过商品,则自动发送消息提醒。
3.用户注册成功后,如果三天内没有登陆则进行短信提醒。
4.用户发起退款,如果三天内没有得到处理则通知相关运营人员。
5.预定会议后,需要在预定的时间点前十分钟通知各个与会人员参加会议
这些场景都有一个特点, 需要在某个事件发生之后或者之前的指定时间点完成某一项任务,如:
发生订单生成事件,在10分钟之后检查该订单支付状态,然后将未支付的订单进行关闭;
- 看起来似乎使用定时任务,一直轮询数据,每秒查一次, 取出需要被处理的数据,然后处理不就完事了吗?
如果数据量比较少,确实可以这样做,比如:对于“如果账单一周内未支付则进行自动结算"这样的需求,
如果对于时间不是严格限制,而是宽松意义上的一周,那么每天晚上跑个定时任务检查一下所有未支付的账单,确实也是一个可行的方案。 - 但对于数据量比较大,并且时效性较强的场景,如:“订单十分钟内未支付则关闭", 短期内未支付的订单数据可能会有很多,活动期间甚至会达到百万甚至千万级别
对这么庞大的数据量仍旧使用轮询的方式显然是不可取的,很可能在一秒内无法完成所有订单的检查,同时会给数据库带来很大压力,无法满足业务要求而且性能低下。
3.架构图
创建两个队列QA和QB,两者队列TTL分别设置为10S和40S,然后在创建一个交换机X和死信交换机Y,
它们的类型都是direct,创建一个死信队列QD,它们的绑定关系如下:
4.整合springboot
- pom.xml
<parent>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-parent</artifactId>
<version>2.7.9</version>
<relativePath/> <!-- lookup parent from repository -->
</parent>
<dependencies>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-amqp</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-test</artifactId>
<scope>test</scope>
</dependency>
<dependency>
<groupId>com.alibaba</groupId>
<artifactId>fastjson</artifactId>
<version>1.2.4</version>
</dependency>
<dependency>
<groupId>org.projectlombok</groupId>
<artifactId>lombok</artifactId>
</dependency>
<dependency>
<groupId>io.springfox</groupId>
<artifactId>springfox-swagger2</artifactId>
<version>2.9.2</version>
</dependency>
<dependency>
<groupId>io.springfox</groupId>
<artifactId>springfox-swagger-ui</artifactId>
<version>2.9.2</version>
</dependency>
<!-- rabbit测试依赖-->
<dependency>
<groupId>org.springframework.amqp</groupId>
<artifactId>spring-rabbit-test</artifactId>
<scope>test</scope>
</dependency>
</dependencies>
- TTLQueueConfig 配置类
@Configuration
public class TTLQueueConfig {
//普通交换机名称
public static final String NORMAL_EXCHAGE = "X";
//死信交换机名称
public static final String DEAD_EXCHAGE = "Y";
//普通队列名称
public static final String NORMAL_QUEUE_A = "QA";
public static final String NORMAL_QUEUE_B = "QB";
//死信交换机名称
public static final String DEAD_QUEUE = "QD";
//声明X交换机
@Bean("xExchange")
public DirectExchange xExchange(){
return new DirectExchange(NORMAL_EXCHAGE);
}
//声明y交换机
@Bean("yExchange")
public DirectExchange yExchange(){
return new DirectExchange(DEAD_EXCHAGE);
}
//声明普通队列A TTL为10s
@Bean("queueA")
public Queue queueA(){
Map<String, Object> arg = new HashMap<>();
//设置死信交换机
arg.put("x-dead-letter-exchange", DEAD_EXCHAGE);
//设置死信RoutingKey
arg.put("x-dead-letter-routing-key", "YD");
//设置TTL
arg.put("x-message-ttl", 10000);
return QueueBuilder.durable(NORMAL_QUEUE_A).withArguments(arg).build();
}
//声明普通队列B TTL为40s
@Bean("queueB")
public Queue queueB(){
Map<String, Object> arg = new HashMap<>();
//设置死信交换机
arg.put("x-dead-letter-exchange", DEAD_EXCHAGE);
//设置死信RoutingKey
arg.put("x-dead-letter-routing-key", "YD");
//设置TTL
arg.put("x-message-ttl", 40000);
return QueueBuilder.durable(NORMAL_QUEUE_B).withArguments(arg).build();
}
//声明死信队列D
@Bean("queueD")
public Queue queueD(){
return QueueBuilder.durable(DEAD_QUEUE).build();
}
//绑定XA
@Bean
public Binding queueABindingX(@Qualifier("queueA") Queue queueA,
@Qualifier("xExchange") DirectExchange xExchange){
return BindingBuilder.bind(queueA).to(xExchange).with("XA");
}
//绑定XB
@Bean
public Binding queueBBindingX(@Qualifier("queueB") Queue queueB,
@Qualifier("xExchange") DirectExchange xExchange){
return BindingBuilder.bind(queueB).to(xExchange).with("XB");
}
//绑定YD
@Bean
public Binding queueDBindingY(@Qualifier("queueD") Queue queueD,
@Qualifier("yExchange") DirectExchange yExchange){
return BindingBuilder.bind(queueD).to(yExchange).with("YD");
}
}
- 生产者
@Slf4j
@RestController
@RequestMapping("/ttl")
public class SendMessageController {
@Autowired
private RabbitTemplate rabbitTemplate;
@GetMapping("/sendMsg/{msg}")
public void sendMsg(@PathVariable String msg){
System.out.println(new Date() + msg);
rabbitTemplate.convertAndSend("X","XA","来自A" + msg);
rabbitTemplate.convertAndSend("X","XB","来自B" + msg);
}
}
- 消费者
@Slf4j
@Component
public class DeadLetterQueueConsumer {
//接收消息
@RabbitListener(queues = "QD")
public void receiveD(Message message, Channel channel) throws Exception{
String msg = new String(message.getBody());
log.info("Dead" + new Date() + msg);
}
}
5.队列优化
第一条消息在10S后变成了死信消息,然后被消费者消费掉,第二条消息在40S之后变成了死信消息,然后被消费掉,这样一个延时队列就打造完成了。
不过,如果这样使用的话,岂不是每增加一个新的时间需求,就要新增一个队列,这里只有10S和40S
两个时间选项,如果需要一个小时后处理 ,那么就需要增加TTL为一个小时的队列,如果是预定会议室然后提前通知这样的场景,岂不是要增加无数个队列才能满足需求?
- 在这里新增了一个队列QC,绑定关系如下,该队列不设置TTL时间
- TTLQueueConfig 配置类
public static final String NORMAL_QUEUE_C = "QC";
//声明普通队列C 不设置TTL
@Bean("queueC")
public Queue queueC(){
Map<String, Object> arg = new HashMap<>();
//设置死信交换机
arg.put("x-dead-letter-exchange", DEAD_EXCHAGE);
//设置死信RoutingKey
arg.put("x-dead-letter-routing-key", "YD");
return QueueBuilder.durable(NORMAL_QUEUE_C).withArguments(arg).build();
}
//绑定YD
@Bean
public Binding queueCBindingX(@Qualifier("queueC") Queue queueC,
@Qualifier("xExchange") DirectExchange xExchange){
return BindingBuilder.bind(queueC).to(xExchange).with("XC");
}
- 生产者
//开始放消息
@GetMapping("sendExpirationMsg/{msg}/{ttl}")
public void sendMsg(@PathVariable String msg, @PathVariable String ttl){
log.info(new Date().toString(), ttl, msg);
System.out.println(msg + " " + ttl);
rabbitTemplate.convertAndSend("X","XC",msg,message -> {
message.getMessageProperties().setExpiration(ttl);
return message;
} );
}
- 看起来似乎没什么问题,但是在最开始的时候,就介绍过如果使用在消息属性上设置TTL的方式,
消息可能并不会按时“死亡",因为RabbitMQ只会检查第-个消息是否过期,如果过期则丢到死信队列,
如果第1个消息的延时时长很长,而第二个消息的延时时长很短,第二个消息并不会优先得到执行。