RabbitMQ的高级特性
消息的可靠投递:
指的是由消息生产者发动到RabbitMQ中间件,这个过程是必须成功的。
在使用RabbitMQ的时候,作为消息发送方希望杜绝任何消息丢失或者投递失败的场景。RabbitMQ为我们提供了两种方式用来控制消息的投递可靠性机制。
confirm 确认模式:
rabbitmq的整个消息投递机制的路径为:
Producer--> rabbitmq broker --> exchange --> queue --> consumer
· 消息从Producer到exchange,则会返回一个confirmCallback。不管消息是否成功到达exchange,整个回调都会执行,只不过返回的布尔类型的值不同。
return 退回模式:
·它指的是exchange到queue,如果路由消息失败了,那么则会返回给交换机一个returnCallback的函数。
Cosumer ACK:
消息从RabbitMQ中间件中到消费端的确认机制。
有三种确认方式:
1、自动确认:acknowledge = "none"
2、手动确认:acknowledge = "manual"
3、根据异常情况确认:acknowledge = "auto"
其中,自动确认是指的是,当消息一旦被Consumer接收到,则自动确认收到,并将相应message从RabbitMQ的消息缓存中移除。但是在实际的业务处理中,很可能消息接收到,业务处理出现异常,那么则该消息丢失。如果设置了手动确认的方式,则需要在业务处理成功后,调用channel.basicAck(),手动签收;如果出现异常,则调用channel.basicNack()方法,让其自动重新发送消息。
小结:
1、首先要配置acknowledge的属性;
2、如果在消费端没有出现异常,channel.basicAck(deliveryTag,false);方法确认消息签收
3、如果出现异常,则在cache中捕获异常,调用basicNack或者basicReject来拒绝消息,让MQ重新发送;
消息的可靠性总结
1、持久化:exchange,queue,message要持久化
2、生产方式确认confirm
3、消费方式确认Ack
4、Broker高可用
消费端限流的处理:
去指定消费端处理的速率。
消息队列可以保证A系统稳定;或者是A系统维护期间,可以维持系统正常运行。
消费端限流的步骤:
1、首先要保证ack的机制为手动确认 acknowledge="manual"
2、listener-container的配置属性 prefetch="1",表示消费端每次从mq拉取一条消息来消费,直到手动确认消费完毕之后,才会拉取下一条消息。
QosListener
package com.pshdhx.listener; import com.rabbitmq.client.Channel; import org.springframework.amqp.core.Message; import org.springframework.amqp.rabbit.listener.api.ChannelAwareMessageListener; import org.springframework.stereotype.Component; /** * Consumer 限流机制 * 1. 确保ack机制为手动确认。 * 2. listener-container配置属性 * prefetch = 1,表示消费端每次从mq拉去一条消息来消费,直到手动确认消费完毕后,才会继续拉去下一条消息。 */ @Component public class QosListener implements ChannelAwareMessageListener { @Override public void onMessage(Message message, Channel channel) throws Exception { Thread.sleep(1000); //1.获取消息 System.out.println(new String(message.getBody())); //2. 处理业务逻辑 //3. 签收 channel.basicAck(message.getMessageProperties().getDeliveryTag(),true); } }
TTL:过期的时间
TTL全程 time to live(存活时间/过期时间)
我们可以对消息设置一个存活时间,如果这个消息到达时间之后,这个消息还没有被消费,则会自动被清除。
RabbitMQ可以对消息设置过期时间,也可以对整个队列(Queue)设置过期时间。
设置队列过期时间使用参数x-message-ttl,单位ms,会对整个队列消息统一过期。
设置消息过期时间使用参数expiration。单位ms,当该消息在队列头部时(消费时),会单独判断这一个消息是否过期。
如果两者都进行了设置,以时间段的为准。
systemctl start rabbitmq-server
http://192.168.48.128:15672/#/
创建一个队列:
创建交换机
点进去交换机,绑定队列
创建消息,发布:
可以看到,消息在100s过后消失。
下面我们在代码中进行配置
spring-rabbitmq-producer.xml
<!--ttl--> <rabbit:queue name="test_queue_ttl" id="test_queue_ttl"> <!--设置queue的参数--> <rabbit:queue-arguments> <!--x-message-ttl指队列的过期时间--> <entry key="x-message-ttl" value="10000" value-type="java.lang.Integer"></entry> </rabbit:queue-arguments> </rabbit:queue> <!-- 绑定交换机和队列 --> <rabbit:topic-exchange name="test_exchange_ttl" > <rabbit:bindings> <rabbit:binding pattern="ttl.#" queue="test_queue_ttl"></rabbit:binding> </rabbit:bindings> </rabbit:topic-exchange>
给队列发送消息,看看消息是否到达
/* for (int i = 0; i < 10; i++) { // 发送消息 rabbitTemplate.convertAndSend("test_exchange_ttl", "ttl.hehe", "message ttl...."); }*/
设置单条消息的过期时间:
// 消息后处理对象,设置一些消息的参数信息 MessagePostProcessor messagePostProcessor = new MessagePostProcessor() { @Override public Message postProcessMessage(Message message) throws AmqpException { //1.设置message的信息 message.getMessageProperties().setExpiration("5000");//消息的过期时间 //2.返回该消息 return message; } }; for (int i = 0; i < 10; i++) { if(i == 5){ //消息单独过期 rabbitTemplate.convertAndSend("test_exchange_ttl", "ttl.hehe", "message ttl....",messagePostProcessor); }else{ //不过期的消息 rabbitTemplate.convertAndSend("test_exchange_ttl", "ttl.hehe", "message ttl...."); } }
如何消息队列和消息同时设置了过期时间,那么则以时间短的为准。
如果队列过期后,会将队列内所有的消息全部移除。
如果在一个队列里边,有10条消息,只有一个消息有过期时间,其他没有。判断消息是否过期,那么过一会就要轮询一次队列的消息,性能太低。rabbitmq这样处理:消息过期后,只有消息在队列顶端要被消费时,才会去判断其是否过期。如果过期了,就要马上移除掉。
换言之,这条消息如果没有在对列的顶端,他是不会被移除掉的。那将来有一天,它真正被消费的时候才会判断是否移除掉。
死信队列:
在很多消息中间件中都有死信队列的概念,但是在RabbitMQ中会稍微特殊一些;
死信队列,英文缩写:DLX,Dead Letter Exchange(死信交换机),当消息成为Dead message后,可以被重新发送到另外一个交换机,这个交换机就是DLX。
这个消息如果再过期时间内没有被消费掉,没有被消费的消息就会经过一个DLX的交换机,再重新发送给另外一个队列,也可以绑定一个队列被consumer消费掉。
那么一个正常的queue如何绑定一个死信交换机呢?
那么这个消息什么时候成为死信呢?
1、队列消息长度达到限制;【给一个队列设置了长度为10,11条消息进来的时候就是死信】
2、消费者拒绝接收消息,basicNack/baskReject,并且不把消息重新放入原目标队列,require=false;
3、原队列存在消息过期设置,消息到达超时时间未被消费。
需要给普通队列指定好参数,才会送到死信交换机。
实质上死信队列和死信交换机都是普通的交换机而已,只不多是被正常的队列赋予了死信的属性,进而路由过去进行处理而已。
<!-- 死信队列: 1. 声明正常的队列(test_queue_dlx)和交换机(test_exchange_dlx) 2. 声明死信队列(queue_dlx)和死信交换机(exchange_dlx) 3. 正常队列绑定死信交换机 设置两个参数: * x-dead-letter-exchange:死信交换机名称 * x-dead-letter-routing-key:发送给死信交换机的routingkey --> <!-- 1. 声明正常的队列(test_queue_dlx)和交换机(test_exchange_dlx) --> <rabbit:queue name="test_queue_dlx" id="test_queue_dlx"> <!--3. 正常队列绑定死信交换机--> <rabbit:queue-arguments> <!--3.1 x-dead-letter-exchange:死信交换机名称--> <entry key="x-dead-letter-exchange" value="exchange_dlx" /> <!--3.2 x-dead-letter-routing-key:发送给死信交换机的routingkey--> <entry key="x-dead-letter-routing-key" value="dlx.hehe" /> <!--4.1 设置队列的过期时间 ttl--> <entry key="x-message-ttl" value="10000" value-type="java.lang.Integer" /> <!--4.2 设置队列的长度限制 max-length --> <entry key="x-max-length" value="10" value-type="java.lang.Integer" /> </rabbit:queue-arguments> </rabbit:queue> <rabbit:topic-exchange name="test_exchange_dlx"> <rabbit:bindings> <rabbit:binding pattern="test.dlx.#" queue="test_queue_dlx"></rabbit:binding> </rabbit:bindings> </rabbit:topic-exchange> <!-- 2. 声明死信队列(queue_dlx)和死信交换机(exchange_dlx) --> <rabbit:queue name="queue_dlx" id="queue_dlx"></rabbit:queue> <rabbit:topic-exchange name="exchange_dlx"> <rabbit:bindings> <rabbit:binding pattern="dlx.#" queue="queue_dlx"></rabbit:binding> </rabbit:bindings> </rabbit:topic-exchange>
测试死信队列生产端:
/** * 发送测试死信消息: * 1. 过期时间 * 2. 长度限制 * 3. 消息拒收 */ @Test public void testDlx(){ //1. 测试过期时间,死信消息 //rabbitTemplate.convertAndSend("test_exchange_dlx","test.dlx.haha","我是一条消息,我会死吗?"); //2. 测试长度限制后,消息死信 /* for (int i = 0; i < 20; i++) { rabbitTemplate.convertAndSend("test_exchange_dlx","test.dlx.haha","我是一条消息,我会死吗?"); }*/ //3. 测试消息拒收 rabbitTemplate.convertAndSend("test_exchange_dlx","test.dlx.haha","我是一条消息,我会死吗?"); }
消息拒收的消费端:
<!--定义监听器,监听正常队列--> <!--<rabbit:listener ref="dlxListener" queue-names="test_queue_dlx"></rabbit:listener>-->
package com.pshdhx.listener; import com.rabbitmq.client.Channel; import org.springframework.amqp.core.Message; import org.springframework.amqp.rabbit.listener.api.ChannelAwareMessageListener; import org.springframework.stereotype.Component; @Component public class DlxListener implements ChannelAwareMessageListener { @Override public void onMessage(Message message, Channel channel) throws Exception { long deliveryTag = message.getMessageProperties().getDeliveryTag(); try { //1.接收转换消息 System.out.println(new String(message.getBody())); //2. 处理业务逻辑 System.out.println("处理业务逻辑..."); int i = 3/0;//出现错误 //3. 手动签收 channel.basicAck(deliveryTag,true); } catch (Exception e) { //e.printStackTrace(); System.out.println("出现异常,拒绝接受"); //4.拒绝签收,不重回队列 requeue=false channel.basicNack(deliveryTag,true,false); } } }
延迟队列:
延迟队列:即消息进入队列后不会立即被消费,只有到达指定时间后,才会被消费。
用TTL+死信队列来实现延迟队列的场景。
需求:
1、下单后,30分钟未支付,取消订单,回滚库存;
2、新用户注册成功后的第七天,发短信问候。
怎么感觉类似定时任务呢?错了,定时任务是未来时,延迟队列会对现有的数据发生影响。例如第一条。
实现方式
1、定时器,【轮询订单表的数据,看看订单的状态是否被支付】使用定时器并不优雅;轮询的时间呢?
2、延迟队列
很可惜,在RabbitMQ当中并未提供延迟队列的功能。
但是可以使用:TTL+死信队列组合实现延迟队列的效果。
具体代码:
1、定义正常交换机和正常队列
2、定义死信交换机和死信队列
3、给正常交换机绑定死信交换机,死信路由key,过期时间。
<!-- 1. 定义正常交换机(order_exchange)和队列(order_queue)--> <rabbit:queue id="order_queue" name="order_queue"> <!-- 3. 绑定,设置正常队列过期时间为30分钟--> <rabbit:queue-arguments> <entry key="x-dead-letter-exchange" value="order_exchange_dlx" /> <entry key="x-dead-letter-routing-key" value="dlx.order.cancel" /> <entry key="x-message-ttl" value="10000" value-type="java.lang.Integer" /> </rabbit:queue-arguments> </rabbit:queue> <rabbit:topic-exchange name="order_exchange"> <rabbit:bindings> <rabbit:binding pattern="order.#" queue="order_queue"></rabbit:binding> </rabbit:bindings> </rabbit:topic-exchange> <!-- 2. 定义死信交换机(order_exchange_dlx)和队列(order_queue_dlx)--> <rabbit:queue id="order_queue_dlx" name="order_queue_dlx"></rabbit:queue> <rabbit:topic-exchange name="order_exchange_dlx"> <rabbit:bindings> <rabbit:binding pattern="dlx.order.#" queue="order_queue_dlx"></rabbit:binding> </rabbit:bindings> </rabbit:topic-exchange>
生产者测试方法:
@Test public void testDelay() throws InterruptedException { //1.发送订单消息。 将来是在订单系统中,下单成功后,发送消息 rabbitTemplate.convertAndSend("order_exchange","order.msg","订单信息:id=1,time=2019年8月17日16:41:47"); /*//2.打印倒计时10秒 for (int i = 10; i > 0 ; i--) { System.out.println(i+"..."); Thread.sleep(1000); }*/ }
消费者配置:
package com.pshdhx.listener; import com.rabbitmq.client.Channel; import org.springframework.amqp.core.Message; import org.springframework.amqp.rabbit.listener.api.ChannelAwareMessageListener; import org.springframework.stereotype.Component; @Component public class OrderListener implements ChannelAwareMessageListener { @Override public void onMessage(Message message, Channel channel) throws Exception { long deliveryTag = message.getMessageProperties().getDeliveryTag(); try { //1.接收转换消息 System.out.println(new String(message.getBody())); //2. 处理业务逻辑 System.out.println("处理业务逻辑..."); System.out.println("根据订单id查询其状态..."); System.out.println("判断状态是否为支付成功"); System.out.println("取消订单,回滚库存...."); //3. 手动签收 channel.basicAck(deliveryTag,true); } catch (Exception e) { //e.printStackTrace(); System.out.println("出现异常,拒绝接受"); //4.拒绝签收,不重回队列 requeue=false channel.basicNack(deliveryTag,true,false); } } }
消费者配置:【消费者监听的一定是死信队列,否则消息一下子就过来了,然后处理,起不到延迟队列的作用】
<!--延迟队列效果实现: 一定要监听的是 死信队列!!!--> <!-- <rabbit:listener ref="orderListener" queue-names="order_queue_dlx"></rabbit:listener>-->
小结:
1、延迟队列指的是消息进入队列后,可以被延迟一段指定时间,再被消费。
2、RabbitMQ没有提供延迟队列的功能,但是可以使用TTL+DLX来实现延迟队列的效果。
日志与监控:
RabbitMQ的日志呢,默认存放在/var/log/rabbitmq/[email protected]下;
管理权限,角色等功能。
可以根据官网提供的docs文档来学习:
Documentation: Table of Contents — RabbitMQ
RabbitMQ的应用问题
消息的可靠性保障:
消息投递失败后怎么处理?
在任何使用消息中间件的过程中,难免会出现某一条消息丢失的情况。对于RabbitMQ而言,可能是因为生产者或者是消费者与RabbitMQ断开了连接,而他们与RabbitMQ又采用了不同的确认机制;也有可能是因为交换器和队列之间不同的转发策略;甚至是
交换器并没有与任何队列进行绑定,生产者又不需要感知或者没有采取相应的措施;另外RabbitMQ本身的集群策略也可能导致消息的丢失。这个时候需要有一个较好的机制来追踪消息的投递过程,以协助开发人员和运维人员进行问题的定位。
在rabbitMQ中可以使用Firehose和rabbitmq_tracing插件功能来实现消息追踪;
启动rabbitMQ的日志追踪功能:
1、如果没有启动,那么则是发送几条消息,就是几条消息。
2、如果启动了追踪功能,那么则是自己发送几条消息到队列,默认绑定的交换机则发送几条日志信息到队列,自己发送的消息可能会丢失,但是默认交换机发送的日志消息不会丢失。
rabbitmqctl trace_on/off
启用图形化插件:
rabbitmq-plugins enable rabbitmq_tracing
1、创建队列;2、绑定trace的交换器;3、在队列发布消息
但是要注意,开启消息追踪的功能,rabbitmq的性能会下降很多,记得关闭。
消息的幂等性处理:
就是消息的重复消费的问题。
幂等性:不管运行多少次,都要与第一次的运行结果相同。第二次,第三次运行的结果不能产生任何改变。
代码笔记上传:
https://gitee.com/pan_shengdong/RabbitMQ_Advance_Use
标签:队列,高级,rabbitMQ,过期,死信,消息,RabbitMQ,message,部分 From: https://blog.51cto.com/u_15890333/5885138