首页 > 其他分享 >rabbitMQ的高级部分

rabbitMQ的高级部分

时间:2022-11-24 22:31:37浏览次数:52  
标签:队列 高级 rabbitMQ 过期 死信 消息 RabbitMQ message 部分


RabbitMQ的高级特性

消息的可靠投递:

指的是由消息生产者发动到RabbitMQ中间件,这个过程是必须成功的。

在使用RabbitMQ的时候,作为消息发送方希望杜绝任何消息丢失或者投递失败的场景。RabbitMQ为我们提供了两种方式用来控制消息的投递可靠性机制。

confirm 确认模式:

rabbitmq的整个消息投递机制的路径为:

Producer--> rabbitmq broker --> exchange --> queue --> consumer

· 消息从Producer到exchange,则会返回一个confirmCallback。不管消息是否成功到达exchange,整个回调都会执行,只不过返回的布尔类型的值不同。

return 退回模式:

·它指的是exchange到queue,如果路由消息失败了,那么则会返回给交换机一个returnCallback的函数。

Cosumer ACK:

消息从RabbitMQ中间件中到消费端的确认机制。

有三种确认方式:

1、自动确认:acknowledge = "none"

2、手动确认:acknowledge = "manual"

3、根据异常情况确认:acknowledge = "auto"

其中,自动确认是指的是,当消息一旦被Consumer接收到,则自动确认收到,并将相应message从RabbitMQ的消息缓存中移除。但是在实际的业务处理中,很可能消息接收到,业务处理出现异常,那么则该消息丢失。如果设置了手动确认的方式,则需要在业务处理成功后,调用channel.basicAck(),手动签收;如果出现异常,则调用channel.basicNack()方法,让其自动重新发送消息。

小结:

1、首先要配置acknowledge的属性;

2、如果在消费端没有出现异常,channel.basicAck(deliveryTag,false);方法确认消息签收

3、如果出现异常,则在cache中捕获异常,调用basicNack或者basicReject来拒绝消息,让MQ重新发送;

消息的可靠性总结

1、持久化:exchange,queue,message要持久化

2、生产方式确认confirm

3、消费方式确认Ack

4、Broker高可用

消费端限流的处理:

去指定消费端处理的速率。

rabbitMQ的高级部分_rabbitmq

消息队列可以保证A系统稳定;或者是A系统维护期间,可以维持系统正常运行。

消费端限流的步骤:

1、首先要保证ack的机制为手动确认 acknowledge="manual"

2、listener-container的配置属性 prefetch="1",表示消费端每次从mq拉取一条消息来消费,直到手动确认消费完毕之后,才会拉取下一条消息。

​QosListener​


package com.pshdhx.listener; import com.rabbitmq.client.Channel; import org.springframework.amqp.core.Message; import org.springframework.amqp.rabbit.listener.api.ChannelAwareMessageListener; import org.springframework.stereotype.Component; /** * Consumer 限流机制 * 1. 确保ack机制为手动确认。 * 2. listener-container配置属性 *     prefetch = 1,表示消费端每次从mq拉去一条消息来消费,直到手动确认消费完毕后,才会继续拉去下一条消息。 */ @Component public class QosListener implements ChannelAwareMessageListener {    @Override    public void onMessage(Message message, Channel channel) throws Exception {        Thread.sleep(1000);        //1.获取消息        System.out.println(new String(message.getBody()));        //2. 处理业务逻辑        //3. 签收        channel.basicAck(message.getMessageProperties().getDeliveryTag(),true);   } }


TTL:过期的时间

TTL全程 time to live(存活时间/过期时间)

我们可以对消息设置一个存活时间,如果这个消息到达时间之后,这个消息还没有被消费,则会自动被清除。

RabbitMQ可以对消息设置过期时间,也可以对整个队列(Queue)设置过期时间。

设置队列过期时间使用参数x-message-ttl,单位ms,会对整个队列消息统一过期。

设置消息过期时间使用参数expiration。单位ms,当该消息在队列头部时(消费时),会单独判断这一个消息是否过期。

如果两者都进行了设置,以时间段的为准。

systemctl start rabbitmq-server

​http://192.168.48.128:15672/#/​

创建一个队列:

rabbitMQ的高级部分_java_02

创建交换机

rabbitMQ的高级部分_rabbitmq_03

点进去交换机,绑定队列

rabbitMQ的高级部分_发送消息_04

创建消息,发布:

rabbitMQ的高级部分_spring_05

可以看到,消息在100s过后消失。

下面我们在代码中进行配置

spring-rabbitmq-producer.xml


<!--ttl-->    <rabbit:queue name="test_queue_ttl" id="test_queue_ttl">        <!--设置queue的参数-->        <rabbit:queue-arguments>            <!--x-message-ttl指队列的过期时间-->            <entry key="x-message-ttl" value="10000" value-type="java.lang.Integer"></entry>        </rabbit:queue-arguments>    </rabbit:queue> <!-- 绑定交换机和队列 --> <rabbit:topic-exchange name="test_exchange_ttl" >        <rabbit:bindings>            <rabbit:binding pattern="ttl.#" queue="test_queue_ttl"></rabbit:binding>        </rabbit:bindings> </rabbit:topic-exchange>


给队列发送消息,看看消息是否到达


/* for (int i = 0; i < 10; i++) {            // 发送消息            rabbitTemplate.convertAndSend("test_exchange_ttl", "ttl.hehe", "message ttl....");        }*/


设置单条消息的过期时间:


// 消息后处理对象,设置一些消息的参数信息       MessagePostProcessor messagePostProcessor = new MessagePostProcessor() {           @Override           public Message postProcessMessage(Message message) throws AmqpException {               //1.设置message的信息               message.getMessageProperties().setExpiration("5000");//消息的过期时间               //2.返回该消息               return message;           }       }; for (int i = 0; i < 10; i++) {           if(i == 5){               //消息单独过期               rabbitTemplate.convertAndSend("test_exchange_ttl", "ttl.hehe", "message ttl....",messagePostProcessor);           }else{               //不过期的消息               rabbitTemplate.convertAndSend("test_exchange_ttl", "ttl.hehe", "message ttl....");           }       }


如何消息队列和消息同时设置了过期时间,那么则以时间短的为准。

如果队列过期后,会将队列内所有的消息全部移除。

如果在一个队列里边,有10条消息,只有一个消息有过期时间,其他没有。判断消息是否过期,那么过一会就要轮询一次队列的消息,性能太低。rabbitmq这样处理:消息过期后,只有消息在队列顶端要被消费时,才会去判断其是否过期。如果过期了,就要马上移除掉。

换言之,这条消息如果没有在对列的顶端,他是不会被移除掉的。那将来有一天,它真正被消费的时候才会判断是否移除掉。

死信队列:

在很多消息中间件中都有死信队列的概念,但是在RabbitMQ中会稍微特殊一些;

死信队列,英文缩写:DLX,Dead Letter Exchange(死信交换机),当消息成为Dead message后,可以被重新发送到另外一个交换机,这个交换机就是DLX。

rabbitMQ的高级部分_spring_06

这个消息如果再过期时间内没有被消费掉,没有被消费的消息就会经过一个DLX的交换机,再重新发送给另外一个队列,也可以绑定一个队列被consumer消费掉。

那么一个正常的queue如何绑定一个死信交换机呢?

那么这个消息什么时候成为死信呢?

1、队列消息长度达到限制;【给一个队列设置了长度为10,11条消息进来的时候就是死信】

2、消费者拒绝接收消息,basicNack/baskReject,并且不把消息重新放入原目标队列,require=false;

3、原队列存在消息过期设置,消息到达超时时间未被消费。

rabbitMQ的高级部分_分布式_07

需要给普通队列指定好参数,才会送到死信交换机。

实质上死信队列和死信交换机都是普通的交换机而已,只不多是被正常的队列赋予了死信的属性,进而路由过去进行处理而已。


<!--    死信队列:        1. 声明正常的队列(test_queue_dlx)和交换机(test_exchange_dlx)        2. 声明死信队列(queue_dlx)和死信交换机(exchange_dlx)        3. 正常队列绑定死信交换机            设置两个参数:                * x-dead-letter-exchange:死信交换机名称                * x-dead-letter-routing-key:发送给死信交换机的routingkey -->    <!--        1. 声明正常的队列(test_queue_dlx)和交换机(test_exchange_dlx)    -->    <rabbit:queue name="test_queue_dlx" id="test_queue_dlx">        <!--3. 正常队列绑定死信交换机-->        <rabbit:queue-arguments>            <!--3.1 x-dead-letter-exchange:死信交换机名称-->            <entry key="x-dead-letter-exchange" value="exchange_dlx" />            <!--3.2 x-dead-letter-routing-key:发送给死信交换机的routingkey-->            <entry key="x-dead-letter-routing-key" value="dlx.hehe" />            <!--4.1 设置队列的过期时间 ttl-->            <entry key="x-message-ttl" value="10000" value-type="java.lang.Integer" />            <!--4.2 设置队列的长度限制 max-length -->            <entry key="x-max-length" value="10" value-type="java.lang.Integer" />        </rabbit:queue-arguments>    </rabbit:queue>    <rabbit:topic-exchange name="test_exchange_dlx">        <rabbit:bindings>            <rabbit:binding pattern="test.dlx.#" queue="test_queue_dlx"></rabbit:binding>        </rabbit:bindings>    </rabbit:topic-exchange>    <!--       2. 声明死信队列(queue_dlx)和死信交换机(exchange_dlx)   -->    <rabbit:queue name="queue_dlx" id="queue_dlx"></rabbit:queue>    <rabbit:topic-exchange name="exchange_dlx">        <rabbit:bindings>            <rabbit:binding pattern="dlx.#" queue="queue_dlx"></rabbit:binding>        </rabbit:bindings>    </rabbit:topic-exchange>


测试死信队列生产端:


/** * 发送测试死信消息: * 1. 过期时间 * 2. 长度限制 * 3. 消息拒收 */ @Test public void testDlx(){    //1. 测试过期时间,死信消息    //rabbitTemplate.convertAndSend("test_exchange_dlx","test.dlx.haha","我是一条消息,我会死吗?");    //2. 测试长度限制后,消息死信   /* for (int i = 0; i < 20; i++) {        rabbitTemplate.convertAndSend("test_exchange_dlx","test.dlx.haha","我是一条消息,我会死吗?");    }*/    //3. 测试消息拒收    rabbitTemplate.convertAndSend("test_exchange_dlx","test.dlx.haha","我是一条消息,我会死吗?"); }


消息拒收的消费端:


<!--定义监听器,监听正常队列--> <!--<rabbit:listener ref="dlxListener" queue-names="test_queue_dlx"></rabbit:listener>-->


package com.pshdhx.listener; import com.rabbitmq.client.Channel; import org.springframework.amqp.core.Message; import org.springframework.amqp.rabbit.listener.api.ChannelAwareMessageListener; import org.springframework.stereotype.Component; @Component public class DlxListener implements ChannelAwareMessageListener {    @Override    public void onMessage(Message message, Channel channel) throws Exception {        long deliveryTag = message.getMessageProperties().getDeliveryTag();        try {            //1.接收转换消息            System.out.println(new String(message.getBody()));            //2. 处理业务逻辑            System.out.println("处理业务逻辑...");            int i = 3/0;//出现错误            //3. 手动签收            channel.basicAck(deliveryTag,true);       } catch (Exception e) {            //e.printStackTrace();            System.out.println("出现异常,拒绝接受");            //4.拒绝签收,不重回队列 requeue=false            channel.basicNack(deliveryTag,true,false);       }   } }


延迟队列:

延迟队列:即消息进入队列后不会立即被消费,只有到达指定时间后,才会被消费。

用TTL+死信队列来实现延迟队列的场景。

需求:

1、下单后,30分钟未支付,取消订单,回滚库存;

2、新用户注册成功后的第七天,发短信问候。

怎么感觉类似定时任务呢?错了,定时任务是未来时,延迟队列会对现有的数据发生影响。例如第一条。

实现方式

1、定时器,【轮询订单表的数据,看看订单的状态是否被支付】使用定时器并不优雅;轮询的时间呢?

2、延迟队列

rabbitMQ的高级部分_发送消息_08

很可惜,在RabbitMQ当中并未提供延迟队列的功能。

但是可以使用:TTL+死信队列组合实现延迟队列的效果。

具体代码:

1、定义正常交换机和正常队列

2、定义死信交换机和死信队列

3、给正常交换机绑定死信交换机,死信路由key,过期时间。


<!-- 1. 定义正常交换机(order_exchange)和队列(order_queue)--> <rabbit:queue id="order_queue" name="order_queue"> <!-- 3. 绑定,设置正常队列过期时间为30分钟--> <rabbit:queue-arguments> <entry key="x-dead-letter-exchange" value="order_exchange_dlx" /> <entry key="x-dead-letter-routing-key" value="dlx.order.cancel" /> <entry key="x-message-ttl" value="10000" value-type="java.lang.Integer" /> </rabbit:queue-arguments> </rabbit:queue> <rabbit:topic-exchange name="order_exchange"> <rabbit:bindings> <rabbit:binding pattern="order.#" queue="order_queue"></rabbit:binding> </rabbit:bindings> </rabbit:topic-exchange> <!-- 2. 定义死信交换机(order_exchange_dlx)和队列(order_queue_dlx)--> <rabbit:queue id="order_queue_dlx" name="order_queue_dlx"></rabbit:queue> <rabbit:topic-exchange name="order_exchange_dlx"> <rabbit:bindings> <rabbit:binding pattern="dlx.order.#" queue="order_queue_dlx"></rabbit:binding> </rabbit:bindings> </rabbit:topic-exchange>


生产者测试方法:


@Test public void testDelay() throws InterruptedException { //1.发送订单消息。 将来是在订单系统中,下单成功后,发送消息 rabbitTemplate.convertAndSend("order_exchange","order.msg","订单信息:id=1,time=2019年8月17日16:41:47"); /*//2.打印倒计时10秒 for (int i = 10; i > 0 ; i--) { System.out.println(i+"..."); Thread.sleep(1000); }*/ }


消费者配置:


package com.pshdhx.listener; import com.rabbitmq.client.Channel; import org.springframework.amqp.core.Message; import org.springframework.amqp.rabbit.listener.api.ChannelAwareMessageListener; import org.springframework.stereotype.Component; @Component public class OrderListener implements ChannelAwareMessageListener { @Override public void onMessage(Message message, Channel channel) throws Exception { long deliveryTag = message.getMessageProperties().getDeliveryTag(); try { //1.接收转换消息 System.out.println(new String(message.getBody())); //2. 处理业务逻辑 System.out.println("处理业务逻辑..."); System.out.println("根据订单id查询其状态..."); System.out.println("判断状态是否为支付成功"); System.out.println("取消订单,回滚库存...."); //3. 手动签收 channel.basicAck(deliveryTag,true); } catch (Exception e) { //e.printStackTrace(); System.out.println("出现异常,拒绝接受"); //4.拒绝签收,不重回队列 requeue=false channel.basicNack(deliveryTag,true,false); } } }


消费者配置:【消费者监听的一定是死信队列,否则消息一下子就过来了,然后处理,起不到延迟队列的作用】


<!--延迟队列效果实现: 一定要监听的是 死信队列!!!--> <!-- <rabbit:listener ref="orderListener" queue-names="order_queue_dlx"></rabbit:listener>-->


小结:

1、延迟队列指的是消息进入队列后,可以被延迟一段指定时间,再被消费。

2、RabbitMQ没有提供延迟队列的功能,但是可以使用TTL+DLX来实现延迟队列的效果。

日志与监控:

RabbitMQ的日志呢,默认存放在/var/log/rabbitmq/[email protected]下;

rabbitMQ的高级部分_java_09

管理权限,角色等功能。

可以根据官网提供的docs文档来学习:

​Documentation: Table of Contents — RabbitMQ​

RabbitMQ的应用问题

消息的可靠性保障:

消息投递失败后怎么处理?

在任何使用消息中间件的过程中,难免会出现某一条消息丢失的情况。对于RabbitMQ而言,可能是因为生产者或者是消费者与RabbitMQ断开了连接,而他们与RabbitMQ又采用了不同的确认机制;也有可能是因为交换器和队列之间不同的转发策略;甚至是

交换器并没有与任何队列进行绑定,生产者又不需要感知或者没有采取相应的措施;另外RabbitMQ本身的集群策略也可能导致消息的丢失。这个时候需要有一个较好的机制来追踪消息的投递过程,以协助开发人员和运维人员进行问题的定位。

在rabbitMQ中可以使用Firehose和rabbitmq_tracing插件功能来实现消息追踪;

启动rabbitMQ的日志追踪功能:

1、如果没有启动,那么则是发送几条消息,就是几条消息。

2、如果启动了追踪功能,那么则是自己发送几条消息到队列,默认绑定的交换机则发送几条日志信息到队列,自己发送的消息可能会丢失,但是默认交换机发送的日志消息不会丢失。

rabbitmqctl trace_on/off

启用图形化插件:

rabbitmq-plugins enable rabbitmq_tracing

rabbitMQ的高级部分_发送消息_10

rabbitMQ的高级部分_spring_11

rabbitMQ的高级部分_rabbitmq_12

1、创建队列;2、绑定trace的交换器;3、在队列发布消息

但是要注意,开启消息追踪的功能,rabbitmq的性能会下降很多,记得关闭。

消息的幂等性处理:

就是消息的重复消费的问题。

rabbitMQ的高级部分_发送消息_13

幂等性:不管运行多少次,都要与第一次的运行结果相同。第二次,第三次运行的结果不能产生任何改变。

代码笔记上传:

​https://gitee.com/pan_shengdong/RabbitMQ_Advance_Use​

标签:队列,高级,rabbitMQ,过期,死信,消息,RabbitMQ,message,部分
From: https://blog.51cto.com/u_15890333/5885138

相关文章

  • ctfhub 技能树 文件上传漏洞部分
    ctfhub文件上传无验证直接上传php一句话木马文件,然后用中国蚁剑连接得到flag。前端验证。将带有一句话木马的php文件后缀名修改为jpg或者png然后上传,bp抓包修改文......
  • RabbitMQ中间件
    RabbitMQ导入依赖<!--集成RabbitMQ--><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-amqp</artifactId></de......
  • RabbitMQ笔记
    RabbitMQ笔记个人学习笔记记录参考:尚硅谷1.消息队列2.轮训分发消息3.消息应答4.发布确认5.交换机5.1Exchanges5.1.1Exchanges概念RabbitMQ消息传递模型的核心......
  • Dubbo的高级特性
    1、dubbo序列化1.1、序列化、反序列化的介绍序列化:把对象转换为字节序列的过程称为对象的序列化。反序列化:把字节序列恢复为对象的过程称为对象的反序列化。 先来......
  • Spring Boot 整合 RabbitMQ 之 Fanout Exchange模式 (三)
    摘要:那前面已经介绍过了Direct模式(一)Topic转发模式(二),这次介绍下FanoutExchange形式又叫广播形式,因此我们发送到路由器的消息会使得绑定到该路由器的每一个Queue接收......
  • Spring Boot 整合 RabbitMQ 之 Topic转发模式 (二)
    摘要:上一篇介绍了Direct模式的消息发生机制,这篇介绍下Topic转发模式的消息发生机制。一:首先我们看发送端,我们需要配置队列Queue,再配置交换机(Exchange),再把队列按照相应......
  • 【爬虫】 requests高级用法,代理池,爬取视频和新闻
    目录1.测试频率2.requests高级用法2.1ssl认证2.2实例2.3使用代理2.4超时设置2.5异常处理2.6上传文件3.代理池搭建3.1django后端获取客户端的ip4.爬取某视频网站......
  • python,requests高级用法,爬虫代理池,BautifulSoup4介绍
    requests高级用法ssl认证使用代理超时设置异常处理上传文件代理池搭建django后端获取客户端的ip爬取某视频网站爬取新闻BautifulSoup......
  • RabbitMQ报错:Error: unable to perform an operation on node 'rabbit@manage01'.
    安装完成之后问题描述:1、打开http://ip:15672/#/后台管理页面会很慢2、springboot项目连接mq经常连接不上(偶尔可以连上)3、报错:AmqpTimeoutException:java.util.concurre......
  • 修改rabbitMQ3.8默认端口号
    1、创建配置文件(最好就放这个目录,本人就遇到放其他目录不能加载配置文件,搞了几个小时才搞定)cd /etc/rabbitmqvimrabbitmq.conf 2、配置文件内容如下:(默认的数据管理......