首页 > 其他分享 >HM-RocketMQ1.3【RocketMQ集群搭建】

HM-RocketMQ1.3【RocketMQ集群搭建】

时间:2022-10-29 17:49:01浏览次数:50  
标签:Slave Broker 节点 Topic 集群 HM Master RocketMQ1.3 RocketMQ

1 集群中各角色介绍

image-20221029164955524

  • Producer:消息的发送者;举例:发信者
  • Consumer:消息接收者;举例:收信者
  • Broker:暂存和传输消息;举例:邮局
    • 一个Broker主节点可以配备多个Broker从节点
    • 主节点负责写操作,面向生产者
    • 从节点负责读操作(查询),面向消费者
    • 主从区分:Broker的ID为0则为主节点,非0则为从节点
  • NameServer:管理Broker;举例:各个邮局的管理机构
  • Topic:区分消息的种类;一个发送者可以发送消息给一个或者多个Topic;一个消息的接收者可以订阅一个或者多个Topic消息
  • Message Queue:相当于是Topic的分区;用于并行发送和接收消息

2 集群搭建方式

2.1 集群特点/工作流程

  • NameServer是一个几乎无状态节点,可集群部署,节点之间无任何信息同步。

  • Broker部署相对复杂,Broker分为Master与Slave,一个Master可以对应多个Slave,但是一个Slave只能对应一个Master,Master与Slave的对应关系通过指定相同的BrokerName,不同的BrokerId来定义,BrokerId为0表示Master,非0表示Slave。Master也可以部署多个。每个Broker与NameServer集群中的所有节点建立长连接,定时注册Topic信息到所有NameServer。

  • Producer与NameServer集群中的其中一个节点(随机选择)建立长连接,定期从NameServer取Topic路由信息,并向提供Topic服务的Master建立长连接,且定时向Master发送心跳。Producer完全无状态,可集群部署。

  • Consumer与NameServer集群中的其中一个节点(随机选择)建立长连接,定期从NameServer取Topic路由信息,并向提供Topic服务的Master、Slave建立长连接,且定时向Master、Slave发送心跳。Consumer既可以从Master订阅消息,也可以从Slave订阅消息,订阅规则由Broker配置决定。

Producer、Consumer、NameServer搭建集群时启动多个即可

Broker有主从之分,集群搭建较上稍复杂,详见下文

2.2 集群模式

2.2.1 单Master模式

这种方式风险较大,一旦Broker重启或者宕机时,会导致整个服务不可用。不建议线上环境使用,可以用于本地测试。

2.2.2 多Master模式

一个集群无Slave,全是Master,例如2个Master或者3个Master,这种模式的优缺点如下:

  • 优点:配置简单,单个Master宕机或重启维护对应用无影响,在磁盘配置为RAID10时,即使机器宕机不可恢复情况下,由于RAID10磁盘非常可靠,消息也不会丢(异步刷盘丢失少量消息,同步刷盘一条不丢),性能最高;
  • 缺点:单台机器宕机期间,这台机器上未被消费的消息在机器恢复之前不可订阅,消息实时性会受到影响。

2.2.3 多Master多Slave模式(异步)

每个Master配置一个Slave,有多对Master-Slave,HA采用异步复制方式,主备有短暂消息延迟(毫秒级),这种模式的优缺点如下:

  • 优点:即使磁盘损坏,消息丢失的非常少,且消息实时性不会受影响,同时Master宕机后,消费者仍然可以从Slave消费,而且此过程对应用透明,不需要人工干预,性能同多Master模式几乎一样;
  • 缺点:Master宕机,磁盘损坏情况下会丢失少量消息。

2.2.4 多Master多Slave模式(同步)

每个Master配置一个Slave,有多对Master-Slave,HA采用同步双写方式,即只有主备都写成功,才向应用返回成功,这种模式的优缺点如下:

  • 优点:数据与服务都无单点故障,Master宕机情况下,消息无延迟,服务可用性与数据可用性都非常高;
  • 缺点:性能比异步复制模式略低(大约低10%左右),发送单个消息的RT会略高,且目前版本在主节点宕机后,备机不能自动切换为主机。

3 双主双从集群搭建

3.1 总体架构

3.2 集群工作流程

3.3 服务器环境

3.4 Host添加信息

3.5 防火墙配置

3.6 环境变量配置

3.7 创建消息存储路径

3.8 Broker配置文件

3.9 修改启动脚本文件

3.10 服务启动

3.11 查看进程状态

3.12 查看日志

4 mqadmin管理工具

5 集群监控平台搭建

标签:Slave,Broker,节点,Topic,集群,HM,Master,RocketMQ1.3,RocketMQ
From: https://www.cnblogs.com/yppah/p/16839211.html

相关文章

  • HM-RocketMQ1【课程大纲、MQ介绍】
    1为什么要用MQ?消息队列是一种“先进先出”的数据结构其应用场景主要包含以下3个方面应用解耦系统的耦合性越高,容错性就越低。以电商应用为例,用户创建订单后,如果......
  • 贝叶斯推理三种方法:MCMC 、HMC和SBI
    对许多人来说,贝叶斯统计仍然有些陌生。因为贝叶斯统计中会有一些主观的先验,在没有测试数据的支持下了解他的理论还是有一些困难的。本文整理的是作者最近在普林斯顿的一个......
  • 【THM】Nmap Advanced Port Scans(Nmap高级端口扫描)-学习
    本文相关的TryHackMe实验房间链接:https://tryhackme.com/room/nmap03介绍在Nmap基本端口扫描中,我们介绍了TCP标志以及TCP3次握手的过程。要启动TCP连接,首先要给第......
  • HashMap
    (1)特点1.HashMap是Map里面的一个实现类;2.没有额外需要学习的特有方法,直接使用Map里面的方法就可以了;3.特点都是由键决定的:无序、不重复、无索引;4.HashMap跟HashSet底层......
  • java-并发集合-并发hash表 ConcurrentHashMap 演示
    java-并发集合-并发hash表 ConcurrentHashMap演示packageme.grass.demo.concurrent;importjava.util.Date;importjava.util.concurrent.Concurr......
  • 【HMS Core】定位服务逆地理编码问题
    ​关于华为HMS-定位服务非华为手机逆地理编码不可用的问题。背景:在非华为手机例如小米手机上集成华为定位服务的逆地理编码功能运行后,报错HMSSDK_ServiceErrorCodeAdapto......
  • (1028) 权限,chmod、chgrp、chown详解
    https://www.cnblogs.com/Berryxiong/p/6193866.html 例1:$ chgrp - Rbook /opt/local /book改变/opt/local/book/及其子目录下的所有文件的属组为book。 ......
  • 算法导论 Introduction to Algorithms #1
    目录算法基础分析算法设计算法练习思考题函数函数记号练习思考题分治策略练习思考题概论分析和随机算法练习思考题算法基础分析算法循环不变式设计算法分治法练......
  • Understanding Nginx Server and Location Block Selection Algorithms
    IntroductionNginxisoneofthemostpopularwebserversintheworld.Itcansuccessfullyhandlehighloadswithmanyconcurrentclientconnections,andcan......
  • 手写 Java HashMap 核心源码
    手写JavaHashMap核心源码手写JavaHashMap核心源码上一章手写LinkedList核心源码,本章我们来手写JavaHashMap的核心源码。我们来先了解一下HashMap的原理。Ha......