首页 > 其他分享 >阿里云中“间“力量!RocketMQ

阿里云中“间“力量!RocketMQ

时间:2023-08-10 17:01:55浏览次数:38  
标签:单击 队列 阿里 事件 Apache 云中 RocketMQ 消息



视频演示讲解

视频讲解直达!已更新!!!
视频讲解直达!已更新!!!
视频讲解直达!已更新!!!

切入正题

介绍完活动后,咱们言归正传,首先说说什么是"消息队列"
我想很多朋友应该是没有接触过"消息队列",笔者有一个5年开发经验的朋友,期间多次问到过他,他都回答笔者,在其日常开发工作中并没有使用到"消息队列"。

那么什么是消息队列呢?

消息队列(Message Queue),从广义上来讲就是一种消息队列服务中间件,提供一套完善的信息生产、传递、消费的软件系统。如下图

阿里云中“间“力量!RocketMQ_阿里云

当然,消息队列所涵盖的功能远不止于队列(Queue),其本质是两个进程传递信息的一种方法。两个进程可以分布在同一个或多个不同的机器上。

说了一点理论,大家应该没有明白,那么请大家想象一下12306的业务处理流程,大家都明白12306的业务逻辑非常复杂,需要考虑的方面太多了,下面一张图为12306的部分业务逻辑

阿里云中“间“力量!RocketMQ_rocketmq_02



像12306这类软件超高并发需求的场景还有很多,那么如何解决呢?就是使用消息队列

消息队列的优点如下:

  1. 削峰填谷
  2. 程序解耦
  3. 异步处理
  4. 数据的最终一致性

说到这里,我讲的不如大家实际去看一看由李老师编写的《RocketMQ分布式消息中间件》

市面上常见的消息队列

阿里云中“间“力量!RocketMQ_TableStore表格存储_03

从上面这张图可以很清晰的看到,截至2020年的时候,市面上主流的消息队列组件的对比,Apache RocketMQ在各项功能上来看,可以说是六边形战士,非常值得一试。

RocketMQ的发展历程

经过上面的简单介绍,大家应该对消息队列有了大致的了解,那么这里咱们介绍一下RocketMQ的发展历程。

阿里云中“间“力量!RocketMQ_阿里云_04



RocketMQ前世---MetaQ

RocketMQ发展经历了几个阶段,一开始的时候,和大部分组件产生的原因类似,阿里巴巴内部为了适应淘宝 B2C 的更快、更复杂的业务,2001年启动了“五彩石项目”,阿里巴巴的第一代消息队列服务Notify就是在这个背景下产生的。
2010 年,阿里巴巴内部的 Apache ActiveMQ 仍然作为核心技术被广泛用于各个业务线,而顺序消息、海量消息堆积、完全自主控制消息队列服务,也是阿里巴巴同时期急需的。在这种背景下,2011年,MetaQ诞生。



RocketMQ 云

2011年,LinkedIn将Kafka开源。2012年,阿里巴巴参考Kafka的设计,基于对MetaQ的理解和实际使用,研发了一套通用消息队列引擎,也就是 RocketMQ。自此才有了第一代真正的RocketMQ,2016年阿里云上线云RocketMQ消息队列服务。
自2001年到2012年,11年的实际使用、运维,和业务不断碰撞,才得以抽象并整理出一个真正的行业级产品,技术从来不简单,只是你看不见!

Apache RocketMQ“毕业”

2016年11月,阿里巴巴将RocketMQ捐献给Apache基金会。 Apache社区有一个很重要的理念:社区大于代码。虽然RocketMQ已经开源3年,在国内小有名气,而且在阿里巴巴被广泛应用并有较好的效果,但是依然不能达到 Apache优秀项目的标准。 在RocketMQ被捐献后,通过一系列的修改、评审、调整,悄悄升级至4.0版本,正式进入孵化阶段。 2017年09月25日,RocketMQ成功“毕业”(Apache社区项目孵化成功即为毕业),成为 Apache 顶级项目,它是国内首个互联网中间件在 Apache 的顶级项目,也是继ActiveMQ、Kafka后Apache家族中全新的一代消息队列引擎。 随着不断地更新升级,RocketMQ 的能力也越来越强大,如图所示,这是阿里巴巴双11的消息量的部分统计,可以看出RocketMQ处理的消息量已经在万亿条级别。

阿里云中“间“力量!RocketMQ_函数计算FC_05


RocketMQ经过多年的发展和实践应用,在自身的到现在阿里云存在两大版本可供使用,一个是RocketMQ 4.x,另一个是RocketMQ 5.x,其版本差异如下

差异项

4.x

5.x

服务端架构

存算一体。

存储和计算分离,可独立水平扩展。

开发接入门槛

1. 同时存在多套SDK,功能接口体验不一致。

2. 强制阿里云账号鉴权,企业上云需要修改部分代码。

1. 统一使用开源SDK,功能体验一致。

2. 支持VPC内部安全识别,上云无需修改代码。

存储能力

按空间预留,需要做好容量评估避免存储时长不足。

根据实际使用量弹性伸缩。

计算能力

超过TPS规格最大值限流。

消息收发计算能力支持预留+突发流量弹性组合,业务方无需为突发流量预留大量Buffer资源。

计费项

1. 标准版实例:API调用费用、Topic资源占用费。

2. 铂金版实例:消息收发TPS峰值、Topic数上限、消息存储空间

1. 消息收发TPS计算规格

2. 存储空间

3. 公网下行流量。

售卖形态

标准版、铂金版

1. 主系列:

标准版、专业版、铂金版。

2. 子系列:

单节点版:测试环境专用。

集群高可用版:生产环境专用。

产品形态更丰富,产品选型更平滑。

实践出真知

那么经过前面的一系列讲述,大家应该对RocketMQ有了一些认知,并且也了解了产品特性,那么接下来就到了我们的动手实验环节了。在这里为大家演示的是RocketMQ事件驱动场景,所有服务均在阿里云上进行,让大家完整体验阿里云上的业务流程。

为何选择事件驱动场景?

2023年以来,阿里云社区先后推出了多个服务测评活动,其中有函数计算FC,以及不久前的事件桥EventBridge测评活动,直到现在正在测评的RocketMQ消息队列,完美支撑了该业务场景,可谓是温故而知新,将多个服务融合到同一个业务场景中

场景描述

假设有一家小型游戏公司,需要通过使用RocketMQ来收发消息,然后通过阿里云函数计算FC处理后将数据进行存储

业务逻辑图示

阿里云中“间“力量!RocketMQ_事件总线EventBridge_06

业务实现

RocketMQ设置

创建RocketMQ实例

作为演示,本次使用的单节点的标准版RocketMQ实例,规格为rmq.s1.micro,如果您是第一次使用RocketMQ并且是通过活动页面进入,那么您可以领取一个月的免费使用额度。实例的创建大概需要5分钟左右,请您耐心等待,可以向下继续阅读。

阿里云中“间“力量!RocketMQ_TableStore表格存储_07

创建订阅及Group

阿里云中“间“力量!RocketMQ_rocketmq_08

创建Group(可选)

阿里云中“间“力量!RocketMQ_阿里云_09

表格存储

创建表格存储实例

阿里云中“间“力量!RocketMQ_rocketmq_10

创建数据表

阿里云中“间“力量!RocketMQ_rocketmq_11


阿里云中“间“力量!RocketMQ_事件总线EventBridge_12

函数计算FC

创建函数

阿里云中“间“力量!RocketMQ_TableStore表格存储_13

设置函数计算FC的环境变量

阿里云中“间“力量!RocketMQ_TableStore表格存储_14

使用代码

import os
from tablestore import *
import json

def handler(event, context):
    
    body = json.loads(event.decode())['data']['body']

	# 从环境变量中获取表格存储的连接信息
    endpoint = os.environ.get('OTS_ENDPOINT', '')
    accessid = os.environ.get('OTS_ACCESSID', '')
    accesskey = os.environ.get('OTS_ACCESSKEY', '')
    instance = os.environ.get('OTS_INSTANCE', '')
    table_name = os.environ.get('OTS_TABLE_NAME', '')

    # 创建表格存储客户端
    client = OTSClient(endpoint, accessid, accesskey, instance)

    # 定义要写入的数据
    primary_key = [('id', body['id'])]
    attribute_columns = [('Name', body['name']), ('Job', body['job']), ('Hero', body['hero'])]
    row = Row(primary_key, attribute_columns)

    # 向表格存储写入数据
    consumed, return_row = client.put_row(table_name, row)

    return 'Data written to Table Store successfully.'

事件总线EventBridge

事件总线EventBridge需要创建自定义的事件总线

步骤一:添加自定义事件源

  1. 登录事件总线EventBridge控制台。
  2. 在左侧导航栏,单击事件总线。
  3. 在顶部菜单栏,选择地域。
  4. 在事件总线页面,单击已创建的自定义事件总线。
  5. 在左侧导航栏,单击事件源。
  6. 在事件源页面,单击添加事件源。
  7. 在添加自定义事件源面板,输入名称和描述,事件提供方选择消息队列 RocketMQ 版,并选择已创建的消息队列RocketMQ版的资源信息等,然后单击确定。

步骤二:创建事件规则

  1. 登录事件总线EventBridge控制台,在左侧导航栏,单击事件总线。
  2. 在顶部菜单栏,选择地域,在事件总线页面,单击目标总线名称。
  3. 在左侧导航栏,单击事件规则,然后单击创建规则。
  4. 在创建规则页面,完成以下操作。
  5. 在配置基本信息配置向导,在名称文本框输入规则名称,在描述文本框输入规则的描述,然后单击下一步。
  6. 在配置事件模式配置向导,事件源类型选择自定义事件源,事件源选择步骤一添加的自定义事件源,在事件模式内容代码框输入事件模式,然后单击下一步。

a. 在配置事件目标配置向导,配置事件目标,然后单击创建。
b. 服务类型:单击函数计算。
c. 服务:选择已创建的函数计算的服务。
d. 函数:选择已创建的函数计算的函数。

阿里云中“间“力量!RocketMQ_rocketmq_15

阿里云中“间“力量!RocketMQ_阿里云_16

阿里云中“间“力量!RocketMQ_函数计算FC_17


阿里云中“间“力量!RocketMQ_TableStore表格存储_18

阿里云中“间“力量!RocketMQ_TableStore表格存储_19

设置规则

阿里云中“间“力量!RocketMQ_函数计算FC_20


阿里云中“间“力量!RocketMQ_阿里云_21


阿里云中“间“力量!RocketMQ_函数计算FC_22


阿里云中“间“力量!RocketMQ_函数计算FC_23

测试

阿里云中“间“力量!RocketMQ_rocketmq_24


阿里云中“间“力量!RocketMQ_阿里云_25


阿里云中“间“力量!RocketMQ_事件总线EventBridge_26

写在最后

通过本篇的一些简述以及一个小的实验,希望您可以对阿里云RocketMQ消息队列有一个大致的了解,同时也可以看到阿里云各个服务之间的集成协作,使整个业务流程均可以在云上完成。另外通过一个小小的实验,帮助大家回顾之前的社区活动内容同时也将本期知识融合进来,可以更好的帮助到大家真正的去使用阿里云服务,体验云计算的魅力。最后希望大家真正的去体验一下阿里云RocketMQ,毕竟大厂的羊毛必须薅!!!

标签:单击,队列,阿里,事件,Apache,云中,RocketMQ,消息
From: https://blog.51cto.com/u_10523036/7037598

相关文章

  • 搭建阿里云仓库 (http方式外网环境
    搭建阿里云仓库http方式外网环境国外云仓库比较慢,可以使用阿里云仓库代替[root@localhost~]#cd/etc/yum.repos.d/[[email protected]]#mkdirblak[[email protected]]#mv*.repoblak/[[email protected]]#lsbak[[email protected]......
  • 使用阿里云微调chatglm2
    完整的代码可以参考:https://files.cnblogs.com/files/lijiale/chatglm2-6b.zip?t=1691571940&download=true#%%[markdown]##微调前#%%model_path="/mnt/workspace/ChatGLM2-6B/chatglm2-6b"fromtransformersimportAutoTokenizer,AutoModel#载入Tokenizer......
  • Windows系统 如何配置Maven的本地仓库 【详解Maven settings.xml配置(指定本地仓库、
    1.确认安装Maven首先,我们需要确认已在计算机上安装了Maven。你可以从Maven官方网站:https://archive.apache.org/dist/maven/maven-3/下载适合你代码ide版本的Maven安装包,比如我idea2019就下载maven3.5-3.6之间的版本。1、先新建名为MAVEN_HOME的变量,值为你的的maven解压路径......
  • Springboot集成使用阿里云kafka详细步骤
    明确连接认证类型首先要明确使用哪种连接认证类型Ons模式参考https://github.com/AliwareMQ/aliware-kafka-demos/tree/master/kafka-java-demo/betaOns模式的conf内容KafkaClient{com.aliyun.openservices.ons.sasl.client.OnsLoginModulerequiredAccessKey="......
  • 使用阿里云函数服务部署 nestjs
    一路踩坑对于一个现有的nestjs项目,如何在阿里云上进行函数部署ServerlessDevs按照官方推荐,使用ServerlessDevs,具体而言,先全局安装npminstall@serverless-devs/s-g,然后在项目中添加s.yaml配置文件。配置文件详细说明:Yaml规范-ServerlessDevsfc/docs/zh/yamla......
  • RocketMQ Linux单机测试:简易快速部署指南及Dashboard控制台部署
    目录简介开始下载增加环境变量修改启动文件jvm大小修改rocketmq配置文件启动快速测试关闭Dashboard下载Dashboard已编译jar包网盘下载启动命令可能遇到的问题写在最后简介请注意,本博客仅供初期测试时快速部署之用,以节省时间避免不必要的问题。如需在生产环境部署,请参考其他可靠......
  • RocketMQ - 顺序消息/事务消息/延迟消息
    顺序消息生产端顺序生产消费端顺序消费一般都是局部顺序消息。生产端根据shardingkey对队列数量取模,把同一个shardingkey的消息发送到同一个队列而消费端也要确保消费这个队列时是一个线程消费的首先是consumer中注册的Listener来指定是顺序消息消费还是并发消费pu......
  • 阿里云: web如何直传oss & 常见问题
    阿里云:web如何直传oss&常见问题 如何使用input.Type=‘file‘拿到文件对象1、在页面中添加<inputtype="file"style="display:none"ref="input"@input="upload">在需要上传文件的地方增加<button@click="$refs.input.click()">......
  • 阿里云 EMAS & 魔笔:7月产品动态
    内容摘要EMASSuite小程序支持DeepLink(混合云)云构建配置环境变量及文档更新移动测试国际站功能全面支持ios17移动推送iOS发布SDK2.0.2版本,修改偶发崩溃BUG魔笔新增企业定制模版;优化数据选择框组件和面包屑组件产品动态移动研发平台EMAS类目产品......
  • 【必看!】阿里云推出QWen-7B和QWen-7b-Chat,开放免费商用!
    阿里云于8月3日宣布开源两款重要的大型模型——QWen-7B和QWen-7b-Chat。这两款模型的参数规模达到了令人瞩目的70亿,并且已经在HuggingFace和ModelScope平台上开放,并可免费商用。以下是相关链接:GitHub项目主页:https://github.com/QwenLM/Qwen-7BHuggingFace:https://huggingface......