首页 > 其他分享 >消费者组和分区数之间的关系是怎样的?

消费者组和分区数之间的关系是怎样的?

时间:2024-11-11 20:15:48浏览次数:3  
标签:组和 消费 消费者 发送给 分区 协调 Leader

消费者组原理:

Consumer Group(CG):

消费者组,由多个consumer组成。形成一个消费者组的条件,使所有消费者的groupid相同。

• 消费者组内每个消费者负责消费不同分区的数据,一个分区只能由一个组内消费者消费。

• 消费者组之间互不影响。所有的消费者都属于某个消费者组,即消费者组是逻辑上的一个订阅者

消费者组初始化流程:

消费计划的制定:

生产者把数据发送给各个分区,每个broker节点都有一个coordinator(协调器),消费者组对分区进行消费,到底哪个消费者消费哪个分区呢?首先groupId对50取模,看最后的结果是哪个分区节点,假如是1分区,那么1分区的协调器就是本次消费者组的老大,消费者纷纷向该协调器进行注册,协调器从中随机选择一个消费者作为本次消费的Leader,然后把本次消费的具体情况发送给Leader,让其制定一个消费计划(就是哪个消费者消费哪个分区),然后Leader发送给协调器,协调器再进行群发,将计划公布,各个消费者按照这个计划进行消费。

消费者组详细消费流程:

假如本次抓取的数量是500条,大小超过了50M,那以50M为主。

因此,消费者组与分区数的关系如下:

  • 消费者数小于分区数:每个消费者可能会消费多个分区。
  • 消费者数等于分区数:每个消费者会消费一个唯一的分区,最优的负载均衡。
  • 消费者数大于分区数:部分消费者会处于空闲状态,不会进行消费。

标签:组和,消费,消费者,发送给,分区,协调,Leader
From: https://blog.csdn.net/A12345689B/article/details/143694226

相关文章

  • Linux硬盘挂载与磁盘分区基础(一)(主分区、拓展分区、逻辑分区)
      我们常用windows时,会区分C盘、D盘之类的(A、B盘是软盘)就是所谓的分区,这么做为了方便数据管理,比如扩容之类的。  本文采用Linux(Ubuntu20.04)来介绍分区,其它Linux系统基本一样的。  首先,我们需要熟悉几个概念:  硬盘:存储数据用的硬件,比如移动硬盘、固态硬盘、U盘等,有了硬......
  • 关于hive分区表不得不说的故事
    关于hive分区表不得不说的故事1.hive分区表的理解Hive的分区表是一种特殊设计的表结构,它在逻辑上将数据按照预先定义的分区键进行划分,在物理上对应于Hadoop分布式文件系统(HDFS)的不同目录。分区表的主要目的是为了优化大规模数据集的存储与查询性能hive分区表主要是一种重要......
  • 第六章 分区
    对于大数据集或高吞吐量情况,仅复制数据不够,需进行分区(也叫分片)分区主要为了可扩展性,可将不同分区放于不共享集群的不同节点上,实现大数据集分布在多磁盘、查询负载分布在多处理器分区与复制每个节点可能是某些分区的领导者,同时是其他分区的追随者键值数据的分区将数据和查......
  • 开发更便利!迅为RK3568/RK3588 定制分区镜像发布
             迅为iTOP-3588开发板采用瑞芯微RK3588处理器,是全新一代AloT高端应用芯片,采用8nmLP制程,搭载八核64位CPU(四核Cortex-A76+四核Cortex-A55架构),集成MaliG610MP4四核GPU,内置AI加速器NPU,算力达6Tops,集成独立的8K视频硬件编码器和硬件解码器,提供了许多功能强大的......
  • 53. 最大子数组和
    题目链接解题思路最大子数组问题,有两个基本的想法,以i开头的子数组结果是怎样的,求出所有的结果,最优的那个,就是答案;以i结尾的子数组结果是怎样的,求出所有的结果,最优的那个,就是答案。本题我们可以考虑,「以i结尾的结果是怎样的」,为啥?因为我们要求的是最大的累加和,我们求出了re......
  • 一道题把我气笑了:) 力扣.53 最大子数组和 leetcode maximum-subarray
    数组系列力扣数据结构之数组-00-概览力扣.53最大子数组和maximum-subarray力扣.128最长连续系列longest-consecutive-sequence力扣.1两数之和N种解法two-sum力扣.167两数之和IItwo-sum-ii力扣.170两数之和IIItwo-sum-iii力扣.653两数之和IVtwo-sum-IV力......
  • 生产消费者模型
               线程同步互斥锁(互斥量)条件变量生产/消费者模型一、互斥锁C++11提供了四种互斥锁:mutex:互斥锁。timed_mutex:带超时机制的互斥锁。recursive_mutex:递归互斥锁。recursive_timed_mutex:带超时机制的递归互斥锁。包含头文件:#include<mutex>1、mutex类......
  • day05 数组和二维数组
    今日内容数组二维数组教学目标能够知道数组的概念和作用能够使用数组的两种初始化方式能够通过索引访问数组元素能够完成数组的遍历能够理解数组在内存中的操作过程能够看懂数组常见的问题并知道如何解决能够完成数组的常见操作(求和、求最值)能够使用二维......
  • 怎么快速安全地调整磁盘分区的大小? 5 个免费分区管理器请收好
    分区管理器的必要性几乎所有新的膝上型电脑和PC都只有一个分区,C:\,与安装Windows的分区相同。不太精通技术的用户开始按照呈现给他们的方式使用计算机;他们将所有文档、图片、歌曲、电影等个人文件放在同一个分区上。整个驱动器上只有一个分区有很多缺点,因而很多时候需要进......
  • 二维数组和数组指针数组的关系
    在深入理解指针end中,我在最后写了一长段代码#include<stdio.h>voidtest1(intarr[][5],intx,inty)//voidtest1(int(*p)[5],intx,inty){ for(inti=0;i<x;i++) { for(intj=0;j<y;j++) { //printf("%d",*(*(p+i)+j)); print......