首页 > 其他分享 >了解Kafka

了解Kafka

时间:2023-12-01 17:36:53浏览次数:23  
标签:生产者 分区 Broker Kafka 了解 集群 消息

背景介绍

Kafka 是一个消息系统,原本开发自 LinkedIn,用作 LinkedIn 的活动流(Activity Stream)和运营数据处理管道(Pipeline)的基础。现在它已被多家不同类型的公司作为多种类型的数据管道和消息系统使用。LinkIn于2010年贡献给了Apache基金会并成为顶级开源项目。

当今社会各种应用系统, 如商业,社交, 搜索,浏览等像信息工厂一样不断的生产出各种信息,那么

1.如何收集这些巨大的信息

2.如何分析它

3.如何及时的做到以上两点

以上几个挑战构成了一个业务需求的模型,即生产者(生产消息),消费者(消费消息),在在生产者和消费者之间需要一个沟通两者的桥梁-消息系统, 这种需求有也可以理解为不同系统之间如何传递消息。

Kafka 就是解决上述问题的一个框架, 它实现了生产者和消费者之间的无缝连接。

kafka的基础概念

生产者与消费者

 主题(Topic)与分区(Partition) 

Kafka中消息以主题(Topic)分类,每个主题对应一个消息队列。

 Broker和集群(Cluster)

一个kafka服务器也称为i而一个Broker,它几首生产者发送的消息并存入磁盘,broker同时服务消费者拉取分区消息的请求, 返回目前已经提交的消息。

若干个Broker组成一个集群,其中集群内某个Broker会成为集群控制器(Cluster Controller),它负责管理集群,包括分配分区到Broker, 监控Broker 故障等。

在集群内,一个分区由一个 Broker 负责,这个 Broker 也称为这个分区的 Leader;当然一个分区可以被复制到多个 Broker 上来实现冗余,这样当存在 Broker 故障时可以将其分区重新分配到其他 Broker 来负责。

多集群

随着业务发展,我们往往需要多集群,通常处于下面几个原因:

  • 基于数据的隔离;
  • 基于安全的隔离;
  • 多数据中心(容灾)

 

 

Reference:https://zhuanlan.zhihu.com/p/74063251

标签:生产者,分区,Broker,Kafka,了解,集群,消息
From: https://www.cnblogs.com/GlCh/p/17870560.html

相关文章

  • py01-前端了解
    前端了解:一、CSS框架(1)Bootstrap(http://getbootstrap.com/)二、JavaScript框架:(1)jQuery(https://jquery.com/)(2)Vue(3)React三、AJAX:(1)AJAX=异步JavaScript和XML(2)AJAX是一种用于创建快速动态网页的技术。通过在后台与服务器进行少量数据交换,AJAX可以使网页实现异步更新。这意味着......
  • 12.kafka单集群安装部署
    一.安装jdk,kafka需要至少jdk8+1.安装jdkyuminstalljava-11-openjdk.x86_64-y 2.查看安装是否正常[root@localhostbin]#java--versionopenjdk11.0.212023-10-17LTSOpenJDKRuntimeEnvironment(Red_Hat-11.0.21.0.9-1.el7_9)(build11.0.21+9-LTS)OpenJDK......
  • 深入了解HMAC加密技术:原理、应用与实践
    一、引言在网络安全领域,消息认证码(MAC)是一种重要的技术手段。Hash-basedMessageAuthenticationCode(HMAC)作为其中的一种,凭借其简单、高效、安全的特性,广泛应用于各种网络通信场景。本文将详细介绍HMAC的原理、应用与实践,帮助读者深入了解这一技术。HMAC在线加密--一个覆盖广泛......
  • 深入了解HMAC加密技术:原理、应用与实践
    一、引言在网络安全领域,消息认证码(MAC)是一种重要的技术手段。Hash-basedMessageAuthenticationCode(HMAC)作为其中的一种,凭借其简单、高效、安全的特性,广泛应用于各种网络通信场景。本文将详细介绍HMAC的原理、应用与实践,帮助读者深入了解这一技术。HMAC在线加密--一个覆盖......
  • 哪里可了解低代码数据可视化开发平台?
    如果想要提升办公协作效率,可以用什么样的平台助力实现这一目标?其实,随着市场竞争的日益加剧,低代码技术平台的应用价值也逐渐凸显出来,其可视化、易操作、灵活便利等优势特点,是很多中大型企业倾向于使用的数据可视化开发平台。想要了解低代码数据可视化开发平台的相关信息,通过这篇文......
  • kafka docker-compose 单节点部署
    启动脚本sed-i-r"s/[0-9]{1,3}(\.[0-9]{1,3}){3}/$(ifconfig$(iprouteshowdefault|head-1|awk'{print$5}')|grep-oP'(?<=inet\s)\d+(\.\d+){3}')/g"docker-compose.ymldocker-composeup-ddocker-compose.ymlversion......
  • Docker + supervisor在同一容器中部署zookeeper和kafka
    使用supervisor进程管理工具,在同一个容器中部署zookeeper和kafka目录Dockerfilejdk1.8.0_181.tar.gzkafka_2.12-1.1.0.tgzconf.ddocker-compose.ymlkafka_conf.dconf.d中为supervisor配置文件kafka_conf.d中为kafka配置文件,解压kafka_2.12-1.1.0.tgz中的配置文件,拷贝......
  • 深入了解MD5加密技术及其应用与局限
    一、MD5简介MD5(MessageDigestAlgorithm5)是一种单向散列函数,由美国密码学家罗纳德·李维斯特(RonaldLinnRivest)于1991年发明。它主要用于将任意长度的消息映射成固定长度的摘要,从而实现消息的完整性验证、数字签名等功能。MD5加密技术在我国网络安全领域有着广泛的应用,但近年来......
  • [信创]--关于信创,你需要了解的
    信创是什么意思?神秘的“信创” 一分钟带你了解信创 信创-包括国内哪些各细分行业和上市公司?---内容来自网络整理......
  • kafka中如何创建topic?
    通过如下的命令创建topickafka-topics.sh\--bootstrap-server<Kafka集群地址>\--create\--topic<Topic名称>\--partitions<分区数>\--replication-factor<副本因子>  示例bin/kafka-topics.sh\--bootstrap-server122.12......