首页 > 其他分享 >kafka - [01] 概述

kafka - [01] 概述

时间:2024-04-23 16:57:14浏览次数:25  
标签:01 broker Kafka topic 概述 消息 offset kafka

Kafka是一个分布式的基于发布/订阅模式的消息队列,主要应用于大数据实时处理领域。

 

一、什么是Kafka

Kafka是一个分布式的数据流式传输平台。

1、Apache Kafka是一个开源消息系统,由scala写成。是由Apache软件基金会开发的一个开源消息系统项目。

2、Kakfa最初是由LinkedIn公司开发,并于2011年初开源,2012年10月从Apache Incubator毕业,该项目的目标是为处理实时数据提供一个统一、高通量、低等待的平台。

3、kakfa是一个分布式消息队列。Kafka对消息保存时根据Topic进行归类。发送消息者称为Producer,消息接收者称为Consumer,此外Kafka集群由多个Kafka实例组成,每个实例(Server)也称为broker。

 

二、核心概念

Apache Kafka是一个开源的消息系统、消息中间件、Scala语言实现的消息系统。

broker

每个Kafka服务器就是一个broker。kafka集群由多个broker组成。

topic

数据主题,数据存放在不同的topic中。可以由多个消费者来消费它的数据。

partition

分区,一个topic可以划分为多个partition。通过分区,topic可以进行扩展。topic可以通过分区让多个消费者消费,以此提高消费的并行度。

offset

偏移量,数据会按照时间顺序追加到结构化的提交log中。offset是有序且不可变的。偏移量由消费者控制,消费者可以通过指定偏移量来重新消费过去的数据。

producer

生产者,就是向broker发送消息的客户端。负责将记录分配到topic的指定分区中。

consumer

消费者,从broker接收消息的客户端。需要维护读取数据的offset,offset在kafka0.9之前保存在zk,0.9版本之后保存在kafka的topic: "__consumer_offsets" 中。

 

 

 

三、标题

 

 

 

— 要养成终身学习的习惯 —

标签:01,broker,Kafka,topic,概述,消息,offset,kafka
From: https://www.cnblogs.com/houhuilinblogs/p/18153218

相关文章

  • Azure REST API (0) 概述
    《WindowsAzurePlatform系列文章目录》 1.概述1.我们在使用Azure云服务的时候,可以通过AzurePortal: https://portal.azure.com,输入邮箱地址和密码,然后通过交互式(鼠标点击)的方式创建或者删除微软云的资源2.我们也可以通过API或者SDK的方式进行调用,集......
  • Metasploit Pro 4.22.3-2024041701 (Linux, Windows) - 专业渗透测试框架
    MetasploitPro4.22.3-2024041701(Linux,Windows)-专业渗透测试框架Rapid7Penetrationtesting,ReleaseApr17,2024请访问原文链接:MetasploitPro4.22.3-2024041701(Linux,Windows)-专业渗透测试框架,查看最新版。原创作品,转载请保留出处。作者主页:sysin.org世......
  • 关于Windows 10 LTSC 2019无法安装Edge的解决方案
    最近新换了Windows10LTSC2019系统,使用体验干净且流畅,但是在更新Edge时遇到了问题:系统内装的是9x版本的Edge浏览器,并且提示更新错误,有systemlevel方面的问题,查询多方后,最终在MicrosoftCommunity中找到了解决方案,在任意地方创建一个名为edge.reg的注册表文件,具体名称随意,然后用......
  • sh001基于springboot+vue的线上医院挂号系统[带LW文档]
    介绍线上医院挂号系统管理员功能主要包括:个人信息管理、用户管理、论坛管理、医生管理、医生留言管理、单页数据管理、个人中心基础数据管理、医生挂号订单管理、轮播图设置等功能由于本系统的功能模块设计比较全面,所以使得整个线上医院挂号系统信息管理的过程得以实现。获取......
  • Shell阶段01 shell脚本概述, 脚本规范, shell执行方式, shell变量
    Shell什么是ShellShell就是一个命令解释器。Shell分为交互式shell和非交互式shell。交互式Shell就是命令行上面一条一条命令的执行非交互式Shell就是以脚本的方式运行。通过变量$-来查看是否是交互式或者非交互式Shell交互式和非交互式的区别[root@shell01~]#echo......
  • Linux基础-01:Linux命令的基本格式
    2.1.1命令提示符在CentOS7操作系统中,Linux命令提示符就像是你与电脑交流的一个小标志,告诉你系统已经准备好接受你的指令了。它通常会显示在你打开的终端窗口或控制台的最前面。让我们来看一个示例:[root@node01~]$在这个示例中:root:是当前登录的用户名。@:分隔符号,没有特......
  • 新手大白话 [SWPU 2018]SimplePHP Phar反序列化
    今天再做个Phar反序列化巩固下。进入题目发现了查看文件与上传文件,与自己的IP。利用burp抓包进行查看,先尝试index.php,发现base.php,查看base.php发现flag所在文件,再查看file.php,发现function.phpclass.php点击查看代码class.php<?phpclassC1e4r{public$t......
  • 记录真实项目中遇到的bug--010:支付截止bug
    T10:支付截止bug:1.优先级:T22.前提条件:已到截止时间,用户A未刷新页面3.预期结果:用户A点击支付宝,提示:支付已截止,并返回dashboard页面4.实际结果:用户A点击支付宝展示空白页5.缺陷跟踪:bug同步产品,告知先放着,只记录,不更改。6.总结:跟支付策略有关,无法修改原因:浏览器禁止用户在做异......
  • Dynamics CRM 2013 批处理
    GetServiceusingSystem;usingSystem.Configuration;usingMicrosoft.Xrm.Client;usingMicrosoft.Xrm.Client.Services;usingMicrosoft.Xrm.Sdk;usingMicrosoft.Xrm.Sdk.Query;namespaceTest{classProgram{staticvoidMain(string[]args)......
  • Windows Server 2019 OVF, updated Apr 2024 (sysin) - VMware 虚拟机模板
    WindowsServer2019OVF,updatedApr2024(sysin)-VMware虚拟机模板2024年4月版本更新,现在自动运行sysprep,支持ESXiHostClient部署请访问原文链接:WindowsShttps://sysin.org/blog/windows-server-2019-ovf/erver2019OVF,updatedApr2024(sysin)-VMware虚......